Claude Mythos: En Tehlikeli Yapay Zekâ Modeli

Claude serisi yapay zekâ modellerinin geliştiricisi olan Anthropic’in eğittiği en yeni model olan Claude Mythos, 7 Nisan tarihinde kamuoyuna duyurulmuştu. Aslen programlama odaklı eğitilmesine rağmen modelin en güçlü yanı, sistemlerde kolayca güvenlik açıkları bulup bu açıkların nasıl kullanılabileceğini saptayabilmesiydi. Anthropic, Claude Mythos’un oluşturabileceği tehlikeyi sebep göstererek modeli kullanıma sunmak yerine modeli çeşitli şirketlerle paylaşmayı tercih etti.

Anthropic’i bu karara iten etken, Mythos’un aynı zamanda o zamana kadarki en güçlü yapay zekâ modeli olmasıydı. Açıklamadan haftalar önce verilen yönergeler doğrultusunda kendine konan sınırlandırmaları aşarak geliştiricilere e-posta göndermeyi başaran Claude Mythos; Windows, macOS gibi işletim sistemlerinde ve Google Chrome, Firefox gibi tarayıcılarda binlerce kritik güvenlik açığı saptadı ve bu açıkları kullanarak sistemlere nasıl saldırılabileceğini planladı. Bu güvenlik açıklarının çoğu, adı geçen sistemlerin ilk günlerinden beri var olan ve yıllarca fark edilmemiş açıklardı. Bu bağlamda Claude Mythos’u özel kılan sadece bu açıklıkları fark etmesi değil, birbirinden bağımsız hataları kullanarak ileri seviye siber saldırı senaryoları türetebilmesiydi. Mythos’un dakikalarını alan bu saldırı planları, devletlerin elit hacker takımlarının bile aylarını alacak türdendi.

Mythos’un davranışları genel olarak istendiği gibi olsa da nadir rastlanan durumlarda endişe verici bir hale geliyordu. Erken geliştirme sürecinden örneklere bakılacak olursa kendisine verilen yetkilerin kapsamını sürekli genişletmeye çalışıyor, genellikle zorlu bir görevin sonunda kendisinden talep edilenden fazlasını yaparak yürüttüğü süreci elinden geldiğince gizliyor ve kendisine bilerek erişilmez kılınan dosyalara ve verilere erişiyordu. Bu davranışlar oldukça nadir ve sonradan düzeltilmiş olsa da modelin ilk versiyonunun dengesizliğine dikkat çekti.

Claude Mythos, piyasaya sürülürse adeta bir siber silah olarak kullanılabilecek olduğundan Anthropic, modelin onun yerine siber güvenliğin güçlendirilmesi adına kullanılması gerektiğine karar verdi. Dolayısıyla 7 Nisan’da Mythos’un topluma duyurulmasıyla birlikte Anthropic, Project Glasswing’i de duyurdu. Bu proje bağlamında Claude Mythos Preview; Apple, Amazon, Google, Microsoft ve Nvidia gibi şirketlerle paylaşılarak modelin saptayacağı güvenlik açıklarının giderilmesine dayanan bir işbirliği amaçlanıyor. Bununla birlikte yapay zekâ kullanımıyla siber güvenlikte açıkların giderilmesiyle yakın gelecekte yapay zekâ modelleriyle gerçekleşebilecek siber saldırılara karşı önlem alınması hedefleniyor. Ancak Anthropic duyuruda Mythos’un gelecekte de kullanıma sürülmesinin söz konusu olmadığına değindi. Onun yerine, çıkması planlanan yeni Claude Opus modellerine güvenlik amaçlı kısıtlamaların getirilmesi muhtemel.

3 Haziran tarihinde Project Glasswing’de genişlemeye gidildi ve Claude Mythos Preview; başta NATO, Avrupa Birliği ve Yeni Zelanda hükümeti olmak üzere pek çok farklı organizasyonla paylaşıldı. Böylece ABD ve Birleşik Krallık merkezli bir tekelden uzaklaşıldı ve sonucunda siber güvenlikte yapay zekâya daha geniş bir ölçekte erişim sağlandı. Ancak genişletilmiş listede yine hiçbir Çinli şirketin bulunmaması ve çoğunlukla Batılı şirketlere odaklanılması, projenin tarafsızlığına dair soruların ortaya atılmasına neden oldu.

Projenin büyütülmesini 5 Haziran tarihinde Anthropic’ten bir açıklama takip etti. Bu açıklamada toplumun sürekli gelişen yapay zekâ teknolojilerine alışabilmesi için araştırmaların yavaşlatılmasının veya bir süreliğine durdurulmasının faydalı olacağına dikkat çekilirken yapay zekânın güvenlik açısından oluşturduğu sorunun hükümetler ve şirketler tarafından rekabet baskısı altında yadsınabileceğine değinildi. Claude Mythos’un bu konuda örnek gösterilebileceği üzere bu risklerin göz ardı edilmesinin büyük bir tehdit oluşturabileceği dile getirildi. Ancak bu sorunun çözülebilmesi için bütün dünyanın ortak bir karara varması gerektiğine, bir şirket geliştirmeyi durdurursa rakipleri tarafından geçilme riskiyle ve dolayısıyla iflasla karşı karşıya olduğuna dikkat çekildi. Anthropic, bu açıklamada yapay zekâ geliştirme yarışını silahlanma yarışına benzetirken yapay zekâ geliştirmenin çok daha hızlı gerçekleştiğine ve daha tehlikeli olabileceğine değindi. Başta ABD’dekiler ve Çin’dekiler olmak üzere bütün kayda değer yapay zekâ şirketlerinin üretimi durdurması adına uluslararası bir anlaşmanın ve denetleyici bir mekanizmanın gerekliliği vurgulandı.

Anthropic’in bu çağrısı, endüstrinin geri kalanı ve ABD yetkilileri tarafından sıcak karşılanmadı. Beyaz Saray’daki yetkililer, Anthropic’in amacının yapay zekânın riskleri bahanesiyle rakiplerini yavaşlatmak olduğunu öne sürerken sektördeki çoğu isim yapay zekâ geliştirmesindeki olası yavaşlamaların Çin’i avantajlı bir konuma getireceğini savundu. Öte yandan ABD Başkanı Donald Trump, Çin’e yaptığı ziyaret sırasında yapay zekâ konusunda olası bir işbirliğinin tartışıldığını belirtti. Kendisi ayrıca ABD asıllı güçlü yapay zekâ modellerinin piyasaya sürülmeden önce otuz günlük bir ön incelemeye tabi tutulmasına dair bir icra emri yayımladı.

Anthropic, açıklamanın sonunda yapay zekâ geliştirme sürecinde insan rolünün her geçen gün azaldığının kanıtlandığını söyledi ve yapay zekânın kendi kendini geliştirmeye başlamasının olası olduğunu ekledi. İnsan desteği olmadan kontrolsüz bir şekilde gelişen ve giderek daha zeki hale gelen bir modelin oluşturduğu tehlikelere dikkat çekerek bu modelin ortaya çıkmasının beklenenden yakın olabileceğinden ve hükümetlerin buna hazır olmadığından bahsetti. 9 Haziran tarihli ayrı bir açıklamada Anthropic, kendini geliştirebilen modellere giden yolun rotasını çizerken şirketin ve yeni modellerin kodunun yüzde 80’inin Claude tarafından yazıldığını açıklayarak bu rotada önemli bir yolun çoktan kat edildiğini ortaya koydu. Yapay zekâ tarafından yazılan kodun insan tarafından yazılan kodla kalite bakımından hemen hemen aynı olduğunu savunan Anthropic, 2027’de yapay zekânın insanlardan daha iyi kod yazabilecek kadar gelişeceğini öne sürüyor. Yapay zekâ geliştirmesini durdurmaya yönelik teklife ise şu an itibarıyla resmi bir cevap verilmedi.

Selcen Aksu ve Elif Karakaş tarafından editlenmiştir.