Yapay Zekayı Geliştirenler Şimdi Neden Uyarıyor?

“Kimse gerçekten hazırlıklı değil.” Bu sözler bir yapay zekâ eleştirmenine değil, OpenAI’ın Baş Bilim İnsanı Jakub Pachocki’ye ait. Dünyanın en gelişmiş yapay zekâ sistemlerinden bazılarını geliştiren ekibin başındaki Pachocki, makine zekâsındaki hızlı ilerlemenin sonuçlarına dikkat çekiyor. Ortak güvenlik standartlarından, bağımsız denetimden ve gerektiğinde geliştirme hızının düşürülmesinden söz ediyor. Birkaç yıl içinde sorulara cevap veren sistemlerden, bazı görevleri kendi başına planlayabilen modellere geldik.

Birkaç yılda ne değişti?

ChatGPT Kasım 2022’de kullanıma açıldığında insanları en çok şaşırtan şeylerden biri, bir bilgisayarla neredeyse karşılıklı konuşabilmekti. O dönemde bile şiir yazabiliyor, sınav sorusu çözebiliyor, e-posta hazırlayabiliyor ve kod üretebiliyordu. Aradan henüz dört yıl bile geçmedi. Bugünkü modeller görüntü ve video üretebiliyor, karmaşık matematik problemleri çözebiliyor, yazılım geliştirebiliyor, uzun belgeleri inceleyebiliyor ve araştırma yapabiliyor. Birkaç yıl önce merakla denediğimiz yapay zekâ sohbet asistanları (chatbotlar), milyonlarca insanın günlük çalışma araçları arasına girdi.

Pachocki’nin özellikle üzerinde durduğu gelişmelerden biri, sistemlerin daha az insan müdahalesiyle çalışabilmesi. Yeni modellere bir hedef verildiğinde işi adımlara bölebiliyor, plan yapabiliyor, farklı araçlardan yararlanabiliyor ve bazı görevleri baştan sona yürütebiliyorlar.

Yapay zekâ sohbet asistanından ajana

Bir yapay zekâ sohbet asistanına (chatbot) “Son beş yılda elektrikli araç satışları nasıl değişti?” diye sorduğunuzda size bir cevap verir. Bir AI ajanına “Elektrikli araç pazarını araştır ve bana bir rapor hazırla” diyebilirsiniz. Ajan hangi bilgilere ihtiyacı olduğunu belirleyebilir, kaynakları tarayabilir, verileri karşılaştırabilir ve bulduklarını bir raporda toplayabilir. Aynı beceriler daha riskli işlerde de kullanılabilir. Yapay zekâ güvenlik açıklarını bulmak, kod yazmak ve bir siber saldırının bazı aşamalarını yürütmek için kullanılabiliyor.

Kontrol sorunu

Bir yapay zekâya işi nasıl yapacağını anlatmak yerine yalnızca hedef vermeye başladığımızda kontrol daha karmaşık hale geliyor. Yapay zekâ araştırmalarında buna “alignment” deniyor: Sistem verilen görevi yaparken insanın koyduğu sınırların dışına çıkmamalı. Bir sistem kendisine verilen görevi başarıyla tamamlarken kullanıcının hesaba katmadığı bir yöntem seçebilir.

Pachocki’nin kaygılarından biri, modellerin kabiliyetleri artarken onları izleme imkânlarımızın aynı hızda gelişmemesi. Sistem daha fazla kararı kendi verdiğinde, hangi adımları attığını ve neden o yolu seçtiğini anlayabilmek gerekiyor.

Kim denetleyecek?

Pachocki, belirli bir risk seviyesini aşan sistemler için ortak güvenlik standartları belirlenmesini, bunların bağımsız kurumlar tarafından denetlenmesini ve gerektiğinde şirketlerin geliştirme hızını düşürmesini öneriyor. Uygulamada bunun önünde ciddi bir rekabet sorunu var. Bir şirket güvenlik gerekçesiyle yavaşladığında rakiplerinin de aynı kararı vereceğinin garantisi bulunmuyor. Rekabet ülkeler arasında da sürüyor. ABD ve Çin başta olmak üzere birçok ülke yapay zekâyı ekonomik güç, teknoloji ve savunma açısından stratejik bir alan olarak görüyor.

Bir başka sorun, bir modelin piyasaya çıkacak kadar güvenli olduğuna kimin karar vereceği. Bugün bu kararın büyük kısmı modeli geliştiren şirketlerin elinde. Testleri yapıyor, gördükleri riskleri açıklıyor ve alınacak önlemlerde söz sahibi oluyorlar. Cambridge Üniversitesi’nden Prof. Gina Neff, teknoloji şirketlerinin yarattığı sorunların çözümünün yine bu şirketlere bırakılamayacağını savunuyor. Encode AI’dan Nathan Calvin ise modeller ve güvenlik testleri hakkında daha fazla bilgi paylaşılmasını istiyor. Bir yandan da şirketlerin milyarlarca dolar yatırdıkları modelleri rakiplerinden önce piyasaya çıkarma baskısı var.

Bağımsız denetim de tek başına kolay bir çözüm sunmuyor. Modelleri değerlendirebilecek teknik uzmanlara, doğru testlere ve sürekli güncellenen kurallara ihtiyaç var. Üstelik şirketler aylar içinde yeni modeller çıkarabilirken bir yasanın hazırlanması ve yürürlüğe girmesi çok daha uzun sürebiliyor. Yasaların bu hıza nasıl yetişeceği hâlâ belirsiz.

Yapay zekâ sınır tanımıyor, yasalar tanıyor

Hızın yanında bir de coğrafya sorunu var. Avrupa Birliği, AI Act ile yapay zekâ sistemlerini risk düzeylerine göre sınıflandırıyor ve yüksek riskli uygulamalara daha sıkı kurallar getiriyor. ABD ve Çin farklı yaklaşımlar izliyor. Bir ülkede geliştirilen model ise dünyanın başka bir yerindeki milyonlarca kişiye neredeyse anında ulaşabiliyor.

Ülkelerin aynı riskleri önceliklendirmesi veya hangi noktada müdahale edilmesi gerektiği konusunda anlaşması kolay görünmüyor. Teknoloji çoktan küresel ölçekte çalışıyor; denetim ise hâlâ büyük ölçüde ulusal ve bölgesel kurumların elinde.

Türkiye bu tartışmanın neresinde?

Kişisel Verileri Koruma Kurumu, üretken yapay zekâ çalışmalarının ardından “Etken Yapay Zekâ” başlıklı ayrı bir doküman yayımladı. Burada ele alınan sistemler, bir hedef verildiğinde çeşitli adımları planlayabilen, araçları kullanabilen ve belirli ölçüde otonom hareket edebilen yapay zekâ ajanları. KVKK özellikle bu sistemlerin hangi verilere eriştiğine, bunları ne amaçla kullandığına ve süreç içinde yeni veriler üretip üretmediğine bakıyor.

Kişisel veriler, konunun yalnızca bir bölümü. Bir ajan yanlış bir karar verirse sorumluluk kimde olacak? Hangi sistemlerin piyasaya çıkmadan önce bağımsız testlerden geçmesi gerekecek? Bir modele ne kadar hareket alanı verilebileceğine kim karar verecek? Avrupa Birliği’nin AI Act’i bu soruların bir bölümüne risk temelli kurallarla cevap vermeye çalışıyor. Türkiye’deki çalışmaların önemli bir kısmında kişisel verilerin korunması ve veri güvenliği öne çıkıyor.

Türkiye Büyük Millet Meclisi’ne son yıllarda yapay zekânın kullanımına ve düzenlenmesine ilişkin çeşitli kanun teklifleri sunuldu. Bunlar henüz Avrupa Birliği’nin AI Act’i gibi tek ve kapsamlı bir çerçeve oluşturmuş değil. Denetim, sorumluluk ve güvenlik konusunda Türkiye’nin nasıl bir yol izleyeceği henüz belli değil.

Dört yıl önce yapay zekânın neler yapabileceğini konuşuyorduk. Şimdi onu geliştirenler, ne kadar ileri gitmesi gerektiğini tartışıyor.

Selcen Aksu tarafından editlenmiştir.