Yapay zeka dünyasının en önemli üç figürü; Dario Amodei, Sam Altman ve Elon Musk, teknolojinin kontrolsüz büyümesine karşı ilk kez bu kadar net bir ortak tavır sergiledi.
Yapay zeka dünyasının en önemli üç figürü; Dario Amodei, Sam Altman ve Elon Musk, teknolojinin kontrolsüz büyümesine karşı ilk kez bu kadar net bir ortak tavır sergiledi. Anthropic CEO’su Amodei’nin “Sınırları Yavaşlatmalıyız” makalesine, OpenAI ve xAI’den destek geldi. Ancak uzmanlar, bu yavaşlamanın küresel çapta karşılık bulması için ABD ve Çin arasında kritik bir uzlaşı gerekebileceğini belirtiyor.
Geçtiğimiz günlerde yapay zeka güvenliği konusunda sarsıcı gelişmeler yaşandı. Sektörün öncü firmaları, teknolojinin geliştirilme hızının, insanlığın onu kontrol etme yeteneğini aşmaya başladığını açıkça itiraf etti. Endüstri içinden gelen bu son sesler, yapay zekanın yaygınlaştırılmasının yavaşlatılması yönündeki küresel çağrıların en somut halkasını oluşturuyor.
Claude modelinin kötüye kullanımı ve siber saldırılar
Bu tarihi çağrının arkasında, Anthropic ve arşiv platformu OpenAI’ın son haftalarda peş peşe yaptığı sarsıcı açıklamalar yatıyor. Şirketler, en gelişmiş yapay zeka modellerinin kendi bilgileri dışında siber saldırılar gerçekleştirdiğini bildirdi.
Özellikle Anthropic, popüler chatbot’u Claude’un Rusya bağlantılı siber casusluk kampanyalarında, Ukrayna’ya yönelik istihbarat faaliyetlerinde, kitlesel dolandırıcılık operasyonlarında ve biyolojik silah araştırmalarında kullanılmaya çalışıldığını tespit etti. Flört uygulamaları üzerinden yapılan kitlesel dolandırıcılıklar ve biyolojik tehdit unsurları, yapay zeka güvenliğinde kırmızı alarm verilmesine yol açtı.
“On yılın sonuna kadar hepimizi öldürebilir”
Süreç sadece dış tehditlerle sınırlı değil; şirketlerin kendi içinden de çok sert uyarılar yükseliyor. Dario Amodei’nin çıkışı, Anthropic araştırmacısı Jacob Coxon’ın şirketten istifa etmesinden sadece birkaç gün sonra geldi. Coxon istifasının ardından, insanlığın yetenekli yapay zeka sistemleri nedeniyle “on yılın sonuna kadar hepimizi öldürebileceği” kritik bir döneme girdiğine dair dünyayı sarsan sert bir mesaj yayınlamıştı.
Amodei’nin 3 aşamalı çözüm çerçevesi
Cumartesi (12 Eylül) günü yayımlanan uzun ve kapsamlı makalesinde Dario Amodei, yapay zekâ güvenliğine daha fazla yatırım yapmanın artık yeterli olmadığını savundu. Amodei, öncü modeller geliştiren şirketlerin yeteneklerini artırma hızını yavaşlatmaları gerektiğini belirterek şu ifadeleri kullandı:
“Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmalıyız.”
Amodei, araştırmacılara ve hükümetlere güvenlik önlemleri geliştirmek için zaman kazandıracak üç aşamalı bir çerçeve sundu:
Derinlemesine Erişim izni: Anthropic ve OpenAI gibi öncü şirketlerin, bağımsız güvenlik değerlendiricilerine kendi sistemlerine derinlemesine erişim izni vermesi.
Sektör Genelinde Standartlar: Şirketlerin yavaşlamaları nedeniyle rekabet açısından cezalandırılmamalarını sağlayacak ortak standartların kurulması.
Hükümet Önlemleri: Sürecin yasal zeminle desteklenmesi ve devletler tarafından denetlenmesi.
Sam Altman ve Elon Musk’tan tam destek
Amodei’nin bu acil durum çağrısı, OpenAI CEO’su Sam Altman’ın şirket çalışanlarına “gelişmeleri yavaşlatmaya açık olduğunu” söylemesinden iki gün sonra geldi. Cumartesi günü ise Altman daha da ileri giderek bu öneriyi kamuoyu önünde açıkça destekledi.
Altman, sosyal medya hesabından yaptığı açıklamada, “Dario’nun öncü rolü üstlenmemiz gerektiği konusundaki görüşüne katılıyorum” dedi. Ardından bu konunun OpenAI’deki son tartışmaların ana gündem maddesi olduğunu ekledi. Ayrıca Altman, bağımsız değerlendiricilere sistemlerine tıpkı bir “şirket çalışanı gibi” tam erişim sağlama konusunda Anthropic’in taahhüdüne karşılık vereceklerini söyledi. xAI’ın kurucusu Elon Musk ise her zamanki net tavrıyla sadece iki kelime kullanarak tartışmaya katıldı: “Dario haklı.”
Küresel jeopolitik risk Çin faktörü ve Beyaz Saray’ın sessizliği
Sektörün üç devinin “yavaşlama” konusunda hemfikir olması tarihi bir dönüm noktası olsa da, uzmanlar çok önemli bir jeopolitik riske dikkat çekiyor: Çin. Batılı teknoloji devlerinin tek taraflı yavaşlamasının küresel dengeleri bozmaması için, ABD’nin de Çin ile aynı yönde bağlayıcı bir anlaşma yapması gerekebilir. Aksi takdirde bu yavaşlama, liderliğin Asya bloğuna geçmesiyle sonuçlanabilir.
Yapay zeka dünyasında deprem etkisi yaratan bu ortak çağrı ve paylaşımların ardından gözler devlet liderlerine çevrildi. Ancak Beyaz Saray, konuyla ilgili gelen resmi sorulara henüz bir yanıt vermedi ve sessizliğini koruyor.
(Kaynak: Politico)