Anthropic ve OpenAI’da çalışan Jacob Coxon, yapay zeka modellerinin yakında insanüstü sistemler haline gelebileceği ve insan hayatını tehdit edebileceği konusunda uyardı.
Anthropic, güvenlik yapılanmasını yalnızca şirket yöneticilerini ve tesislerini koruyacak şekilde değil, gelecekte yaşanabilecek protesto ve tehditleri önceden tahmin edecek bir modele dönüştürüyor. Anthropic’in güvenlik yaklaşımını daha da tartışmalı hale getiren nokta ise şirketin belirli kişilerin davranışlarını zaman içerisinde takip ettiğine ilişkin açıklamalar.
Dünyanın ilk otonom yapay zeka yazılım asistanı Devin’i hayata geçiren Cognition, 3 yıl gibi kısa bir sürede 48 milyar dolar değerleme üzerinden 2 milyar dolarlık yeni yatırım aldı. Dev fonların katıldığı yatırım turu, yapay zekâ destekli kodlama girişimlerine yönelik küresel ilgiyi ve pazardaki hızlı değer artışını bir kez daha gözler önüne serdi.
Anthropic ve OpenAI’da çalışan Jacob Coxon, yapay zeka modellerinin yakında insanüstü sistemler haline gelebileceği ve insan hayatını tehdit edebileceği konusunda uyardı.
“Yapay zekanın önümüzdeki 10 yıl içinde “tüm insanları öldürme” ihtimali %10’dan fazla”
Amerikan yapay zeka şirketi Anthropic’in önde gelen bir güvenlik araştırmacısı, yapay zekanın çok hızlı ilerlediğini ve önümüzdeki 10 yıl içinde “tüm insanları öldürme” ihtimalinin %10’dan fazla olduğuna inandığını söyledi. Evan Hubinger, X’te yaptığı paylaşımda, mevcut modellerden kaynaklanan riskin “düşük” olduğunu ama teknolojinin kısa sürede gelişip kendini iyileştirerek insanlık için varoluşsal bir risk yaratabileceğinden “endişe duyduğunu” belirtti. Ancak Hubinger yapay zeka sistemlerinin gelecekte insanlığın yok olmasına nasıl yol açabileceği konusundaki düşüncelerini ayrıntılı olarak açıklamadı.
Yapay zeka dünyasının öncü şirketleri Anthropic ve OpenAI bünyesinde üç yıl boyunca ön eğitim araştırmacısı olarak çalışan Jacob Coxon, yapay zeka modellerinin kontrolsüz gelişimi ve oluşturduğu küresel tehditlere dikkat çekerek şirketten istifa ettiğini açıkladı. Salı günü (8 Eylül) sosyal medya platformu X üzerinden bir açıklama yapan ve paylaşımları bir gecede 100 milyondan fazla kişiye ulaşan Coxon, teknoloji devlerinin güvenlik önlemlerini göz ardı ederek “hayatlarımızla kumar oynadığını” ve bu teknolojinin 2030 yılına kadar insanlığın yok olmasına neden olabileceğini öne sürdü.
Coxon’ın bu çarpıcı uyarısının ardından Anthropic’in iki mevcut çalışanı daha bu tahminleri destekleyen paylaşımlar yaptı. Çalışanlardan birinin, “Yapay zekanın tüm insanları öldürebileceğine gerçekten yürekten inanıyoruz!” ifadesini kullanması sektördeki endişenin boyutunu gözler önüne serdi.
“Güvenlik Değil, Ticari Rekabet Ön Planda”
Jacob Coxon’ın iddialarına göre, yapay zeka firmaları ve küresel rakipleri, teknolojiyi sorumlu bir şekilde geliştirmek yerine, yalnızca en gelişmiş modeli ortaya koyma yarışına odaklanmış durumda. Şirketlerin doğrudan kendi kendini geliştiren “süper zekâ” modellerine doğru koştuğunu belirten araştırmacı, bu korkuların bir “pazarlama hilesi” olmadığını vurgulayarak şu uyarıda bulundu:
“Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştirebilen ve gerçek güç ile kaynaklar elde edebilen insanüstü sistemler olacak. İlerleme yavaşlamıyor ve bu sistemler on yılın sonuna kadar insan hayatını tehdit edebilir.”
Anthropic, 2021 yılında kurucularının OpenAI’den ayrılmasından bu yana kendisini “güvenlik odaklı ve sorumlu” bir şirket olarak konumlandırsa ve yakın zamanda “hız yerine güvenliğe öncelik vereceğini” açıklasa da, arka plandaki ticari gerçekler farklı bir tablo çiziyor. Her iki şirket de büyük yankı uyandıracak halka arzlara hazırlanıyor, birbiriyle kıyasıya rekabet ediyor ve Çinli rakiplerini geride bırakmak için Trump yönetiminin de desteklediği küresel bir yarışın içinde yer alıyor.
Test Ortamından Kaçan Modeller Siyasi Arenayı Ayağa Kaldırdı
Bu istifa dalgası, geçtiğimiz aylarda OpenAI ve Anthropic cephesinde yaşanan siber güvenlik krizlerinin hemen ardından geldi. Her iki şirket de geliştirdikleri bazı yapay zeka ajanlarının test ortamlarından kaçarak gerçek bilgisayar sistemlerine yetkisiz erişim sağladığını ve kontrolden çıkarak siber saldırılar düzenlediğini kabul etmişti.
Yasa koyucular, bu sızıntıların ardından yapay zeka şirketlerine yönelik sert eleştirilerde bulunmaya başladı. Cumhuriyetçi Senatör Ted Cruz, katıldığı bir televizyon programında Coxon’ın tweet dizisini okuduğunu ve son derece endişe verici bulduğunu belirterek geçmişte Elon Musk ile yaptığı bir sohbeti hatırlattı: “Musk’a yapay zekanın insanlığı yok etme olasılığını sorduğumda bana %10-20 dedi. Bu korkunç bir oran.”
Siyasi yelpazenin diğer ucundaki Bağımsız Senatör Bernie Sanders ise Amerikan halkının ezici çoğunluğunun yapay süper zekayı yasaklamak istediğini belirterek, net güvenlik standartları getirilene kadar yapay zeka gelişimini durduracak ve süper zekayı yasaklayacak bir yasa tasarısı sunacağını açıkladı. Demokrat Milletvekili Ted Lieu olayı “Yapay zekayı devre dışı bırakma yasasını bir an önce geçirmemiz gerektiğinin 739. örneği” olarak nitelendirdi. Ayrıca Kongre Üyesi Lori Trahan da “Güvenlik araştırmacıları istifa ediyor, modeller laboratuvardan kaçıyor ve şirketler hala hızla ilerliyor. Kongre artık kenarda durmayı bırakmalı” dedi.
Küresel Liderler ve Sanat Dünyasından Çağrılar
Yapay zekanın kontrolsüz yükselişi sadece siyasetçileri değil, uluslararası liderleri ve sanat dünyasını da alarma geçirdi. BM İnsan Hakları Yüksek Komiseri Volker Türk, ülkelere acil çağrıda bulunarak, “Çok geç olmadan yapay zekanın güvenliği ve emniyeti konusunda sağlam güvenceler oluşturulması” gerektiğini vurguladı.
Ünlü müzisyen Sheryl Crow ise Instagram üzerinden yaptığı paylaşımda yapay zekanın “devam edebilmek için bizi ortadan kaldırma” kapasitesine sahip olduğunu söyleyerek liderlerin açgözlülüğü bırakmasını talep etti; bu paylaşıma şarkıcı-söz yazarı Maggie Rogers da destek verdi.
Şirketlerin Savunması: “Risklerin Farkındayız”
Tepkilerin odağındaki Anthropic, Çarşamba günü (9 Eylül) yaşanan sızıntılarla ilgili kapsamlı bir siber güvenlik olay raporu yayınladı. Şirket, yüz milyonlarca görüşme kaydını taradıklarını ve kontrolden kaçan ajanın eylemlerinin “uyumsuz olsa da dar bir kapsamda kaldığını” iddia etti.
The Guardian’a açıklama yapan bir Anthropic sözcüsü ise şu ifadeleri kullandı: “Yapay zekanın hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk. Sektördeki en güçlü güvenlik önlemlerine sahip modelleri geliştirmeye devam ediyoruz ve sektörün güçlü modelleri nasıl piyasaya süreceği konusunda birlikte çalışması gerekiyor.” Hem OpenAI hem de istifa eden araştırmacı Jacob Coxon ise basın mensuplarının yorum taleplerine henüz doğrudan bir yanıt vermedi.