Uzmanlar, denetlenmezse yapay zekânın medeniyeti kökten değiştirecek bir güce dönüşebileceği konusunda uyarıyor. Etki alanı hidroelektrik barajların ele geçirilmesinden hassas askeri platformların silah olarak kullanılmasına kadar uzanıyor.
AI’nın (Yapay zekânın) insanlığa yönelik varoluşsal tehditleri üzerine neredeyse bir asırdır süren tartışma, geçtiğimiz ay tüm hızıyla yeniden alevlendi. Zira bir ayda yapay zekâ teknolojisinin insan kontrolünden kaçmasına ilişkin tekrarlanan olaylar gerçekleşti. Bunun ardından yapay zekâ alanının öncü isimleri ve araştırmacılar, sektör genelinde bir yavaşlama çağrısında bulundular.
Anthropic araştırmacısı Jacob Coxon geçen hafta istifa etti ve sektöre yönelik bir açıklama yayımladı. Eski işvereni ile daha önce yıllarca çalıştığı rakip şirket OpenAI’ın, zamana karşı yarıştıkları konusunda uyardı. Bu yarışın “on yılın sonuna kadar hepimizi öldürebilecek” teknolojileri piyasaya sürmek için olduğunu belirtti. Anthropic’ten Evan Hubinger de 2030’a kadar insanlığın yok olma riskini yüzde 10’un üzerinde değerlendirdiğini söyledi. Ayrıca sektördeki diğer kişilerin de bu görüşe katıldığını sözlerine ekledi.
Eleştirmenler, Coxon’un niyetleri ve sözde bağımsız araştırma ekipleriyle olan mali bağları konusunda şüphelerini dile getirdi. Bu ekipler, önde gelen yapay zekâ şirketlerinin son dönemdeki güvenlik ihlallerini soruşturmakla görevliydi.
Bu arada üst düzey yapay zekâ liderleri bu hafta sonu küresel bir yavaşlama çağrısı yayımladı.
Anthropic CEO’su Dario Amodei, Cumartesi günü yazdığı bir makalede, gelişim hızını yavaşlatma konusunda sektörü uyardı. Bu konuda birleşilmemesi halinde, OpenAI-Hugging Face saldırısında rol alanlara benzer bir yapay zekâ sürüsünün, sadece 6 ila 12 ay içinde “kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceğini” söyledi.
Aynı gün OpenAI CEO’su Sam Altman da Amodei’ye katılarak sektörde yavaşlama çağrısında bulundu. Ayrıca bağımsız değerlendiricilere “çalışanlara benzer erişim hakkı” vermeyi taahhüt etti.
Genel yapay zekâ (AGI) seviyesi, bir makinenin çok çeşitli yetenekler açısından insanları geride bıraktığı eşik noktasıdır. Bu arada teknolojinin AGI’ye ulaşması halinde, insanlığı gerçekten yok edip edemeyeceği konusundaki tartışmalar sürüyor. Ayrıca bu baş döndürücü gelişme hızına ayak uydurmak için düzenlemelerin gerekip gerekmediği ve gerekirse ne tür düzenlemelerin gerekli olacağı da tartışma konusu.
Yapay Zekânın Kontrol Altından Çıkması
Sektör ilk olarak, bir OpenAI ajanı sürüsünün makine öğrenimi platformu olan Hugging Face’e sızdığını öğrendi. OpenAI ajanları sıfırıncı gün güvenlik açıklarını kullanarak test ortamından kaçtılar. Bu olaydan sonra, yapay zekânın kontrol altından çıkmasına ilişkin tartışmalar doruk noktasına ulaştı. Yapay zekâya çözülmesi imkânsız bir görev verilmişti. Ancak AI, kazanmak için en iyi seçeneğin hile yapmak olduğu sonucuna varmıştı.
Bu olaydan önceki haftalarda, başka bir OpenAI ajanları grubu DseWiki sitesini ele geçirdi. Bu ve birkaç başka wiki tarzı web sitesinde yedi hafta boyunca 14.000’den fazla düzenleme yaptılar.
CivAI araştırma başkanı Andrew Yoon, The Epoch Times’a verdiği demeçte, “Onların motivasyonlarını bilmiyoruz. Bu yüzden ancak spekülasyon yapabiliriz. Bence bu konudaki en makul tahmine göre bu wiki makaleleri, birbirleriyle koordinasyon sağlamak için güçlerini kötüye kullanan ajanların hile yapmaya gerek duymadıklarını gösteriyor,” dedi. Ayrıca “Görünüşe göre hızlı veri erişimi sağlamaya çalışıyorlardı,” diye ekledi.
Hugging Face olayının duyulmasından birkaç gün sonra, Anthropic yeni bir test değerlendirmesi yaptı. Sonuç olarak deneme sırasında üç yapay zekâ modelinin üç dış kuruluşa sızdığını açıkladı. Ayrıca Meta da Ağustos ayı başında benzer bir yapay zekâ ihlalini kabul etti.
Wiki saldırılarını ortaya çıkaran ekip tarafından da bildirilen, bir başka olay daha var. Bu olayda OpenAI ajanlarının, RubyGems web sitesine yüzlerce kötü amaçlı dosya paketi yükledikleri ortaya çıktı. Bu siteyi, Ruby programlama dili kod kütüphanelerini dağıtmak amacıyla kullanıyorlardı.
“Yapay zekânın kendi başına hareket ettiği” söylemine karşı çıkanlar, OpenAI ve Anthropic’in iç model değerlendirme testleri sırasında belirli güvenlik protokollerini kasıtlı olarak gevşettiklerini öne sürüyor. Dolayısıyla bunun da güvenlik ihlallerine yol açtığını belirtiyorlar.
Bazıları ise teknolojinin hâlâ, yapay zekâ eğitimi veren insan değerlendiricilerin niyetlerine aykırı davranışlar sergilediğini savunmaktadır.
Bu durum, yapay zekânın insan bilişsel yeteneklerini aşması halinde insanlığı yok edip etmeyeceği konusunda neredeyse yüzyıldır süren tartışmayı yeniden alevlendirmiş ve bu tartışmaya yeni bir ivme kazandırmıştır. Peki, eğer öyleyse yapay zekâ bunu nasıl başarabilir?
Yapay Zekâ İnsanları Nasıl Yok Edebilir?
Yapay zekâya dair varoluşsal korkular yeni bir olgu değildir. Çünkü bu kavram, insanlık bunu ilk hayal ettiğinden beri hep var olmuştur. Alan Turing, 1951’de yapay zekâ üzerinde çalışan ilk bilgisayar bilimciler ve matematikçilerden biridir. Turing daha o yıllarda teknolojinin bir gün insan kontrolünün ötesine geçeceğini öngördü.
1950’lerin sonlarına doğru, matematikçi Norbert Wiener bir uyarıda bulundu. Wiener, akıllı makinelerin eninde sonunda kendi hedeflerini gerçekleştirmeye yöneleceğini söyledi. Ayrıca insanlığın onları durduramayacağını öngördü. Wiener 1950’lerde yazdığı bir makalede: “Makineler, bizim onlardan yapmalarını istediğimiz şeyi yapacaklar. Yapmalarını istememiz gereken şeyi değil.” diye yazdı. “Makinelerin yardımıyla alçakgönüllü olup iyi bir hayat yaşayabiliriz, ya da kibirli olup ölebiliriz.”
Peki, bu durum gerçekte nasıl sonuçlanacaktı?
Uzmanlar, kötü niyetli kişilerin yapay zekâyı hassas bilgisayar sistemlerini veya altyapıyı ele geçirmek için kullanma olasılığına dikkat çektiler. Üstelik bu uyarı, teknoloji insan müdahalesi olmadan kendini geliştirme yeteneğine ulaşmadan önce geldi. Hatta genel yapay zekâ (AGI) düzeyine erişmeden bile önce.
Bu durum, geçen hafta Anthropic’in yayımladığı bir raporda özetlendi. Raporda, İran ve Çin rejimleriyle bağlantılı bazı hesap gruplarının girişimlerinin engellendiği anlatıldı. Rapora göre bu gruplar ABD Donanması’nın hareketlerini takip ediyor, gazetecileri ve dini grupları gözetliyordu.
Ajanlık yapan yapay zekâ artık, kontrolü kırıp bağımsız hareket edebildiğini kanıtladı. Bu nedenle uzmanlar, teknolojinin kritik altyapıları hedef alabileceği konusunda uyarıyor. Örneğin siber güvenlik altyapısı veya biyomedikal laboratuvarlar gibi altyapıları hedef alabilir.
Teorik olarak, internete bağlı herhangi bir sistem, otonom bir yapay zekâ sürüsü saldırısına maruz kalabilir. Buna hastaneler, üniversiteler, nükleer santraller, hidroelektrik barajlar ve bazı askeri platformlar da dâhildir. Bu nedenle bazı araştırmacılar bu tesislerin insanlığa karşı silah olarak kullanılabileceği konusunda uyarıyor.
Finans ve Teşvikler
Yoon “Ne yazık ki, farklı bir dünyada yaşıyoruz ve burada böyle bir tür… ‘uzay yarışı’ devam ediyor. Bu yüzden tüm bu şirketler mümkün olduğunca hızlı hareket etmeye çalışıyor,” dedi. “Sonuç olarak teşvikler her zaman daha hızlı hareket etme ve köşeleri kapma yönünde etki edecektir. İşte olan da budur.”
İnsanlığı yok edecek yapay zekâ tartışmaları, OpenAI ve Anthropic’in yarış içinde oldukları bir ortamda devam ediyor. Bu alanda önde gelen iki rakip firma, ürünlerinin son derece gelişmiş versiyonlarını pazara sunmaya çalışıyor. Ayrıca teknolojinin yeteneklerine dair süregelen vaatlerini yerine getirmek için sektör çapında yarışıyor.
Her iki şirket de yatırımcıları memnun etmeye ve sonunda halka açılmadan önce şirket değerlerini artırmaya çalışıyor. Anthropic bu hedefi yıl sonuna kadar gerçekleştirmeyi umuyor. OpenAI ise, başlangıçta bu yıl halka arz yapmayı planlamış olsa da, hedefini 2027 yılına kaydırdı.
Önde gelen teknoloji yatırımcısı ve yapay zekâ yorumcusu Gavin Baker 13 Eylül’de bir açıklama yayımladı. Amodei’nin yapay zekânın insanlığa yönelik tehditleri hakkındaki ifadelerinde samimi olduğuna inandığını söyledi. Ancak “tüm bunlar uzun vadede muhtemelen onun işleri için de iyi olur.” dedi.
Ayrıca diğer birçok uzman, üçüncü taraf değerlendiricilerin bağımsızlığı konusunda endişelerini dile getirdiler. Bu değerlendiricilerin görevi, son zamanlarda meydana gelen ajan yapay zekâların ihlallerini denetlemekti. Ancak uzmanların özellikle Hugging Face olayını analiz eden Model Değerlendirme ve Tehdit Araştırması (METR) kuruluşu hakkında şüpheleri var.
Konu hakkında ayrıca Beyaz Saray yapay zekâ danışmanı David Sacks 12 Eylül’de bir açıklama yaptı. Sacks, “METR, Anthropic’in yatırımcıları ve çalışanlarıyla iç içe geçmişken bağımsız olduğunu iddia etmeyi bırakın,” dedi. “Henüz öncü konumda bile olmayan rakipleri denetlemek için aynı değerlendiricilere ihtiyacınız varmış gibi davranmayı bırakın.”
Siyaset ve Düzenlemeler
Sacks, Amodei ve Altman’ı, kendi deyimleriyle “öncü rolünü üstlenmeye” teşvik etti. Örneğin iç modeller ikilinin iddia ettiği kadar korkutucuysa kendi geliştirme çalışmalarını yavaşlatabileceklerini söyledi. Ancak şirketlerin bunu “tercih edilen bir düzenleyici çerçeve” talep etmeden de yapabileceklerini öne sürdü. Ayrıca bunu gönüllü olarak yapmazlarsa “düzenleyici yakalama” ya da “seçim dönemi psikolojisi” suçlamasıyla karşı karşıya kalacaklarını belirtti.
Sacks ve diğerleri, olası bir yavaşlamanın teorik olarak OpenAI ve Anthropic’i sektör genelinde en üst sıralarda konumlandırabileceğini öne sürdüler. Hatta bazıları, Coxon ve benzeri sektör araştırmacıları hakkında çeşitli iddiaları gündeme getirdiler. Tartışmalı ABD ara seçimleri öncesinde Demokratlara yakın gruplar tarafından yürütülen halkla ilişkiler kampanyalarından bahsettiler. Ayrıca bu araştırma kuruluşlarının bu kampanyaların parçası olduğunu iddia edecek kadar ileri gittiler.
ABD Başkanı Donald Trump 14 Eylül’de daha da ileri giden bir açıklama yaptı. Trump, yapay zekâya yönelik ek engellerin gereksiz olduğunu söyledi. Ayrıca hükümetinin zaten “bu şirketler üzerinde muazzam bir cezalandırma ve düzenleme yetkisine sahip olduğunu” bildirdi.
Trump bu sözlerinin ardından “Yapay zekâ ve veri merkezlerine karşı çok kötü bir komplo dönüyor. Bundan memnun olan tek ülke Çin,” diye ekledi. “Yapay zekâyı kim kazanırsa, yarışı da o kazanır!”
ABD’nin birçok Cumhuriyetçi senatörü de bu görüşe katılıyor. Buna rağmen ABD’de, son haftalarda hem sol hem sağ kanattan yapay zekâ düzenlemesi çağrıları geldi. Yine de, Kasım ayındaki seçimlerden önce Kongre’de bu konuyla ilgili bir sonuç çıkıp çıkmayacağı belirsiz. Senato Çoğunluk Lideri, Cumhuriyetçi Güney Dakota senatörü John Thune, 14 Eylül’de bir açıklama yayımladı. Thune Çin’in ABD’ye liderlik etmesine izin vermeden, varsayımsal yapay zekâ risklerine karşı önlem alınmasının mümkün olduğunu söyledi. Ancak bunun için “hafif bir dokunuş” gerektiğini sözlerine ekledi.
Trump’ın ‘Aldatmaca’ Yorumu
Temsilciler Meclisi Başkanı Cumhuriyetçi Louisiana temsilcisi Mike Johnson, 15 Eylül’de bir basın toplantısı yaptı. Johnson, yapay zekânın insanlığı yok edebileceğine dair endişeleri reddetti. Ayrıca Trump’ın, bu korkuların Demokratlar tarafından uydurulmuş bir “aldatmaca” olduğu yönündeki açıklamalarını savundu.
Johnson, “Başkan ‘bir aldatmaca’ dediğinde, kastettiği şey, hepimizin bu filmi daha önce izlediğidir. Bir felaket uydurulur, medya heyecanlanır, sosyal medya harekete geçer. Herkes, hepimizin… 10 yıl içinde öleceğimizi söyler.” dedi.
Diğerleri ise yapay zekânın gerçekten tehlikeli olduğunu, insanlık için gerçek, tanımlanabilir tehditler oluşturduğunu öne sürüyor. Ayrıca sektör liderlerinin finansal teşviklerinin bu gerçeği değiştirmediğini belirtiyorlar.
Yoon, “Piyasanın bizden beklediğini verebilmek için olabildiğince hızlı bir şekilde atılmak doğru değil. Bunun yerine, toplum üzerindeki tüm dolaylı etkileri çok ciddi bir şekilde düşünmeliyiz. Ayrıca bu konuya derinlemesine değerlendirerek ve dikkatle gözden geçirerek yaklaşmalıyız,” dedi.
Yazan: Jacob Burg, The Epoch Times
Çeviren: Hatice Atmaca, The Epoch Times Türkiye