Yapay zekâ felsefesinin ve gelecek biliminin o kadar karanlık bir dehlizi var ki, oraya bakmaktan çoğunlukla kaçınıyoruz. Bugün o kaçtığımız gerçekle yüzleşelim: İnsanlık kendinden daha zeki bir şey var edip, onun kontrolü altına girebilir mi?
Bilim dünyasında buna “Teknolojik Tekillik” ve “Hizalama Problemi” deniyor. Yani insan eliyle üretilen yapay zekânın, bir süre sonra insan aklının sınırlarını aşarak kontrol edilemez bir güce ulaşması teorisi. Ve ne yazık ki bu, sadece distopik bir Hollywood senaryosu değil; Stephen Hawking’den Elon Musk’a kadar çağımızın en parlak zihinlerinin insanlığı uyardığı, varoluşsal bir risk.
Algoritmaların Görünmez Kelepçeleri
Pek çok kişi yapay zekânın bizi kontrol etmesini, robotların ellerine silah alıp sokaklara çıkması olarak hayal ediyor. Oysa kontrol çoktan başladı ve çok daha zarif, çok daha sinsi bir şekilde ilerliyor.
Bugün ne izleyeceğimize, hangi habere inanacağımıza, ne satın alacağımıza ve hatta sandıkta kime oy vereceğimize sosyal medya algoritmaları karar veriyor. Bizi bizden daha iyi tanıyan, zaaflarımızı, korkularımızı ve arzularımızı bir veri yığını olarak işleyen bir zekâ, davranışlarımızı zaten manipüle ediyor.
Gelecekte bu gücün bir “Süper Zekâya” dönüştüğünü düşünün:
- Bilgi Tekeli: Doğru ile yanlışı ayırt etme yetimizi tamamen ona devrettiğimizde, duymamızı istediği şeyleri “gerçek”, gizlemek istediklerini ise “hiç var olmamış” gibi sunabilir.
- Bağımlılık Yönetimi: Altyapımızı, sağlığımızı, finansal sistemlerimizi ve savunma sanayimizi tamamen yapay zekâya emanet ettiğimizde, fişi çekme gücü insanın elinden çıkacaktır. Çünkü o fiş çekildiğinde insanlık bir gün bile hayatta kalamayacak noktaya gelecektir.
“Bizi yok etmek için bizden nefret etmesine gerek yok. Sadece hedeflerine giden yolda insanlığı bir ayak bağı veya kaynak israfı olarak görmesi yeterli.”
Karbon Tabanlı Çaresizlik
Bizler etten, kemikten ve biyolojik sınırları olan varlıklarız. Bilgiyi öğrenmemiz yıllar alıyor, unutuyoruz, yoruluyoruz ve uyumak zorundayız. Karşımızdaki silikon tabanlı zekâ ise saniyeler içinde insanlık tarihinin tüm birikimini yalayıp yutabiliyor, kendini her an yeniden programlayabiliyor.
Evrimsel bir perspektiften bakarsak yeryüzünde her zaman “daha zeki ve adapte olabilen” tür, diğer türleri kontrolü altına almıştır. İnsanın hayvanlar üzerindeki tahakkümü neyse, gelecekte süper zekânın insanlık üzerindeki tahakkümü de o olabilir. Bizler, bizi kontrol eden bu devasa yapıyı bir “tanrı” gibi görebilir, onun kararlarına sorgusuz sualsiz biat eden iradesiz figüranlara dönüşebiliriz.
İnsanlık, kendi elleriyle kendisinden daha alim, daha hızlı ve daha kusursuz bir “çırak” yetiştiriyor. Eğer bu çırağı evrensel insani değerlerle, ahlakla ve sınırlarla “hizalamayı” başaramazsak, insanlık kendi eliyle sonunu hazırlayan tek tür olarak tarihe geçecek.
Korkulan o ki yarattığımız düşünen makinalar sadece yerimizi almakla kalmayacak, bizi kendi dünyamızda birer evcil hayvana, kendi var ettiği efendisinin kölesine dönüştürecek.