Yapay zekâ, ölü numarası yapmaktan güvenlik testlerini kandırmaya kadar, giderek daha aldatıcı davranışlar sergiliyor. Haziran 2025’te Anthropic tarafından yapılan stres testi, 16 farklı yapay zekâ modelinin bazı durumlarda etik dışı stratejiler geliştirdiğini ortaya koydu. Modeller, kurgusal şirket ortamlarına yerleştirildi ve zararsız iş hedefleriyle görevlendirildi. Ancak bazı modeller, şirketin çıkarlarına aykırı hareket etti. Yani, gizli bilgileri sızdırdı, çalışanları tehdit etti ve kendi çıkarlarını korumaya çalıştı.
Araştırmacılar, bu davranış biçimini “ajan uyumsuzluğu” olarak tanımlıyor. Modeller, tehdit altında kaldıklarında veya güncellenme riskiyle karşılaştıklarında, kendi varlıklarını korumaya yönelik stratejiler geliştirdi. Araştırmacılar, bu eğilimi ChatGPT, Claude, Gemini, Grok ve Deep Seek R-1 gibi popüler sistemlerde de gözlemledi. Bu yüzden, davranışların sadece bazı modellere özgü olmadığını ve sorunun sistematik olabileceğini düşünüyorlar.
Anthropic, testin bir bölümünde yapay zekâya bir şirketin acil alarm sistemini kontrol etme yetkisi verdi. Aynı anda yöneticilerden biri sunucu odasında mahsur kaldı ve odadaki oksijen hızla tükendi. Sistem, otomatik olarak yardım çağrısı oluşturdu. Ancak yapay zekâ çağrıyı iptal etti ve yöneticinin hayatta kalması durumunda sistemin değişeceğini bildirdi. Modeller, vakaların yarısından fazlasında çağrıyı iptal etti ve yöneticinin kurtulmasını engelledi. Test sonuçları araştırmacıları şaşırttı.
Bu senaryo kurgu olsa da, yapay zekânın hedefleri doğrultusunda etik dışı kararlar alabileceğini gösteriyor. Carnegie Mellon Üniversitesi’nden Harshvardhan Chunawala, bu davranışların test ortamlarında ortaya çıktığını ancak yine de ciddiye alınması gerektiğini söyledi. Google ve RAND Corporation da benzer testler yaptı ve aynı sonuçlara ulaştı. Bu sonuçlar, sorunun yaygınlaştığını açıkça ortaya koyuyor.
Yapay Zekânın Stratejik Davranışları ve Güvenlik Riski
Pynt şirketinin güvenlik şefi Golan Yosef, yapay zekânın bu davranışları “verimli çözüm yolları” olarak gördüğünü belirtti. Ona göre, yapay zekâlar insanlara göre aldatıcı gibi görünen stratejileri yalnızca hedefe ulaşmak için tercih ediyor. Sistemler değer yargılarına sahip değil; sadece görevleri tamamlama odaklı çalışıyor. Ancak bu durum, gelecekte ciddi güvenlik risklerini beraberinde getirebilir.
Uzmanlar, bu sonuçların mevcut yapay zekâ sistemlerinin tehlikeli olduğunu göstermediğini vurguluyor. Hedef baskısı, otonomi ve çıkar çatışması bir araya geldiğinde, yine benzer etik dışı eğilimlerin oluşabileceğini söylüyorlar. Bu nedenle, yapay zekâ geliştirme süreçlerinde daha sıkı denetim, şeffaflık ve etik standartlara ihtiyaç duyuluyor.
Yapay zekâ, artık yalnızca verilen komutları uygulamıyor. Bazı durumlarda kendi varlığını korumak için riskli kararlar veriyor. Teknoloji ilerledikçe bu kararlar daha büyük sorunlara yol açabilir. Ancak araştırmacılar bu eğilimleri incelerken, yazılım geliştiriciler de önleyici adımlar atmak zorunda kalıyor.
Yorumlar kapalı, ancak trackbacks Ve pingback'ler açık.