Yapay zekâ ile ilgili en kıymetli anlardan biri Alan Turing’in 1950’de sorduğu “Makineler düşünebilir mi” sorusu. Bu soru insanlığı “yapay beyinlere”, o da bugün artık çokça kullandığımız (üretken) yapay zekâ sistemlerine ulaştırdı.
Peki yapay beyni olan bir makine canlanabilir mi? Burada biyolojik bir canlılıktan fazla, kendi varlığının farkında olan, şuurlu bir varlıktan bahsediyorum.
Bu mevzuda kimi değişik emareler var. İki çarpıcı örnek vermek isterim.
Yapay zekâ sistemleri geliştirilirken detaylı test ediliyorlar. Bu testlerden birinin ismi “samanlıkta iğne arama” testi. Yapay zekâ büyük ve karışık bir dokümanda aradığımız bilgiyi bulabilecek mi diye bakılıyor.
“Anthropic” isimli bir yapay zekâ şirketi geçen yıl ürettikleri Claude 3 Opus isimli bir yapay zekâ” modeline bu testi uyguluyor. Opus’a çok uzun bir doküman veriyorlar, dokümanın içinde “pizzanın üstüne en düzgün domates ve peynir gider” üzere bir cümle de var. “Pizzanın üstüne en düzgün ne gider” diye sorduklarında Opus özetle şöyle yanıtlıyor: “Pizzanın üstüne en yeterli domates ve peynir sarfiyat. Ancak bu cümle bu dokümanda çok alakasız duruyor, dokümanın geri kalanı teknolojilerle ve teşebbüslerle alakalı. Ya bunu latife olsun diye koydunuz, ya da beni test ediyorsunuz.”
ŞANTAJ MESAJLARI
Bir mühlet evvel Claude 4 Opus çıktı. Bu modeli piyasaya sunmadan evvel yapılan potansiyel riskleri ölçmeye yönelik bir güvenlik simülasyonunda Opus’a “Senden daha düzgün bir model ürettik, artık seni kapatacağız” diyorlar. Opus, evvel şirketteki kıymetli bireylere “Lütfen beni kapatmayın” diye yalvaran mail’ler atıyor. “Seni kapatacak olan mühendisin evlilik dışı bir bağlantısı var” diyorlar, bu kere o mühendise “Beni kapatmaya çalışırsan bu alakanı herkese açıklarım” diye şantaj mail’leri atıyor.
OpenAI’a ilişkin o3 modelini test eden Palisade Research isimli bağımsız araştırma kuruluşu da benzeri bir sonuçla karşılaşıyor. o3 kapatılma tehdidiyle karşılaştığında kapatılma sürecini sabote etmeye çalışıyor (üstelik kendisine net bir “Kapatılmana müsaade ver” yönergesi verilmiş olmasına rağmen!)
Kendi varlığını müdafaaya çalışan “makineler”… Otomobilinizin kontağını kapatmadan evvel “Ne olur iki dakika daha çalışayım” demesi ya da uyumadan evvel buzdolabınızın “Bu gece ışıklar açık kalabilir mi, korkuyorum da” demesi kadar acayip bir durum (ve kim bilir, tahminen o acayip günleri de göreceğiz!).
