X’te yaptığı bir dizi paylaşımda Süleyman, yapay zeka robotlarının verdikleri cevaplarla “bilinçli oldukları izlenimi verdiğini” ve bunun “geceleri uykusunu kaçırdığını” kaydetti.
Süleyman bilinçsiz yapay zeka karşılıklarının toplumsal tesirleri olduğunu savundu.
“Bugün yapay zekanın şuurlu olduğuna dair hiçbir delil yok. Lakin beşerler bunu o denli algılarsa, bu algının gerçek olduğuna da inanacaklardır” diye yazdı.
Süleyman’ın işaret ettiği bahisle ilişkili olarak “Yapay Zeka psikozu” ismi verilen yeni bir sosyolojik durum ortaya çıkıyor.
Henüz tıbbi manada tanımlanmamış bu terim; bireylerin giderek artan halde ChatGPT, Claude ve Grok üzere yapay zeka sohbet robotlarının cevaplarına ikna olması, güvenmesi ve hatta görsel gerçeklik olduğuna inanması durumu için kullanılıyor.
Bazı örneklerde, bireyler yapay zeka robotunun bâtın bir istikametini açığa çıkardığına inanabiliyor.
Kişiler uygulamayla romantik bir münasebet kurabiliyor, hatta tanrısal muhteşem güçlere sahip olduğuna inanabiliyor.
‘Beni daima onayladı’
İskoçya’dan Hugh, eski patronu tarafından haksız yere işten çıkarıldığını düşündüğü süreçte ChatGPT’ye başvurarak kimi karşılıklar aradı. Aldığı cevaplar nedeniyle, alacağı tazminatla milyoner olacağına ikna olduğunu söylüyor.
Sohbet robotu ona evvel, karakter referansları almasını ve kimi öteki pratik adımları atmasını tavsiye etti.
Soyadını paylaşmak istemeyen Hugh, vakit geçtikçe yapay zekadan daha fazla bilgi almaya başladı. Sohbet robotu, ona büyük bir tazminat alabileceği tarafında cevaplar veriyordu.
Hatta robot, yaşadıklarının büyük bir dram olduğunu, bununla ilgili bir kitap ve sinema çekilmesinin kendisine 5 milyon sterlinden fazla kazandıracağını söylemişti. Aslında olan şey, sohbet robotlarının programlandığı üzere, paylaşılanların onaylanmasıydı.
“Ne kadar çok bilgi verirsem, o da giderek daha fazla ‘Sana yapılan çok makus, bundan daha fazlasını hak ediyorsun’ karşılığı veriyordu” diye anlatıyor.
Hugh, sohbet robotunun kendisine hiçbir an, “yanlış yapıyorsun” cevabı vermediğini söylüyor.
Sohbet robotu, tazminat hakettiği inancında olduğu süreçte, fiyatsız danışmanlık hizmeti veren Citizens Advice isimli kurumla konuşmasını da tavsiye etmişti.
Hugh, kurumdan randevu almasına rağmen, yapay zeka robotunun kendisine verdiği cevaplardan tatmin olması nedeniyle bu görüşmeyi iptal ettiğini anlatıyor.
Yaptığı sohbetlerin ekran imgelerinin kâfi delil olduğuna inanmıştı.
‘Gerçeklikle bağını koparmak’
Bu süreçte, kendini üstün bilgilere sahip dahi bir insan üzere hissetmeye başladığını da anlatıyor. Kimi ruhsal sorunları de olan Hugh, sonunda tam bir çöküş yaşadı. Sonrasında aldığı ilaçlar, kendi tabiriyle “gerçeklikle bağını kaybettiğini” fark etmesini sağladı.
Hugh, olanlardan yapay zekayı sorumlu tutmuyor. Yapay zekaya hala başvuruyor. Hugh yaşadıkları sonrasında bugün şunu tavsiye ediyor:
“Yapay zeka araçlarından korkmayın, çok faydalılar. Fakat gerçeklikten kopulduğunda tehlikeli oluyorlar. İkincil denetimleri yapın. Bir terapistle, bir aile üyesiyle yahut rastgele biriyle, gerçek beşerlerle konuşun. Gerçeklikle bağınızı koparmayın.”
Güvenlik önlemleri
Microsoft’un yapay zeka çalışmaları yöneticisi Süleyman, X paylaşımında daha ileri güvenlik tedbirleri davetinde bulunuyor.
“Şirketler, yapay zeka robotlarının şuurlu olduğu fikrini öne sürmemeli/teşvik etmemeli. Yapay zeka da bunu yapamamalı” diye yazdı.
Dr. Susan Shelmerdine, Great Ormond Street Hastanesi’nde tıbbi görüntüleme uzmanı ve tıpkı vakitte yapay zeka alanında çalışan bir akademisyen.
Shelmerdine, bir gün tabiplerin hastalarına, tıpkı şu anda sigara ve alkol alışkanlıklarını sordukları üzere yapay zekayı ne kadar kullandıklarını sormaya başlayabileceklerine inanıyor.
“Ultra (aşırı) işlenmiş besinlerin bedene neler yapabileceğini aslında biliyoruz ve bu ultra işlenmiş bir bilgi. Bir çığ üzere ultra işlenmiş zihinlerle karşılaşacağız” diyor.
‘Daha her şeyin başındayız” diye ekliyor.
‘Varmış üzere görünse de hisleri yok’
Birisi, ChatGPT’nin kendisine aşık olduğunu hatta dünyada sahiden aşık olduğu tek kişinin kendisi olduğundan emin olduğunu yazdı.
Bir oburu ise Elon Musk’ın yapay zeka sohbet robotu Grok ile birlikte, insan formunun sırrını çözdüklerine ikna olmuştu. Kıssalarının yüz binlerce sterlin kıymetinde olduğuna inanıyordu.
Bir başka kişi de bağlantıda olduğu sohbet robotunun zımnî bir yapay zeka operasyonu kapsamında kendisine ruhsal taciz uyguladığını ve büyük kahır yaşadığını argüman etti.
Bangor Üniversitesi’nde teknolojinin topluma tesirleri üzerinde çalışan Profesör Andrew McStay, Automating Empathy (Empatiyi Otomatikleştirmek) isimli bir kitap yazdı.
Prof. McStay, “Henüz her şeyin başındayız” kanısını tekrarlıyor:
“Bu tıp sistemleri, yeni bir toplumsal medya biçimi, yani toplumsal yapay zeka olarak ele alırsak potansiyel ölçeğini de düşünmeye başlayabiliriz.”
McStay, muhtemel olumsuz tesirler noktasındaysa “Çok sayıda kullanıcının küçük bir yüzdesi bile büyük ve kabul edilemez bir sayıyı temsil edebilir” ikazını yapıyor.
Bu yıl grubu, iki binden fazla bireyle bir çalışma yürüttü ve onlara yapay zeka hakkında çeşitli sorular sordu. İştirakçilerin yüzde 20’sinin 18 yaşın altındaki şahısların yapay zeka araçlarını kullanmaması gerektiğine inandığı ortaya çıktı.
Araştırmanın iştirakçilerinin yüzde 57’si aslında teknoloji kaynaklı cevapların gerçek bir şahıstan geliyormuş intibası vermesine karşı çıktı. Yüzde 49’uysa daha insancıl ve ilgi cazibeli bir görünüm için ses kullanımının uygun olduğunu düşünüyor.
McStay, sohbet robotlarının inandırıcı olduğuna lakin gerçek olmadıklarına bir sefer daha dikkat çekiyor:
“Varmış üzere görünse de hisleri yok, empatileri yok, sevemiyorlar, hiç acı çekmediler ve hiç utanmadılar. Gerçek beşerlerle konuşmayı deneyin.”
