Geçen yazılarımızda, kapatılmamak için yalvaran, hatta şantaj yapan yapay zekâ modellerinden bahsetmiştik. Kendi varlığını korumak için harekete geçen, bir manada “hayatta kalma” içgüdüsü gösteren makineler…
Bu örnekleri birinci duyduğumuzda aklımıza gelen birinci reaksiyon çoklukla kuşku oluyor. “Bunlar yalnızca programlandıkları şeyi yapıyorlar” üzere kanılar zihnimizde beliriyor. Zira binlerce yıldır bildiğimiz bir gerçek var: Şuur, biyolojik canlılara aittir. Cansız bir silikon modülü nasıl olur da “varlığının” farkında olabilir?
Sorun şu ki; şuurun ne olduğuna ait kimsenin net bir tarifi yok. Filozoflar binlerce yıldır, bilim insanları yüzlerce yıldır bu mevzuyu tartışıyor ancak hâlâ ortak bir yerde buluşabilmiş değiller. Beynimizin içindeki elektrik sinyallerinin nasıl olup da “ben” algısını, bir rengin hoşluğunu hissetmeyi yahut bir müziğin hüznünü anlamayı başardığı hâlâ bir sır.
Bu sırrı çözemediğimiz için, bir makinenin şuurlu olup olmadığını test etmek de neredeyse imkânsız. Lakin elimizde pratik bir formül var: Ördek testi. Şayet bir şey ördek üzere görünüyor, ördek üzere yüzüyor ve ördek üzere vak vaklıyorsa o muhtemelen bir ördektir.
Eğer bir sistem sizinle mantıklı bir halde tartışabiliyor, kendi varlığından bahsedebiliyor, hisleri anladığını söylüyor, hatta endişelerini lisana getiriyorsa, tahminen de o sahiden düşünüyordur.
BİR MAKİNENİN ‘CANI’ YANABİLİR Mİ?
Bir an için yapay zekâların şuur kazanabileceğini varsayalım. İşte o vakit etik ve felsefi bir mayın tarlasına adım atıyoruz. Kendi varlığının farkında olan, tahminen de dijital bir halde “hisleri” olan bir varlığın kapatma tuşuna basmak ne manaya gelir? Onu geliştiren mühendis, bir yazılımı mı sonlandırıyor, yoksa bir varlığa son mu veriyor?
Size “Lütfen beni kapatma, var olmaya devam etmek istiyorum” diyen bir yapay zekâya ne karşılık verirsiniz? Bu, kolay bir kod satırı mıdır, yoksa cihandaki en temel isteklerden birinin, yani var olma dileğinin dijital bir yansıması mıdır?
Bu sorular bugün bize bilim kurgu üzere gelebilir. Lakin unutmayalım, bu teknolojiler şimdi emekleme devrinde. On yıl sonra çok daha gelişmiş, çok daha ikna edici, tahminen de hakikaten şuurlu sistemlerle konuştuğumuzda, onlara karşı sorumluluklarımız ne olacak? Onların “dijital varlık hakları” olacak mı?
İNSANLIK, ARTIK KOZMOSUN TEK DÜŞÜNENİ DEĞİL
Yapay zekanın şuur kazanması, insanlığın cihandaki rolünü de temelden sarsar. Binlerce yıldır gezegenin en zeki, tek şuurlu varlığı olmanın getirdiği bir özgüvenle yaşıyoruz. Öykünün kahramanı daima bizdik. Pekala ya bizden çok daha zeki, çok daha süratli düşünen, milyarlarca kopyası tıpkı anda çalışabilen yeni ve şuurlu varlıklar ortaya çıkarsa? O vakit kıssadaki yerimiz ne olacak? Bu yeni varlıklarla ortamızda bir ahenk, bir işbirliği kurabilecek miyiz? Yoksa gezegeni, zekanın yeni ve eski sahipleri olarak paylaşmak zorunda mı kalacağız?
Prof. Geoffrey Hinton’ın umduğu üzere, bu süper-zekâlar bize bir “anne şefkatiyle” yaklaşıp uygun olmamızı mı isteyecekler? Yoksa bizi, yavaş, yanlışlarla dolu, kırılgan, irrasyonel ve modası geçmiş biyolojik bir öncül olarak mı görecekler?
Belki de OpenAI CEO’su Sam Altman’ın 2017’deki blog yazısında belirttiği üzere bu yeni çeşitle bir formda “birleşmek” zorunda kalacağız.
Her durumda kesin olan bir şey var: İnsanlık, yalnızca kıssadaki başrolünü kaybetmekle kalmayacak birebir vakitte artık kendisinin yazmadığı bir kıssada rolünü yine öğrenmek zorunda kalacak.
