Yapay zeka tehdit tespit platformu Sensity AI şirketinin araştırmalarına nazaran, Rusya-Ukrayna Savaşı’nda Ukraynalı siyasetçiler ve askerler, deepfake görüntülerle “teslim olmaya çağıran” ya da “savaş hatası işlediğini itiraf eden” bireyler üzere gösteriliyor.
Tayvan’da seçim devirlerinde, siyasetçilerin geçersiz konuşmaları, uydurma skandalları ve gafa benzeyen sahneleri üzere Çin kaynaklı yapay zeka içerikleri toplumsal medyada yayılarak aksi görüşlü adaylar amaç alınıyor.
Japonya’da ise yapay zekayla üretilmiş düzmece doğal afet imgeleri, nükleer kaza yahut sel felaketi üzere kurgular halkta panik yaratmak için kullanılıyor.
Bu çeşit olaylar, yapay zeka araçlarının bilinçsizce ve denetimsizce “yeni jenerasyon silahlar” olarak kullanılması durumunda doğurabileceği tehlikeleri bir kere daha gündeme getiriyor.
“Yapay zeka eserlerini tanımak imkansız hale geldi”
Sensity AI’nin kurucu ortağı Francesco Cavalli, yapay zekayla oluşturulan görseller, görüntüler ve seslerin tesir ve tehlikelerine ait değerlendirmelerde bulundu.
Cavalli, yapay zeka araçları geliştikçe neyin gerçek neyin olmadığını anlamanın daha zorlaştığını söyledi.
Yapay zekayla üretilen içerikleri anlamak için yüzde tutarsız ışıklandırma, çok pürüzsüz cilt dokusu, görüntülerde yapay göz kırpma ya da ağız hareketlerine bakılması tavsiye ediliyor.
Cavalli, “Yapay zeka içerikleri, bilhassa düşük çözünürlüklü yahut sıkıştırılmış formatlarda insan gözüyle tespitten kaçabiliyor. Yapay zekayla oluşturulmuş sesler insan için artık tanınması imkansız hale geldi.” dedi.
Yapay zekayla manipülasyon
Halihazırda yapay zekayla taklit edilen seslerin bu alandaki en yüksek riski oluşturduğu belirtiliyor.
Yapay zeka kullanarak Dışişleri Bakanı Marco Rubio’yu taklit eden bir dolandırıcı, ABD’li politikler tarafından sıkça kullanılan “Signal” isimli iletileşme uygulamasında Rubio ismine uydurma bir hesap oluşturarak üç farklı ülkenin dışişleri bakanları, bir Kongre üyesi ve bir vali ile temas kurdu.
Seslerin kullanımın kolay ve tespitinin de gecikmeli olduğunu lisana getiren Cavalli, taklit seslerin telefonda konuşulan kişinin güvenilen biri olduğuna inandırmak için kullanıldığını söz etti.
Midjourney ve Runway üzere araçlar geliştikçe gerçekle yapayı dengeli halde ayırt etmekte zorlaşıyor.
Cavalli mevzuya ait, “Üretici araçlar geliştikçe, eğitimli gözler bile kolay kolay kandırılabiliyor.” diye konuştu.
“Seçim müdahalesinde kullanılan yapay zeka üretimi medya, dolandırıcılık platformlarını tanıtan uydurma basın toplantıları yapan siyasetçiler ve kamuoyunu manipüle etmek için paylaşılan yapay zeka üretimi savaş imajlarını belgeledik.” diyen Cavalli, bu görsellerin ekseriyetle uydurma haber siteleri, toplumsal medyadaki reklamlarla yayıldığını anlattı.
Cavalli, Çin, Japonya, Tayvan’da yapay zeka kullanımına ait şirketinin incelediği hadiselere atıfta bulunarak, “Tüm bu örneklerde, yapay zeka dayanaklı propaganda yalnızca deneysel bir tehdit değil, algıyı manipüle etmek, toplumları istikrarsızlaştırmak ve yumuşak güç uygulamak için çeşitli çatışmalarda faal olarak kullanılan global bir silahtır.” değerlendirmesinde bulundu.
Teknoloji şirketleri ve platformlara yapay zeka tabanlı görsel dezenformasyonla çaba konusunda harekete geçmeleri istikametinde davetler yapılıyor.
Platformların ise bu bahse odaklandığı lakin birçoklarının “yapay medyayı geniş ölçekte tespit edebilecek sağlam isimli inceleme sistemlerine sahip olmadığı” söz ediliyor.
Cavalli, “Bazıları dolandırıcılık kampanyalarından şuurlu biçimde kar ediyor. Lakin dış baskı olunca müdahale ediyor. Tespit teknolojisi sağlayıcılar, platformlar ve düzenleyiciler ortasında daha güçlü işbirliği koşul.” dedi.
Yapay zekayla üretilen içeriklerin “etiketlenmesinin” gerçek yol olmadığını düşündüğünü aktaran Cavalli, şunları söyledi:
Yapay zekayla oluşturulmuş içerik resen ziyanlı değil, kullanım formu ve yeri kıymetli. Örneğin, toplumsal medya platformlarının, deepfake dolandırıcılık reklamları için ağlarını kontrolsüz kullandırmasına ağır yaptırımlar uygulanmalı. Kullanıcı şikayetlerine dayanmak yerine, proaktif tedbirler almaları mecburî olmalı.
“Görmek artık inanmak demek olmayacak”
Sensity’nin geliştirdiği sistemler yüz manipülasyonun belirlenmesi, büsbütün yapay zekayla üretilmiş görsellerin tespiti, taklit ses tahlili ve isimli incelemeyi kapsayan dört etaplı bir tahlil sürecinden geçiyor.
Bu tahlillerin raporları ise resmi soruşturmalarda ve mahkemelerde kullanılabiliyor.
Cavalli, görsel medyaya olan itimadın gitgide azaldığına işaret ederek bu mevzuda farkındalığın artması gerektiğini vurguladı.
İnsanların yapay zekayla üretilen görsel ve seslerin risklerine karşı eğitilmesi, şirketlerin, gazetecilerin ve araştırmacıların isimli araçlarla donatılması gerektiğinin altını çizen Cavalli, “Görmek artık inanmak demek olmayacak.” tabirini kullandı.
