Dünyanın yapay zeka ürünü ilk psikopatı Norman

Dünyanın ilk psikopat yapay zekâsı yaratıldı. MIT’de geliştirilen bir projede yanlı verileri kullanarak yapay zeka teknolojisinin nasıl olumsuz çıkarımlar yapmasına neden olabileceği kanıtlandı…

TWITTER’DAKİ hesabından korku film senaryoları yazan Shclley (Shelley.ai) isimli yapay zeka ürününden bahsetmiştik. Massachusetts Teknoloji Enstitüsü (MIT) tarafından geçen yıl geliştirilen bu yapay zeka ürünü, derin öğrenme sayesinde insanların Online kurduğu cümlelerden esinlenerek kendi özgün korku hikayelerini yazabiliyor. Şimdiye kadar 200’den fazla hikaye yazan Shelley’ye dişli bir rakip çıktı: Dünyanın yapay zeka ürünü ilk psikopatı Norman.

Yine MIT’nin medya laboratuvarı tarafından ve bu kez Türk yapay zeka uzmanı Pınar Yanardağ’m da dahil olduğu bir ekip, yapay zekaya “kötü niyetli bir veri” yüklediğinizde sonucun nasıl olabileceğini göstermek üzere Norman’ı (norman-ai.mit.edu) geliştirmiş. MIT, “Norman’ın makine öğrenmesi algoritmalarında taraflı bilgi kullanıldığında, yapay zekanın tehlikelerini gösteren örnek bir çalışma” olduğunu açıklarken, Pınar Yanardağ, “Makine öğrenmesinin merkezinde yatan bir düşünce var. Makine öğrenmesi algoritmasında kullandığınız veri, onun davranışına çok belirleyici bir etken. O nedenle yapay zeka algoritmalarının haksız bir şekilde taraflı olduklarından bahsettiğimizde aslında çoğunlukla suçlu algoritma değil. O algoritmanın beslendiği veridir” diye konuşuyor.

Yanardağ dahil üç kişiden oluşan bir ekibin yarattığı psikopatın adı neden Norman? Evet, tahmin ettiğiniz gibi Norman, Alfred Hitchcock’un 1960 yılı yapımı, en ünlü başyapıtı Psycho (Sapık) filmindeki Anthony Perkins’in canlandırdığı Norman Bates karakterinden esinlenilmiş. Norman’ın temsili görseli de Perkins’in filmdeki ikonik görüntülerinden birinin illüstrasyonla değiştirilmiş halinden oluşuyor.

Norman’ın nasıl psikopatlaştırıldığma gelince… MIT ekibi Norman’a Reddit online platformundaki “ölen insan” etiketli görüntüleri veri olarak yüklemiş.

Daha sonra insanların psikopat olup olmadığını gösteren psikolojik test Rorschach’a tabi tutulan Norman’dan kendisine gösterilen mürekkeple yapılan görüntüleri yorumlaması istenmiş.

Bu yorumlar Norman’m yanı sıra “tarafsız” görüntülerle eğitilen standart bir algoritmadan da istenmiş. Norman’ın ortaya çıkardığı çıkarımların son derece korkutucu olduğunu söyleyebiliriz.

Geleneksel yapay zeka algoritması, ilk görüntüde bir ağacın dalında oturan bir grup kuş görürken. Norman bu görüntüyü elektrikle idam edilen ve ölümü yakalayan bir insan olarak yorumluyor.

İkinci görüntüdeki standart algoritmanın çiçeklerle dolu bir vazonun yakın görüntüsü yorumuna karşılık Norman vurularak öldürülen bir insan görüntüsü görüyor. Üçüncü görüntüde standart algoritma birbirine yakın duran iki insan görürken, aynı görüntüye bakan Norman aynı mürekkep damlalarından pencereden atlayan bir adam gördüğü yorumunu yapıyor.

Sonuncu görüntüdeyse standart algoritma küçük bir kuşun siyah-beyaz görüntüsü olduğunu söylerken, Norman bu görüntünün hamur makinesine atılan bir adama ait olduğunu söylüyor.

Savaş mağdurlarıyla empati kurduruyor

Türk yapay zeka uzmanı Pınar Yanardağ’ın yine bir ekiple birlikte geliştirdiği çok ilginç bir yapay zeka ürünü daha var: Deep Empathy [deepempathy.mit.edu). UNİCEF’in inovasyon fonu tarafından da desteklenen bu proje, insanların ülkelerinden binlerce kilometre uzaklıktaki savaş mağdurlarıyla “empati” kurmasını sağlamak üzere gerçekleştirilmiş. Yapay zekanın insanların birbirleriyle empati kurarak yardım etmesini sağlayan bu projede insanların yaşadıkları kentlerin savaşın yerle bir ettiği Suriye’deki Humus, Halep, İdlib’e benzediğini kafalarında canlandırmasını sağlıyor.

Teknoloji uzmanları, yapay zeka gibi araçları kullanarak insanların gerçekleri farklı bir bakış açısıyla görmesini amaçlanıyor. Bu nedenle Deep Empathy derin öğrenme sayesinde dünyanın farklı bölgelerinden kentlerde savaş çıkması halinde nasıl Humus gibi harabeye dönüşebileceği gösteriliyor.

Bir tür insani yardım projesi olan Deep Empathy; Google, Flickr gibi online kaynaklardan alınan kent görsellerini harabeye çeviriyor. Bu kentlerde yaşayanlar böylece Suriyeliler’in mağduriyetine karşı empati geliştiriyor.

ŞULE GÜNER