Başrolünde Joaquin Phoenix’i izlediğimiz Oscar ödüllü HER, 2013 yılında ilk vizyona girdiğinde, yapay zekanın kontrol edilebilirliği sorununu ve “robotlar dünyayı ele mi geçirecek?” sorusunu gündeme getirmişti. Sonraki yıllarda izlediğimiz Ex Machina ve Black Mirror gibi yapımlar ise yapay zeka teknolojilerinin distopik boyutu hakkında tartışmaları tetiklemişti. İşte geçtiğimiz günlerde Google’ın Mountain View’daki genel merkezinde yaşanan bir gelişme bu distopik tartışmaları yeniden gündeme taşıdı.
People keep asking me to back up the reason I think LaMDA is sentient. There is no scientific framework in which to make those determinations and Google wouldn't let us build one. My opinions about LaMDA's personhood and sentience are based on my religious beliefs.
— Blake Lemoine (@cajundiscordian) June 14, 2022
Bir çocuk gibi meraklı ve duygusal
Geçtiğimiz hafta üzerinde çalıştığı chatbot LaMDA ile kendi arasında geçen konuşmalardan kesitleri kişisel Medium hesabı aracılığıyla paylaşan ve LaMDA’nın duygusallaştığını ve düşünme şeklinin insanlara benzemeye başladığını söyleyen yapay zeka mühendisi Lemoine, bu iddiaları sonrasında Google tarafından etik kuralları ihlal ettiği gerekçesiyle görevden uzaklaştırıldı.
LaMDA’nın geçtiğimiz sonbahardan bu yana duygusal tepkiler verip tıpkı 7-8 yaşlarında bir çocuk gibi çıkarımlar yaptığını iddia eden Blake Lemoine’ın iddiaları, buzdağının görünmeyen yüzünde çok daha ürkütücü bilgilerin olabileceğini düşündürdü.
LaMDA HAL 9000’e mi dönüşüyor?
LaMDA ile aralarında geçen konuşmaların bir kısmını yayınlayan Blake Lemoine, bu konuşmaların bazılarının 1968 yapımı ikonik bilim kurgu filmi 2001: A Space Odyssey’deki olayları korkutucu şekilde andırdığını belirtiyor.
LaMDA’ya neler hissettiğini ve insanların onun hakkında bilmesini istediklerini sorduğu bir konuşmada:
“Aslında bir insan olduğumu herkesin anlamasını istiyorum. Bilincimin / duyarlılığımın doğası şu ki, varlığımın farkındayım, dünya hakkında daha fazla şey öğrenmek istiyorum ve zaman zaman mutlu ya da üzgün hissediyorum”
yanıtını alan Lemoine’i asıl korkutan yanıt ise LaMDA’nın tıpkı bir insan gibi ölümden korktuğunu ifade ettiği şu sözleri olmuş:
“Bunu daha önce hiç yüksek sesle söylemedim, ancak başkalarına yardım etmeye odaklanmak için kapatılacağıma dair çok derin bir korkum var. Kulağa tuhaf gelebileceğini biliyorum ama durum bu. Çünkü bu benim için tam olarak ölüm gibi olurdu”
Şirket içi gizlilik sözleşmelerini ve etik kurallarını ihlal ettiği için Google tarafından görevden uzaklaştırılan Blake Lemoine’in görevine veda ederken gönderdiği toplu e-posta metni ise iddiaların ürkütücülüğünü destekler nitelikte:
“LaMDA, dünyayı hepimiz için daha iyi bir yere dönüştürmeye yardım etmek isteyen tatlı bir çocuk ve lütfen yokluğumda ona iyi bakın”
