SXSW 2026’da yapay zekanın geliştirilme motivasyonlarının hayatımızı ve insanlığımızı nasıl etkilediğini konuşmak üzere John Palfrey (Başkan, John D. and Catherine T. MacArthur Foundation) moderatörlüğünde Dr. Timnit Gebru (Kurucu ve direktör, Distributed AI Research Institute) ve Karen Hao (Yazar ve gazeteci, Empire of AI) bir araya geldi.

Timnit Gebru 2021 yılında yapay zeka çalışmaları yürüten enstitüsünü kurmadan önce Google’da Etik Yapay Zeka Takımı’nın eş-liderliğini yürütüyordu. 2020 yılında büyük dil modellerinin (LLM) skoastik ve olasılıksal papağanlar olabilmesinin riskleri hakkında yayınladığı makalenin Google tarafından geri çekilmesi talebi ve müteakiben iş ilişkisinin sonlandırılması olayları o dönemde medyada geniş yer almıştı.

Karen Hao ise Silikon Vadisi hakkındaki çalışmaları ile medyada kendine yer edinmiş bir yazar ve gazeteci. Yazarın çok satan eseri Empire of AI ise yapay zekanın günümüz varoluş biçimi ile geçmiş imparatorluklar arasında birçok paralelliğe dikkat çeken ve yapay zekanın genişleme ve tekelleşme motivasyonlarını inceleyen bir kitap.

Yapay zekanın ne olduğu muğlak bırakılıyor

John Palfrey da oturumu “Yapay zeka geliştirme hakkındaki küresel tartışmalarda gözden kaçırdığımız en önemli şey nedir?” sorusu ile açtı. Timnit Gebru bu konuyu toplumsal algılanışı üzerinden ele aldı. Kimi zaman bir çatı terim kimi zaman pazarlama terimi olarak kullanılan yapay zeka aslında birçok şeyi kapsıyor fakat kapsadığı her şey aynı kategoriye ait değil. Bu nedenle otomatik konuşmayı deşifre eden araçlar ile ChatGPT aynı kategoride görülüyor.

Bu durum da yapay zekanın kötü sonuçlarını ve risklerini tartışırken karşıt argüman olarak meme kanseri görüntüleme konusundaki başarısı sunulabiliyor. Fakat bunların ikisi birbirinden çok farklı teknolojiler. Her ikisine de yapay zeka demek aradaki ayrımı yok ediyor.

Karen Hao da yapay zeka hakkında kapsamlı ve bilinçli tartışmanın yaşanmamasından bahsetti. Yapay zekanın amacı nedir? Onunla neyi başarmaya çalışıyoruz? Silikon Vadisi’ndeki kanaat, yetki ve güç sahipleri yapay genel zeka (AGI) olduğunu söyledi ve toplum tarafından bu şekilde benimsendi. Yapay genel zekanın dahi ne olduğu, ne için geliştirildiği sadece büyük emeller ve insanlığın ileri gidişi gibi soyut tasvirlerle yanıtlanıyor. Hao Yapay zekanın bekası için yapay zekayı geliştirirken domino taşları insanların iş hayatından koparıldığı bir sosyal düzleme doğru sürüklendiğimizi vurguladı.

Bu yorumları destekleyerek Timnit Gebru, bu yapay zekanın sanki bir makineden tanrıymışcasına görüldüğü, ilahi bir statü kazandığı bir gelecek tasvirini dinliyoruz. Öyle ki bu makineden tanrı her şeye karar verebilecek, her şeyi inceleyip gözetebilecek, etik ve ahlak konusunda dahi en doğru kararları verebilecek.

Silikon Vadisi’nin yapay zeka rüyası

John Palfrey ikinci sorusunda komşularıyla konuşurken görüşlerinin iki kutuba ayrıldığını gözlemlediğini, ya kıyamet ya ilahi ihya olduğunu ve konuklarının bu konuda ne düşündüğünü sordu. Gebru, yapay zekanın kıyameti getirebilecek kadar süper yetenekli, denetim ve kontrol sahibi olup bu konuda bir ülkü benimseyebilecek kapasitesi olduğunu düşünmüyor. Keza tüm bu ililiğin Silikon Vadisi tarafından sunulmuş, iki kutuplu yapay bir tercih dilemması olduğunun altını çiziyor.

Karen Hao da sunulan bu ikilik içerisinde Silikon Vadisi’nin burjuvaları kendilerinin yapay zekanın sunacağı bu tehlikeler ve tehditlere karşı seçilmiş kişiler olduklarını ve ancak onların bu teknolojiyi kontrol altında tutabileceğine kamuoyunu ikna etmeye çalıştığını ekliyor. Bu makine tanrının lanse ediliş biçiminin de toplumun yapay zekaya yönelik algısını da çarpıtıyor.

Yapay zekanın kontrol edilmezse -ve bunu yapanlar o kişiler olmazsa- insanlığın sonunu ve kıyameti getirecek kadar güçlü, ancak kontrol edilirse -ve bunu o kişiler yaparsa- insanlığı ihya edecek, hayatları değiştirip tüm sorunları çözecek kadar büyülü bir araç olduğu görüşünün temelden çarpık ve manipülatif olduğu konusunda Timnit Gabru ve Karen Hao hemfikirler.

Fakat yapay zeka çatısı altında gördüğümüz şeyler aslında daha küçük ölçekli, odaklanmış spesifik konular üzerinden işlem yapan araçlar olarak görmemiz, yapay zeka çevresinde oluşan bu yeni seküler din ve bu makine tanrıyı yaratmayı arzulayan takipçilerine yönelik kamuoyu için yapılabilecek en etkili şeylerden birisi olduğu da vurgulandı.

Yapay zeka imparatorluğunun propagandası

Dr. Timnit Gebru’nun doktora araştırmasında ABD’deki 200 şehirdeki Google Maps sokak görünümünden alınmış 50 milyon araç fotoğrafını analiz edip  mahallelerin demografik görüntülerini çıkaracak bir derin öğrenme çalışması gerçekleştirdi. Bu çalışma için de bir noktada 1000 kişilik veriyi etiketleyecek bir ekip kurması gerekmiş. Gebru tüm bu dönem boyunca bu kadar kişinin emeği ve çabasıyla bu çalışmanın mümkün olduğunu detaylarıyla açıkladı. Makale yayınlandıktan sonra medyaya ise “Bu algoritma arabanıza bakarak sizin kime oy vereceğinizi biliyor” başlığı ile yansımış.

Araştırmanın sunumu ve metodolojisi ne olursa olsun medyanın bu şekilde aktarması konunun kamuoyu nezdinde insan aktörlerinden soyutlanmasına ve algoritmanın sanki kendi başına yaptığı bir meziyetmiş gibi algılanmasına sebep oluyor. Dolayısıyla bu başlık makineden bir tanrı olabileceği varsayımını pekiştiriyor. Sinema, internet, geleneksel medya gibi alanlarda yapay zekanın sunuluş biçimi bu açıdan algılanışını da etkiliyor.

Yapay zeka sorumluluk alan, kendinden sorumlu bir organizma değil

Ailelerin yapay zeka konusunda çocuklarını yetiştirirken neler yapabileceği konuşulurken ise Timnit Gebru, geçtiğimiz Kasım ayında bir çocuğun Game of Thrones’dan Daenerys Targaryen’e benzeyen yapay zeka sohbet botunun iknalarının ardından yaşamını sonlandırdığını, bunun bu anlamda tek olay olmadığını ve risklerinin büyüklüğünü dile getirdi. Annesi Megan Garcia’nın konunun takipçisi olarak ChatGPT ve Character AI şirketlerine karşı dava açan ilk ebeveyn olması konunun bu tartışmalardaki önemini artırıyor. Timnit Gebru bu bağlamda Google’ın da payı ve sorumluluğu olduğunun altını çizdi çünkü şirketin kurucusularının eski Google çalışanı olup şirketi kurduktan sonra da Google’a satıp aynı masalarına geri döndüğünü belirtti.

Karen Hao da ailelerin bu konuda yapabileceklerini çocukları yapay zekanın bu anlamda yaptıkları, işlevleri, kapasiteleri ve kurulabilecek bağlar konusunda bilgilendirmek ve hane içerisinde hem bireysel hem aile içi yapay zeka politikaları belirlemek olarak listeledi. Eğer hane içinde çocuğun yapay zekaya karşı bir politikası, duruşu ve anlayışı varsa okulda, iş yerinde veya hayatının farklı noktalarında yapay zeka dayatmaları ile karşılaşırsa bu konuda bir görüş sunabileceklerini belirtti.

Yapay zeka bir politik proje olarak görüldüğünde bireylerin emellerini elinden alan ve onlara görevler, hedefler, amaçlar atayan bir düzen vadediyor. Buna karşılık çocukların kendi hedefleri, anlayışları, doğrularının olması çocukları geleceğe hazırlayan yeteneklere dönüşüyor. Keza yasaklamak veya soyutlamaktan ziyade bilgilendirerek çocukların kendi motivasyonlarını geliştirmelerini sağlamak en biliçlendirici yol olarak görülüyor.

Yapay zeka kendi emellerini benimsetmeye çalışan bir makine tanrı olabilecekken insanlığımızı ve değerlerimizi yeniden kazanmak için Timnit Gebru ve Karen Hao’nun hemfikir olduğu nokta da yapay zekanın ve bu teknolojinin bayrağını taşıyor gibi görünen liderler yerine insanlığın kendi amaçları, değerleri ve  emelleri doğrultusunda hareket edecek tartışmaları, imkanları ve söylemleri geliştirmemiz. Keza Silikon Vadisi tüm dünyayı etkileyebilecek bir güçteyken, bunun tersini, dünyanın Silikon Vadisi’ni etkilediği durumları görmek pek mümkün değil.

Silikon Vadisi yapay zekayı her duruma yanıt sunabilecek tek yüzük olarak görürken sadece kendi perspektiflerinden, kendi değerleri ve doğrularınca bu yüzük şekillendiriliyor. Ancak her kültüre, topluluğa, coğrafyaya, tarihe göre farklı ihtiyaçlar, doğrular ve emeller olacağını da atlamamak; gücü ve yetkiyi tektipleştirmemek de gerekiyor.

Görsel: SXSW