Dr. Renée Richardson Gosline, MIT çatısında birçok farklı bölümde görev almış ve çalışmalarıyla saygın yayınlarda atıf almış bir bilim insanı. MIT Sloan School of Management’ta yönetim bilimleri grubunda kıdemli öğretim üyesi ve Initiative on The Digital Economy bölümü içerisinde insan-yapay zeka etkileşimi konusunda araştırma sürecini yönetiyor. Renée Gosline, SXSW 2022’de sürtünmesiz ve kesintisiz deneyimler sunmak isteyen teknolojik gelişmelerin görünmeyen etkilerini In Praise of Friction oturumunda tartıştı.

Yapay zekanın, makine öğrenmenin ve algoritmalarığın desteğiyle hayatımız gittikçe kolaylaşıyor. Bizim yerimize karar veren, bizim için alacağımız kararların 3 adım sonrasını düşünen algoritmalara kendimizi teslim ediyoruz. Bu devir teslim töreninin seneler sonra gerçekleşeceğini düşünüyorsanız yanılıyoruz. Tam şu anda hepimiz, karar verme sürecimizin bir kısmını makinelere teslim etmiş durumdayız.

Kararı insan veriyor. Algoritma kararı şekillendiriyor.

A noktasından B noktasına bir rota çıkarmak istediğimizde kullandığımız navigasyonlar uygulamalar bizlere seçenekler sunar. Her biri farklı avantajlar ve dezavantajlar içerir. Renée Gosline’ın örneğinde MIT’ye gitmek için rota belirlediğinizde seçenekleriniz arasından hangisini seçersiniz? En kısa yol, en ucuz yol, polis çevirmesinin olmadığı yol? Ya da bu üç seçeneğin dışında bir rota mı belirlersiniz?

Algoritmalar bizim için en iyi sonucu çıkarmak isteyen ve deneyimde sürtünmeyi azaltan ön işlemler yapsa da yaptığı elemenin önyargısız olmadığından nasıl emin olabiliriz? Her algoritmayı geliştiren bir insan olduğuna göre algoritmanın tahlil yeteneği onu geliştiren insanın sağladığı veri kadar kapsamlı olabilir.

Teknolojiye bağımlılık insan beynini “outsource” etmektir.

Hepimiz gün içerisinde yaklaşık 30.000 karar alıyoruz. Ne giyeceğimizden yiyeceğimize, dişimizi ne zaman fırçalayacağımızdan toplantıda hangi konuları değerlendireceğimize ve ne söyleyeceğimize kadar. Bu irili ufaklı kararlar hızlı ve düşünmeden verebildiğimiz 1. sistem kararları ile restoranda ne yiyeceğimize karar verdiğimiz uzun ve etraflı düşüncelerle verdiğimiz sistem 2 kararları olarak ikiye ayrılıyor.

Gün içerisinde fiziksel yorgunluğu, bilişsel yükü, daha fazla düşünmek istemeyip bir şeylerin hazır olması istediğini üst üste koyduğumuzda kendimizi teknolojiye ve onun sunduklarına teslim etmeye başlıyoruz. Ve gerçekten hayatımızı kolaylaştırıyor. Face ID ile telefon kilidini açmak, akıllı kamera ile bebeğin uykusunu takip edebilmek, sesli asistan ve akıllı termostat ile oda sıcaklığını kontrol edebilmek. Bunlar üzerimizden yükü alıyor ve beynimizi kullanarak almamız gereken kararların bir kısmını yüklenici firma misali teknolojiye devrediyoruz. Onlar bu sürtünmesiz deneyimlerle hayatımızı bizim yerine düşünmeye başlıyor.

Yapay zekanın yüzde kaçı insanlara karşı önyargılıdır?

Yanıt çok açık. %100’ü. Yapay zeka onu geliştiren kişilerin perspektifinden dünyayı ve insanları görür. Yapay zekanın tarafsız bir görüşü olduğunu düşünürüz ancak öyle değildir. Siyah bilim insanı olarak Renée Gosline, kendi yaşadığı deneyimden yola çıkarak ten renginin yapay zeka tarafından algılanmasının her zaman zor olduğunu söylüyor. Örnek küme içerisinde yeterinde beyaz olmayan kişi olmadığında yapay zekanın bunu algılaması zor oluyor. Benzer şekilde meslek grupları üzerine yerleşen önyargılar cinsiyetler arasındaki ayrımcılığı pekiştiriyor.

Sürtünmesiz deneyimler yaratmak için çalışan yapay zeka ve algoritmalar geliştirilirken standart olarak belirlenen kişilerin standart olmadığını göz önüne almak gerekiyor. Farklı yaş, cinsiyet, ırk ve etnik kökenden gelen bireylerin örneklemlere eklenmesi teknoloji ilerlerken bazı insanların da dışarıda bırakılmamasını sağlayacaktır. Yapay zekanın ve insanların önyargıları sürtünmesiz deneyim sistemlerinin sunmayı vadettiği süreçler birleştiği zaman daha büyük sorunlar ortaya çıkmaya gebe.

Yapay zeka değerine karar verseydi bugün bu sahnede olamayacaktı

Dr. Renée Richardson Gosline, eğer yapay zeka ve algoritmalar onun profilini inceleseydi bugün burada olamayacağını söyledi. Birinci nesil Karayipli göçmen bir ailenin kızı olan Gosline, Brooklyn’in Flatbush mahallesinde, crack bağımlılığın tavan yaptığı ve bölge içinde epidemi şeklinde yayıldığı dönemde büyümüş. Ailesinden üniversite mezunu olan ilk kişiymiş. Fakat bu profile ve bu bilgilere yapay zeka baksa bu kişinin Harvard Üniversitesi’nden kabul alacağını ve sonra MIT’de profesör olacağını asla tahmin edemezdi.

Rasyonel ve tutarlı görülen algoritmalar yaş, din, dil, ırk, uyruk gibi değişkenlerle sizin değerinizi nasıl düşürüyor? Bu algoritmaların sunduğu sürtünmesiz deneyimleri kullanmak sizin hayatınızı sürtünmesiz hale getiriyor mu? Bu sorular eşliğinde sürtünmenin temel bir fizik kanunu olduğunu hatırlattı Gosline. Sürtünmenin çok olduğu yerde cisim çakılır, az olduğu yerde cisim hareket edemez aksine kayar ve düşer.

İyi sürtünme ile kötü sürtünmeyi ayırmanın 5 yöntemi

1- Yapay zeka bunu yapmalı mı? Yapabilmeli mi?

Yapay zeka ölüm kalım konusunda karar almamalı. Bir insanın suçlu olup olmadığı konusunda karar almamalı. Ölüm kalım meselesi olan bu konularda yanıt her zaman hayır.

2- Yapay zekaların düşünce akışları bir model olarak herkesle paylaşılmalıdır.

Tıpkı bir besinin veya ilacın içinde ne olduğunu içindekiler bölümünden görüp fikir sahibi olabiliyorsak yapay zekanın sahip olduğu modelin de hangi ağırlıklar ve biçimlendirmeler üzerinden yapıldığını paylaşmalıyız.

3- Kapsayıcılığın yaratacağı rahatsızlığı iyi sürtünme olarak görün.

Homojen ekipler ve topluluklar içinde onaylama önyargısı (confirmation bias) gelişirken yeni fikirlerin türetilmesi de güçleşiyor. Hep aynı şeylerin konuşulduğu, aynı profillerin yer aldığı ortamlarda sonuçlar da aynı kalıyor. Farklı profilleri sürece dahil etmek güç görünse de toplam çıktının niteliğini artırıyor.

4- Algoritmayı yayınlamadan önce deney ve test etme kültürünü yaygınlaştırın.

Microsoft’un sunduğu Fairlearn gibi programlar örnek gösterilirken patlayacak büyük ve yıldız ürünleri geliştirmek yerine test etmeyi, mevcut modellerin olası sonuçlarını değerlendirmeyi ve daha sonrasında geniş kitlelerle paylaşmayı değerlendirin.

5- Kullanıcıların girmesinin kolay çıkmasının zor olduğu karanlık sistemleri ortadan kaldırın.

Bir ürün veya hizmeti kullanmaya başlarken her şey kolay ve elverişli iken onu kullanmayı bırakmak istediğimizde işin zorlaşması, verimizi kendimizin kontrol etmesini ancak mümkün olması ya da internet sitelerinde çerez ayarlarının anlaşılmayı güç şekilde tasarlanarak kullanıcının pes edip tüm kontrolü devretmesini sağlamak dijital ıstakoz tuzağıdır. Bunlar asimetrik sürtünmelerle kullanıcıları manipüle etmeye yeltenir.

Görsel: SXSW