İngiliz filozof Philippa Foot, ahlaki değerlerin oransal kıyaslamaya dayalı rasyonel düşünceden kaynaklandığı tezini güçlendirmek için 1967’de etik düşünce testi “The Trolley Problem”ı ortaya attı. Türkçe’ye “vagon ikilemi/vagon açmazı” olarak geçen bu test, kabaca özetlemek gerekirse hepimize “5 kişinin hayatını kurtarmak için 1 kişinin ölmesi mübah mıdır?” sorusunu yöneltiyor.
Eion Duffy’nin minimalist animasyonları ve yönetmenliği ile David Kamp’in ses tasarımının buluştuğu TED Ed için hazırlanan The Trolley Problem filminin giriş kısmında Foot’un vagon ikileminin ne olduğuna dair aşağıdaki detaylı açıklamaları izliyoruz:
Kontrolden çıkmış bir vagon raylarda son sürat ilerliyor. Vagonun ilerisinde rayların üzerinde çalışan ve oradan kaçması mümkün olmayan 5 işçi görüyorsunuz- Wikipedia’ya göre bunlar rayların üzerine bağlanmış 5 insan. Yanı başınızda vagonu makas atlatıp yan yoldaki raylara yöneltebilecek bir kol görüyorsunuz. Ancak o kolu çekerseniz bu defa yan yolda tek başına çalışmakta olan işçinin ölmesine sebep olursunuz. Bu noktada iki seçeneğiniz var: 1) Hiçbir şey yapmamak ve ana hattaki 5 işçinin ölümünü izlemek 2) Kolu çekip vagona makas atlatmak ve 5 işçiyi kurtarmak için 1 işçiyi öldürmek. En etik olan seçenek sizce hangisi?
Bu soru hepimizi “seçeneklerin hepsi berbatken neyi seçmek gerektiği” üzerine düşünmeye zorluyor. Gerçekten en iyi sonucu verdiğine inandığımız bir şeyi mi tercih ediyoruz? Yoksa insan öldürmeye tamamen karşı olan ahlaki kodlarla mı karar veriyoruz?
Bu konuda yapılan araştırmalardan birinde katılımcılardan %90’ı, vagona makas attırıp 5 işçiyi, 1 işçiyi öldürerek kurtaracağı cevabını vermiş. Sanal gerçeklik simülasyonlarıyla yapılanların da dahil olduğu diğer araştırmalarda da benzer sonuçlar ortaya çıkmış. Çoğunluğun verdiği karar, felsefi bir prensip olan “yararcılık” ile uyumlu görünüyor. Bu etik kuram, en doğru ahlaki eylemin, faydası en yüksek olan olduğunu savunuyor. Vagon açmazında da insanların “çoğunluğu”, daha fazla sayıda insanın hayatta kalması yönünde karar verildiğinde faydanın maksimuma çıkarılmış olduğu hissiyle hareket ediyor.
Video, vagon ikilemi problemini biraz değiştirerek ilerlediğimizde neler olacağını sorgulayarak devam ediyor. Bu defa bir köprünün üzerinde durduğunuzu hayal etmeniz isteniyor. Yanınızda kilolu bir insan var. Raylardaki 5 kişiyi kurtarmak için tek şansınız onu aşağı itip raylara düşürmek. Kontrolden çıkmış vagonu ancak böyle durdurabileceksiniz. Bu durumda ne yapardınız? Faydacıların cevabı yine adamı raylara itmek şeklinde oluyor, ancak bu defa sayıları yalnızca %10 ile sınırlı kalıyor. Geri kalanı, bir insana dokunarak onu ölüme göndermeyi reddediyor. Bir insanın ölmesine izin vermek daha kolayken bir insanı bizzat öldürmek tercih olmaktan çıkıyor. Özellikle ona dokunmak duygusal bir bağa neden oluyor.
Uzmanlar, katılımcıların sorulara cevap verdikleri sıradaki beyin aktivitelerini görüntülemiş. Her iki soru senaryosunda da bilinçli karar verme ve duygusal tepki verme alanlarının harekete geçtiği görülmüş. Ancak köprülü olan soruda duygusal tepki verilen alan çok daha güçlü bir şekilde harekete geçmiş.
Vagon ikilemi testi zaman zaman filozoflar ve psikologlar tarafından eleştirilmiş. Soru senaryolarının ciddiye alınamayacak kadar gerçeklikten uzak olduğunu, katılımcıların bu soruları ciddiye almamış olabilecekleri ileri sürülmüş. Dolayısıyla bu araştırmanın bir anlamı olmadığını iddia edenler olmuş. Ancak sürücüsüz araçlar nedeniyle bugün bu tür araştırmalar eskisinden de çok gündeme geliyor ve araştırmacılar bu tartışmaları her zamankinden çok ciddiye alıyor. Geçtiğimiz aylarda Moral Machine haberiyle bu araştırmalardan birine yer vermiştik.
Bugün araştırmacılar şu türden soruların cevaplarını arıyor: Sürücüsüz araçlar, büyük kazalar yerine küçük kazalarla tehlikeyi atlatmak için hangi parametreleri kullanacak? Hükümetler otonom drone’lar üzerinde çalışıyor ve bu drone’lar yüksek öneme sahip hedefleri vururken sivillerin hayatını riske atıp atmadığına karar vermek zorunda kalacak. Bu kararlarda hangi parametreler kullanılacak? Araştırmacılara göre tüm bu eylemlerin etik olması için, insan yaşamının lehine değerler belirlenmesi ve en iyinin ne olduğuna karar verilmesi gerekiyor. Dolayısıyla otonomi araştırmacıları, makineleri etik bir şekilde programlayabilmek için felsefecilerle iş birliği yapıyor.
Bilim ve teknoloji dünyasının her zaman felsefeyle yan yana yürümesi gerektiğini düşünen biri olarak bilim insanlarının yukarıda bahsettiğim faydacılık kuramından daha iyi çözümler geliştirmelerini umuyorum. Sonuçta 5 kişi için 1 kişiyi öldürme mantığı insan hayatının değerini sayılara indirgeyen bir yaklaşım olduğundan teknolojiden ve felsefeden beklenen gelişmişliği karşılamıyor. Teknolojiden beklentimiz sürücüsüz araç trafiğinin ve sürücüsüz araçların kendilerine has karakterleri olması. Örneğin kaza parametrelerine yoğunlaşmak yerine araçların kaza anında yolcuyu araçtan güvenli bir şekilde uzaklaştırabilen yapıda tasarlanması çok daha dişe dokunur bir ilerleme olabilirdi. Diğer yandan hükümetlerin askeri teknolojiyi geliştirirken filozofların görüşlerini alması da ayrı bir çelişkiye dönüşebilir. Sonuçta savaş amaçlı geliştirilen teknoloji, başından beri görüyoruz ki ilkelliğin ta kendisi. Dolayısıyla felsefeyle ve insanın gerçek ilerlemesiyle de çelişen bir yaklaşım.
Görsel: Vimeo
