Teknoloji her zaman kötüye kullanıma açık bir alan oldu. Örneğin yüz tanıma sistemleri söz konusu olduğunda hükümetlerin ve şirketlerin yapabilecekleri gerçekten korkutucu. Brezilya’da metro kapısına yerleştirilen yüz tanıma özellikli ekranların nasıl endişe yarattığını ve protestolara neden olduğunu aktarmıştık. Bu teknolojiye ve diğer takip sistemlerine karşı kişisel verilerin güvenliğini ve gizliliğini koruyan yasaların hazır olmaması ya da boşluklarla dolu olması herkeste kaygı uyandırıyor. Buna benzer endişe verici bir gelişme de Çin’de yaşanıyor. Çinli teknoloji şirketi Taigusys, insanların yüz ifadelerini algılayıp analiz eden bir yapay zekalı duygu tanıma sistemi geliştirdi. Çin’deki bazı büyük şirketler de bu teknolojiyi kullanmaya her an başlayabilir.
İşini çok seven insanlar bile kimi dönemlerde mutsuz olabilir. Örneğin aşırı iş yüküyle, işini düzgün yapmayan çalışma arkadaşlarıyla veya buna benzer aksaklıklarla mücadele etmek durumunda kalabilir. Böyle bir durumda profesyonel sınırlar içinde tepki vermek gayet doğal karşılanır. Örneğin kaşlar çatılabilir, suratınız asık olabilir, fazla mesainin neden olduğu uykusuzluk nedeniyle sık sık esneyebilir, gülümsemeye vakit bulamayabilirsiniz. Bu durumda bir şeyin sizi izlediğini bilmek nasıl hissettirir? Bu duyguları saklamak büyük olasılıkla üzerinizdeki stresin artmasına neden olacaktır. Ama öyle görünüyor ki işin etik yönü pek de sistemin umrumda değil ve bizler distopyanın içine doğru gömülmeye devam edeceğiz.
Ayrıntılı raporlarla çalışanların durumunu kayıt altına alabiliyor
Taigusys’ın duygu tanıma sistemi, bir insanın neler hissettiğini dakika dakika analiz etmekle kalmıyor aynı zamanda belirlenen süre boyunca bu hisleri ifade etme biçimine dair her şeyi içeren ayrıntılı raporlar da oluşturabiliyor.
Taigusys, internet sitesinde sisteminin “yeni zorlukların üstesinden gelmeye” yardımcı olduğunu ve duygusal, çatışmacı davranışların yarattığı “çatışmaları en aza indirebileceğini” iddia ediyor.
Ellerindeki yapay zekalı sistem, birden fazla kişinin ifadelerini aynı anda değerlendiriyor. Daha sonra bir algoritma her bireyin yüz kası hareketlerini ve biyometrik sinyallerini değerlendiriyor ve bunları Taigusys tarafından belirlenen çeşitli ölçeklerde değerlendiriyor.
Duygu tanıma sistemi sahte gülümsemeleri ayırt edebiliyor
Sistemin aradığı “iyi” duygular arasında mutluluk, şaşırma ve olumlu bir şeyden etkilenmiş hissetme durumu yer alıyor. Kişinin yüzündeki iğrenme, üzüntü, kafa karışıklığı, küçümseme ve öfke gibi olumsuz duygular da kaydediliyor. Bir çalışanın bir göreve ne kadar “odaklanmış” olduğu gibi nötr duygular da dikkate alınıyor. Taigusys’a göre yazılım oldukça hassas. O kadar ki bir insanın sahte gülümsemesini de gerçeğinden ayırt edebiliyor. Bir çalışan çok fazla olumsuz duygu taşıyorsa ve bu olumsuz duygular tavsiye edilen limiti aşıyorsa, duygu tanıma yazılımı ona duygusal destek sunmak için rapor hazırlıyor.
Aşağıdaki görseller, Taigusys’in duygu tanıma sisteminin bir kişinin yüzündeki “mutluluk düzeyini” nasıl çizebileceğini gösteriyor.
Aktivistler tepkili, sistemin ne kadar bilimsel olduğu da tartışmalı
İnsan hakları aktivistlerine ve bazı teknoloji uzmanlarına göre duygu tanıma sistemleri, bilimsel olmayan fikirlere dayanıyor ve etik de değiller. Böyle bir teknolojinin yaygınlaştırılması, işyerindeki çalışanların yasal haklarını ihlal ediyor. Bir insanın özel sektöre ait bir işyerinin tesislerinde bile mahremiyeti, onuru, düşünce özgürlüğü ve özgürce hareket etme hakkı korunmalı. Aktivistler bu tür etik dışı teknolojilerin geliştirilmemesi, bunlara yatırım yapılmaması ve şirketler tarafından da bunların kullanılmaması için çağrıda bulunuyor. Bazı bilim insanları da yüz ifadesi ve biyometrik sinyallerle bir insanın gerçek duygularının anlaşılabileceğine dair yeterli araştırma verisi olmadığını dolayısıyla sistemin bilimsel temelinin güvenilir olmadığını vurguluyor.
Taigusys’in genel müdürü Chen Wei Guardian’a yaptığı açıklamada sistemlerinin Çin’deki 300 hapishane ve gözaltı merkezine kurulduğunu söylemiş. Sistem bu tesislerdeki yaklaşık 60.000 kameraya bağlı ve Chen’e göre mahkumların “daha uysal” kalmasına yardımcı oluyor. Şiddet ve intihar vakalarının da sistem sayesinde önlenmesi hedefleniyor. Taigusys’ın internet sitesinde sistemi kullananan şirketler listesinde Huawei, China Mobile ve PetroChina gibi devler listelenmiş. Bununla birlikte, bu kuruluşların Taigusys’in ürününü kullandığına dair henüz bir kanıt bulunmuyor.
Sistemi kullanmaya hapishanelerden başlanması bile ne kadar metaforu aşan bir durum değil mi? Siz ne dersiniz?
