Son yıllarda yüz tanıma sistemlerini iyileştirmek ve veri tabanlarını geliştirmek için insanların isimleriyle birlikte fotoğrafları da kullanılıyor. Bu fotoğraflar uygulamalar kullanılırken kabul edilen gizlilik sözleşmeleri içinde yer alsa da dikkatli okunmadığı için gözden kaçıyor. Şirketler reklam amaçlı, iktidarlar ise güvenlik amaçlı kullanmak maksadıyla bu verileri alıyor ve bu havuzun genişlemesini doğal olarak istiyor. Ancak yüz tanıma teknolojileri bireyler açısından büyük hak ihlallerine sebep olabiliyor.

Adam Harvey’in yüz tanıma sistemlerini bozan makyajları Polonyalı tasarımcı Ewa Nowak’ın yüz tanıma sistemlerini ters köşeye yatıran Incognito isimli aksesuarları ve yüz tanıma sistemlerinin aklını karıştıran eşarp HyperFace bu teknolojinin neden olduğu sorunlara karşı bir çözüm önerisi sunuyordu.

Piksel düzeyinde değişikliklerle yüz tanıma sistemlerinden gizlenmek

Chicago Üniversitesi’nden bir grup bilgisayar mühendisi yüz tanıma sistemlerinin kafasını karıştırmak için görseller üzerinde piksel düzeyinde değişiklikler yapan bir uygulama geliştirdi.

Our recent USENIX paper on protecting user privacy against https://t.co/a0ie1FlVfR. https://t.co/huqCZ17Wnq

— Shawn Shan (@shawnshan26) June 25, 2020

Adını V for Vendetta çizgi romanında ve filminde devrimcilerin taktığı Guy Fawkes maskesinden alan Fawkes, sistemleri kandırmak için insan gözünün neredeyse fark edemeyeceği çok ufak değişikler yapıyor. Görüntü gizleme adı verilen bu işlemden sonra artık yüz tanıma sistemlerinden gizlenmek mümkün oluyor. Programda her görüntünün işlenmesi yalnızca birkaç dakika sürerken ortaya çıkan görselle önceki arasında gözle görünür bir fark olmuyor. Aşağıda verilen örneklerde solda yer alan görsel orijinalken sağ tarafta yer alan görsel Fawkes ile değiştirilmiş. İkisi arasındaki farkı anlamak mümkün gözükmüyor.

Üniversitede bilgisayar bilimleri profesörü olan Ben Zhao yaptıklarının fotoğrafları bir Truva Atı gibi gizlemek olduğunu söylüyor. Kişinin diğer insanlardan ayıran özellikleri üzerinde çok ufak oynamalar yaparak sistemin içinde gizlenme şansı sunduklarını ifade ediyor.

Fawkes ne kadar başarılı sonuç veriyor?

Uygulamayı geliştirenler kapsamlı bir şekilde testler gerçekleştirip Fawkes’in hangi oranda etkili olduğunu da araştırıyor. Ekibin söylediğine göre Fawkes; Face ++, Microsoft (Azure Face API), Amazon (Rekognition) gibi son teknoloji yüz tanıma hizmetlerine karşı yüzde 100 başarı gösteriyor.

Fawkes hale geliştiriliyor. The New York Times’ yer alan bir haberde yapılan denemelerin bazılarında çıplak gözle fark edilebilecek sorunlar olduğu söyleniyor. İşlemin sonunda kadınlara bıyık eklenmiş olması gibi cinsiyet kaynaklı yanlış sonuçlar alınabiliyor. Yazılım veri tabanından yararlanarak görselde yer alan kişiye olabildiğince benzeyen bir yüz şablonundan çıkarım yaptığı için bu tarz bariz sorunlar oraya çıkabiliyor. Ekip, yazılımın kullanıcıların cinsiyetine bağlı olacak şekilde değişimler yapmasını sağlayacak geliştirmeler üzerinde çalışıyor.

Yapılan işlem geriye dönük uygulanamadığı için önceden sisteme yüklenmiş ve yüz tanıma havuzuna girmiş fotoğraflar için çalışmıyor. Ancak bundan sonra yüklenecek fotoğraflarda işe yarıyor.

Uygulamaya yakın zamanda yeni bir güncellenme geldi. Windows, Linux ve macOS’ta için bu adres üzerinden indirilebiliyor. Uygulamayı geliştiren ekipten olan Emily Wenger ve Shawn Shan, Fawkes’in nasıl geliştirildiğini ve görselleri işleme şekillerini aşağıdaki videoda açıklıyor. Videonun altında yer alan görsellerde soldakiler orijinal sağdaki görseller ise Fawkes kullanılarak değiştirilmiş.

Görsel: YouTube, sandlab