Massachusetts Teknoloji Enstitüsü Bilgisayar Bilimi ve Yapay Zekâ Laboratuvarı’ndaki (CSAIL) araştırmacılar, son dönemdeki yapay zekâ tartışmalarında önemli bir kaygı unsuru olarak öne çıkan görsellerin üretken yapay zeka araçları tarafından manipülasyonuna karşı görüntüleri kötü niyetli AI düzenlemelerine karşı koruyabilen “PhotoGuard” adlı bir uygulama geliştirdi. Birtakım filigran teknikleriyle görsellerin izinsiz kullanımının önüne geçilebilirken, MIT’nin PhotoGuard adlı uygulaması görsellerin izinsiz değiştirilmesini önlemeyi amaçlıyor.
Open AI CEO’su Sam Altman, bu yılın başlarında Independent’a verdiği bir röportajda yapay zekanın öğrenmeye devam ettikçe ve buna paralel olarak daha hiper-gerçekçi hale geldikçe cinsel sömürü riskinin artacağından söz etmişti. Geçtiğimiz ay bir açıklama yapan FBI da, suçluların kurbanları korkutmak ve şantaj yapmak amacıyla müstehcen görüntüler oluşturmak üzere yapay zekayı giderek daha fazla kullandığı konusunda uyardı.
GitHub‘da yayınlanan PhotoGuard’ın alameti farikası, bir görüntüdeki belirli piksellerin konum ve renk algoritmalarında insan gözü tarafından algılanamayacak şekilde değişiklikler yaparak yalnızca makinelerin okuyabildiği bir bozulma yaratabilmesi. Veri zehirlenmesi tekniği olarak adlandırılan bu yöntem, üretken yapay zekanın görüntüyü düzgün bir şekilde anlama yeteneğini engellemeyi amaçlıyor. Bunun sonucunda görüntüyü net olarak algılayamayan yapay zeka, böylelikle kötü amaçlı düzenleme girişimleriyle görüntüyü yeniden üretemez.
Diğer bir ifadeyle orijinal resim, görsel olarak ayırt edilemez kalırken, AI teknolojisinin gelişmiş manipülasyon yeteneklerine etkili bir şekilde bağışık hale gelir. Öte yandan PhotoGuard’ın yüzde 100 koruma sağladığını söylemek ne yazık ki henüz mümkün değil. Zira günün sonunda görüntüyü manipüle etmek isteyenler görsele dijital gürültü ekleyebilir ya da ters çevirerek korunan görüntüleri çözmeye çalışabilirler.
Dolayısıyla bu sorunun üstesinden tamamen gelebilmek için model geliştiricilerin, sosyal medya platformları ve politika yapıcılarla birlikte yetkisiz görüntü manipülasyonuna karşı güçlü savunmalar oluşturmak için iş birliği yapması gerekiyor. Nitekim PhotoGuard’ın makalesinin baş yazarı Hadi Salman da, bu korumayı daha etkili hale getirmek için devam eden çabaların gerekliliğini vurguluyor.
Görseller: Youtube
