Sanatçıları ve yaratıcıları dijital çağda biraz olsun güvende hissettirmeyi amaçlayan Nightshade, geçtiğimiz Ekim ayında duyurulmuş ve dikkatleri üzerine çekmişti. Chicago Üniversitesi’ndeki bir ekip tarafından tasarlanan program, yaratıcı çalışmaları üretken yapay zekâ modellerinin izinsiz kullanımına karşı koruyan hatta korumanın ötesine geçen etkili bir yol izliyor. Program artık herkesin kullanımına açık.
Belirli istemlere yanıt olarak ilgisiz görüntülerin üretilmesine neden olabilecek yaralar açıyor
Bu dijital kanun koyucu, yukarıda da söz ettiğim gibi görüntüleri “zehirleyerek” dijital sanat eserlerini korumaya yönelik “saldırgan” bir yaklaşım benimsiyor. Başka bir deyişle, onları yapay zekâ eğitimi için uygunsuz hale getiriyor. Araç, makine öğrenimi modellerine, belirli istemlere yanıt olarak ilgisiz görüntülerin üretilmesine neden olabilecek bir düzeyde öngörülemezlik katıyor. Dolayısıyla, orijinal işlerinin izinsiz olarak kullanılmasından endişe duyan yaratıcılar için cankurtaran olabilecek türde bir yazılım.
#Nightshade exploits the concept sparsity in the training data of text-to-image models.
By injecting a small number of carefully crafted poison samples, it can manipulate the model’s output for specific prompts. pic.twitter.com/2sMnKf3umB
— Deep AI Digest (@DeepAIDigest) January 22, 2024
Nightshade, görüntüleri piksel düzeyinde ustaca değiştirerek insan gözünün algılayamayacağı ancak büyük yapay zekâ modelleri için önemli olacak değişiklikler yapıyor. Örneğin, Nightshade’in ayarladığı bir görüntü üzerinde eğitilmiş bir yapay zeka, bir çantayı ekmek kızartma makinesi veya bir köpeği kedi olarak yanlış yorumlayabilir. Bu yanlış yorumlama, orijinal görüntüde gözle görülür değişiklikleri en aza indirirken yapay zeka modellerinin onu algılama biçimini önemli ölçüde değiştiren “çok amaçlı optimizasyonun” bir sonucu. Nihai görüntüler; kırpma, sıkıştırma, gürültü oluşturma veya piksel yumuşatma gibi geleneksel görüntü işleme teknikleri uygulanarak oluşturuluyor.
Nightshade, geçen sene yer verdiğimiz Glaze isimli aracı geliştiren Chicago Üniversitesi araştırmacıları tarafından geliştirilmiş. Nightshade saldırgan bir yazılım olarak tanımlanırken, Glaze “savunmacı” bir duruş sergiliyor ve eserleri özellikle “stil taklitçiliği saldırılarına” karşı koruyor.
Kullanıcı dostu bir arayüz aracılığıyla koruma ve erişilebilirlik vadeden yazılımın, ilk herkese açık sürümü artık şuradan cihazlara ücretsiz olarak indirilebiliyor. Nightshade’in yaratıcıları, en iyi sonuçları elde etmek için, yazılımda çalıştırmadan önce görsel yeniden boyutlandırma ve filigran ekleme gibi son düzenlemelerin yapılmasını öneriyor.
I’m terribly excited to share that “Artifact” has been Glazed and Nightshaded by @TheGlazeProject and what a perfect piece for it as well. This is a painting about generative AI cannibalizing the authentic voice of human creatives. When this image is scraped for training, well… pic.twitter.com/0VNFIyabc2
— Kelly McKernan (@Kelly_McKernan) January 14, 2024
Görsel: Twitter
