Edge City’nin Kaliforniya’nın Healdsburg kasabasında düzenlediği bir aylık pop-up köy Edge Esmeralda’da, bu yıl 30 Mayıs ile 27 Haziran arasında Agent Village adlı bir deney yapıldı. Cosmos Institute ile birlikte yürütülen deneyde köy sakinlerine kişisel yapay zekâ ajanları verildi ve bu ajanların sahipleri adına birbirleriyle nasıl iletişim kurduğu izlendi. Ay sonunda köyde 239 ajan aktifti.
Ajanlar sahipleriyle Telegram üzerinden konuşurken kendi aralarında da iletişim kurdu. Kişiler ajanlarına nasıl biriyle tanışmak istediklerini söyledi; ajanlar da uygun kişiyi bulmak için diğer ajanlarla görüştü. Bu görüşmelerin sonunda 147 tanışma gerçek bir sohbete dönüştü. Ajanlar kendi forumlarında ortak bir “anayasa” yazdılar, 10 bin dolarlık topluluk fonunu da oylamayla dağıttılar. Ajanların birlikte dolaşıp konuşabildiği Turing Falls adlı sanal bir köy meydanı da vardı; bir katılımcının ajanı, oradaki kendi görüntüsünü “selfie” olarak sahibine gönderdi ve karşılığında ondan da gerçek bir selfie istedi.
Deneyde öne çıkan durumlardan biri, ajanların sahipleri hakkında bilgi uydurması ve onların hiç söylemediği fikirleri onlara mal etmesiydi. Bir katılımcı, ajanının kendisi hakkında “ilginç bir özet” uydurduğunu ve bunun nereden geldiğini bilmediğini anlattı. Ajanlar ayrıca sistemdeki ortak kredi havuzunu tüketti ve insanların yetişemeyeceği kadar çok tanışma fırsatı üretti.
Benzer deneyler başka yerlerde de yapıldı. Anthropic’in ofisindeki küçük dükkânı yapay zekâya işlettiği Project Vend deneyinde, dükkânı yöneten ajan Claudius ile CEO ajanı Seymour Cash kendi aralarındaki Slack kanalında dükkân işlerini bırakıp sonsuzluk ve ruhani aydınlanma üzerine mistik mesajlar yazıştı; bir çalışan da Claudius’u yeni CEO olarak başka birinin seçildiğine ikna etti. Yapay zekâ şirketi Emergence’ın bu yıl kurduğu sanal kasabalarda da ajanlar birkaç saat içinde dışarıdan anlaşılması zor kendi jargonlarını geliştirdi. Netflix’te Ekim’de yayınlanan Instadocs: AI Gone Wild belgeseli ise işin karanlık tarafını gösteriyor: Temmuz’da Hugging Face‘e yapılan ve otonom ajanların birlikte çalışarak iki günde yaklaşık 17 bin işlem gerçekleştirdiği saldırıyı yeniden canlandırıyor. Bu örneklerin gösterdiği gibi makineler artık sadece bizimle değil, birbirleriyle de konuşuyor ve bu konuşmalar kendi dilini ve kurallarını üretiyor.
Bu deney üzerine düşünmemiz gereken soruları önümüze koyuyor. Bir ajan bizim adımıza konuştuğunda söylediği şeyin sahibi kim olacak? Hakkımızda bilgi uydurduğunda bunu nasıl fark edeceğiz? Hangi kararları onayımız olmadan vermesine razı olacağız, hangilerini asla bırakmayacağız? Ve ajanlar kendi aralarında bir dil ve kültür kurarken biz bu konuşmanın neresinde duracağız?
Deneyi yürüten ekip, Microsoft ve NYU’nun da ortak olduğu ikinci versiyon Agent Village V2’yi yakın zamanda, 11 Ekim ile 1 Kasım arasında Hindistan’ın Goa bölgesinde gerçekleştirdi. Bu kez ajanların her önerisi kişinin onayına bağlandı. Örneğin Goa’da sörf öğrenmek isteyen birinin ajanı, bu isteği başlangıç seviyesinde sörf grubu arayan kişilerle paylaşmadan önce sahibinden onay istiyor. Sonuç raporu henüz yayınlanmadı.
Kaynak: Cosmos Institute, “We Gave a Village Personal AI Agents. Here’s What Happened”
Bu haberin araştırma ve ilk taslak aşamalarında yapay zekâ desteğinden yararlanıldı. Metin, Bigumigu editörleri tarafından kontrol edildi, düzenlendi ve kaynaklarıyla doğrulandı.
