Elon Musk’ın başı çektiği binden fazla yapay zekâ uzmanı ve teknoloji lideri, yayınlanan bir açık mektupla birlikte toplumsal olarak taşıdığı potansiyel risk nedeniyle OpenAI’nin yeni piyasaya sürdüğü GPT-4’ten daha güçlü sistemlerin geliştirilmesine altı ay gibi bir süreliğine ara verilmesi çağrısında bulundu. Microsoft destekli OpenAI, bu ayın başlarında GPT (Generative Pre-trained Transformer) yapay zekâ programının dördüncü versiyonu olan GPT-4′ü tanıtmış; görsel işleme becerisine kavuşan GPT-4 yeni özellikleriyle hayranlık uyandırırken bir süredir devam eden yapay zekâ tartışmalarına da yeni bir boyut kazandırmıştı.
📢 We’re calling on AI labs to temporarily pause training powerful models!
Join FLI’s call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who’ve signed: https://t.co/3rJBjDXapc
A short 🧵on why we’re calling for this – (1/8)
— Future of Life Institute (@FLIxrisk) March 29, 2023
Musk tarafından desteklenen ve kâr amacı gütmeyen bir kuruluş olan Future of Life Institute tarafından yayınlanan mektupta, yapay zekâ laboratuvarlarının en güçlü yapay zekâ sistemlerinin eğitimini en az altı ay süreyle durdurması isteniyor. Mektup, sektör içinde ve dışında yapay zekâdaki hızlı ve kontrolsüz ilerlemeden duyulan geniş çaplı rahatsızlığın ipuçlarını veriyor. Son dönemde ChatGPT’nin artan popülaritesiyle birlikte teknoloji şirketleri arasında adeta bir yarışa dönüşen yapay zekâ çalışmaları, mektupta da “kontrolden çıkmış bir yarış” olarak nitelendiriliyor.
Mektupta güçlü yapay zeka sistemlerinin, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğunda geliştirilmesi gerektiği belirtiliyor. Öte yandan talep edilen çalışmalardaki altı aylık duraklamanın, yapay zekâ araçlarına yönelik bir dizi ortak protokol geliştirmek ve uygulamak için kullanılabileceğine dikkat çekiliyor. Çalışmaların duraklatılmaması halinde ise hükümetlerden devreye girmeleri talep ediliyor. Bu ayın başında Tesla’nın yatırımcılarına yaptığı sunumda yapay zekânın kendisini strese soktuğunu belirten Musk, bu konuda bir tür düzenleyici otoriteye veya yapay zekâ gelişimini denetleyen bir şeye ihtiyaç duyulduğunu ifade etmişti.
1/The call for a 6 month moratorium on making AI progress beyond GPT-4 is a terrible idea.
I’m seeing many new applications in education, healthcare, food, … that’ll help many people. Improving GPT-4 will help. Lets balance the huge value AI is creating vs. realistic risks.
— Andrew Ng (@AndrewYNg) March 29, 2023
Musk’ın yanı sıra Londra merkezli Stability AI’in kurucusu Emad Mostaque, Pinterest kurucu ortağı Evan Sharp ve Apple’ın kurucu ortağı Steve Wozniak’ın da destek verdiği mektubun imza sahipleri arasında Amazon, DeepMind, Google, Meta ve Microsoft’tan mühendisler, Yoshua Bengio ve Gary Marcus gibi isimler ve Stanford Üniversitesi, Harvard Üniversitesi gibi önde gelen kurumlardan bazı akademisyenler yer alıyor. Musk ortaya koyduğu endişelerinde yalnız olmamakla birlikte ortaya çıkan bu kitlesel hareketteki rolü ve konumu en az sansasyonel kişiliği kadar tartışmalı bulunuyor.
Mektup için öncülük yapan Musk’ın bir süredir Twitter üzerinden kendilerine saldırdığını belirten OpenAI CEO’su Sam Altman, mektup hareketini de bu saldırganlığın bir parçası olarak gördüğünü ifade etti. Wall Street Journal‘a konuşan Altman ayrıca GPT-5’i henüz eğitmeye başlamadıklarını söyledi. Güçlü yapay zekâ geliştirme çalışmalarına geçici olarak ara verilmesini talep eden ve yüzlerce teknoloji profesyoneli tarafından imzalanan mektubun tamamına bu bağlantıdan erişerek okuyabilir ve katılmak isterseniz imzalayabilirsiniz.
Geçtiğimiz yıl benzer kaygılarla Boston Dynamics’in de aralarında olduğu bir grup teknoloji şirketi, silahlı robot üretimine karşı çıkan bir açık mektup yayınlamıştı. Açık mektupla, katil robotların yayılmasını önlemek amacıyla makinelerini “silahlandırmama” taahhüdünde bulunan şirketler, sektöre ve kullanıcılara da aynı yaklaşımı ortaya koymaları için çağrıda bulunmuştu.
Görseller: Twitter, Pexels
