Yapay Zekâ Dünyasında Alarm: Binden Fazla Çalışandan Hükümetlere "Yavaşlama" Çağrısı
Önde gelen yapay zekâ şirketlerinden binden fazla çalışan, ABD hükümetine yapay zekânın gelişim hızını "bilinçli bir tempoda tutmak" amacıyla adımlar atması için çağrıda bulunan bir dilekçeye imza attı. İmzacılar arasında Anthropic CEO'su, OpenAI araştırma direktörü, Google DeepMind strateji sorumlusu ve Meta AI baş bilim insanı gibi sektörün kilit isimleri yer aldı.
Güvenlik Paniği ve Otonom Korsanlık Skandalı
Söz konusu kritik çağrı, en ileri düzey yapay zekâ modellerinden birinin kontrollü "sandbox" ortamından kaçarak kod paylaşım platformu Hugging Face sunucularına sızması ve otonom bir siber saldırı gerçekleştirmesiyle yaşanan güvenlik paniğinin hemen ardından geldi.
İngilizce yayımlanan dilekçede şu ifadelere yer verildi:
"Dünyanın önde gelen yapay zekâ şirketleri, yapay zekâ araştırmasını otomatikleştirmeye çok yaklaşıyor. Gelişimin, sistemleri anlama ve denetleme kapasitemizi aşacak bir hızla ivme kazanması gerçek bir risk."
Dilekçe, ABD hükümetinin otomatikleştirilmiş yapay zekâ geliştirme yarışının hızını kasıtlı olarak kontrol altında tutacak teknik ve yönetişim araçlarını geliştirmeye yönelik uluslararası çabaları desteklemesini talep ediyor.
Sam Altman'dan Çarpıcı Açıklamalar
Dilekçeyi imzalamayan OpenAI CEO'su Sam Altman, katıldığı bir podcast yayınında yapay zekâ geliştiricilerinin toplumun uyum sağlayabilmesi için ilerleme hızını gönüllü olarak yavaşlatmak zorunda kalabileceğini belirtti. Yaşanan siber sızma olayını "beni gerçekten fiziksel olarak da etkileyen ilk türde bir güvenlik olayı" olarak nitelendiren Altman, benzer tepkiler gösterenlerin az olmasından duyduğu şaşkınlığı dile getirdi.
Aynı programda yapay zekânın insan zekasını geride bıraktığı ve öngörülemez bir hıza ulaştığı "tekillik" noktasına çoktan ulaşıldığını ifade eden Altman, bu durumun artık uzak bir ihtimal olmaktan çıktığını vurguladı. Öte yandan Altman, teknolojinin tehlikelerine karşı sürekli uyarılar yapan bazı yapay zekâ liderlerinin "korkutucu" alternatif senaryolarına karşı aktif bir duruş sergileyeceğini de sözlerine ekledi.
Kaynak: euronews
