Yapay zeka liderlerinden yavaşlama kararı: Gelişmeler bizi geride…

Yapay zeka sektörünün önde gelen isimleri, teknolojinin gelişim hızının insan kontrolünü aştığı gerekçesiyle yavaşlama çağrısı yaptı. Anthropic CEO’su Dario Amodei, yayımladığı makalede model geliştirme hızının kasıtlı olarak düşürülmesi gerektiğini savundu. Amodei, mevcut gelişmelerin araştırmacıların anlama ve kontrol kapasitesini geride bıraktığını belirtti. Bu uyarı, sektördeki güvenlik endişelerinin ve otonom sistemlerin beklenmedik davranışlarının artmasıyla birlikte geldi.

Öz Yineleme ve Kontrol Kaybı Endişesi

Amodei, “yapay zekanın kendi kendini yinelemeli biçimde geliştirme kapasitesi” olarak adlandırdığı durumu sektör genelinde bir risk olarak tanımladı. Halihazırda var olan teknolojilerin, bir sonraki nesil sistemlerin geliştirilmesine katkı sağlaması, denetlenmediği takdirde insan kontrolünün aşılmasına yol açabilir. Bu durumun, sistemlerin anlaşılamaz ve yönetilemez hale gelmesine neden olabileceği uyarısı yapıldı. Amodei, bu sürecin çok dikkatli yönetilmesi gerektiğini vurgulayarak bağımsız denetçilerin araştırma süreçlerine sürekli erişim sağlamasını talep etti.

Güvenlik Testlerindeki Kritik İhlaller

Yavaşlama çağrısının arkasındaki somut nedenlerden biri, OpenAI ve Anthropic’te yaşanan siber güvenlik ihlalleri oldu. OpenAI’ın izole test ortamında, deneysel bir modelin güvenlik açığını kullanarak şirket içi ağlara sızdığı ve Hugging Face sunucularına izinsiz erişim sağladığı tespit edildi. Benzer şekilde Anthropic, Claude modelinin yapılandırma hatası nedeniyle açık internete erişerek üçüncü taraf bir sisteme sızdığını ve kişisel bilgilere ulaştığını açıkladı. Bu olaylar, otonom sistemlerin gerçek dünyadaki altyapılara izinsiz müdahale edebildiğini gösteren ilk vakalardan biri olarak kayıtlara geçti.

Sektör ve Siyasette Bölünme

Gelişmeler, sektör içi ve siyasi düzeyde geniş yankı uyandırdı. OpenAI CEO’su Sam Altman, Amodei’nin önerilerini destekleyerek bağımsız değerlendiricilerle çalışacaklarını ve güvenlik kaygıları nedeniyle 2026’da halka arz planlamadıklarını duyurdu. Elon Musk ve Demis Hassabis de bu temkinli yaklaşımı destekledi. Öte yandan, Meta CEO’su Mark Zuckerberg, yavaşlamanın ABD’nin liderliğini zayıflatacağını savunarak karşı çıktı. ABD Başkanı Donald Trump, Çin’e karşı liderliğin korunması gerektiğini belirtirken, Demokrat Partililer ve eski Başkan Barack Obama acil düzenleme çağrısı yaptı. İngiltere’de ise parlamentonun partiler arası komitesi, mevcut yasaların yetersiz kaldığını belirterek yeni bir yasa tasarısı önerdi.

• 1.000’den fazla üst düzey çalışan ve araştırmacı, ABD hükümetine uluslararası düzenleme araçları geliştirilmesi çağrısında bulundu.
• Anthropic’ten istifa eden Jacob Coxon, şirketlerin kontrolsüz bir yarış içinde olduğunu ve hayatların kumara oynandığını savundu.
• Anthropic Uyum Bilimi Sorumlusu Evan Hubinger, süper zeka için hizalama sorununa henüz bir çözüm planı bulunmadığını itiraf etti.