“Yapay zeka insanlığı yok edebilir!”

Yapay zeka alanında çalışan önde gelen isimler, teknolojinin insanlık için taşıdığı varoluşsal risklere dair endişelerini açıkça dile getirmeye devam ediyor. Anthropic şirketinde uyum (alignment) çalışmalarını yöneten Evan Hubinger, X platformundaki paylaşımlarında kendisi ve birçok meslektaşının yapay zekanın tüm insanlığı yok edebileceğine samimiyetle inandığını belirtti. Hubinger, bu felaket senaryosunun gerçekleşme olasılığını kişisel tahmini olarak önümüzdeki on yıl içinde yüzde 10’un üzerinde gördüğünü ifade etti. Bu çarpıcı açıklama, aynı şirketten istifa eden araştırmacı Jacob Coxon’un sert eleştirilerine yanıt niteliğinde geldi.

İstifa Eden Araştırmacının Sert Eleştirileri

Jacob Coxon, hem OpenAI hem de Anthropic’te üç yıl boyunca ön eğitim araştırmaları yürüttükten sonra istifa ettiğini duyurdu. Coxon, istifa gerekçesi olarak rakip şirketlerin sorumlu davranmadığını ve doğrudan kendini geliştiren süper zekaya koştuğunu öne sürdü. Araştırmacı, bu sürecin hayatlarla kumar oynanması anlamına geldiğini vurguladı. Coxon, yapay zeka geliştirenlerin bu tehdidi ciddiye aldığını ve bunun bir pazarlama taktiği olmadığını, aksine dünyanın en agresif senaryolara doğru ilerlediğini savundu. Wall Street Journal’ın haberine göre Coxon, gelecek yılın sonuna kadar kontrolün kaybedilebileceğini düşünüyor. Ona göre Anthropic’te riskler iyi anlaşılmakla birlikte, şirket kimsenin sorumlu davranmayacağı inancıyla yarışa kilitlenmiş durumda.

Uyum Sorunu ve Süper Zeka Tehdidi

Evan Hubinger, şirketin elinden gelenin en iyisini yaptığını kabul etse de, süper zeka için uyum sorununu çözmek konusunda henüz net bir planlarının olmadığını itiraf etti. Hubinger, mevcut modellerin tehdit seviyesinin düşük olduğunu belirtirken, asıl endişesinin özyinelemeli kendini geliştirme yoluyla ortaya çıkacak süper zeka olduğunu açıkladı. Bu sürecin beklenenden daha hızlı ilerlediğini söyleyen Hubinger, net biçimde doğru yolda ilerlenmediğini vurguladı. Bu durum, teknolojinin mevcut haliyle değil, potansiyel gelişim hızıyla ilgili derin bir kaygıyı yansıtıyor.

Sektörde Yavaşlama Çağrıları

Bu gelişmeler, yapay zeka araştırmacılarının “sınırı yavaşlatma” çağrılarının gölgesinde yaşanıyor. Temmuz ayında yayımlanan “Pacing the Frontier” bildirisine, Anthropic kurucuları Dario Amodei ve Jared Kaplan, OpenAI Baş Bilimcisi Jakub Pachocki ve Meta AI Baş Bilimcisi Shengjia Zhao gibi önemli isimler imza atmıştı. Bildiri, riskleri yönetmek ve denetimi güçlendirmek için zaman kazanılması gerektiğini savunuyordu. Ayrıca şirketlerin tek taraflı yavaşlama konusunda yoğun rekabet baskısı altında olduğu belirtilerek, sektörel bir koordinasyon ihtiyacına dikkat çekildi. Bu imzalar, endüstri liderlerinin de risklerin farkında olduğunu ve denetim mekanizmalarının güçlendirilmesi gerektiğini düşündüğünü gösteriyor.