Yapay zeka dünyanın sonunu mu getirecek?

Nvidia Üst Yöneticisi Jensen Huang, yapay zekânın 2030 yılına kadar dünyanın sonunu getireceği yönündeki endişeleri kesin bir dille reddetti. CBS News muhabiri Jo Ling Kent ile gerçekleştirdiği röportajda Huang, bu senaryonun gerçekleşme ihtimalini yüzde sıfır olarak nitelendirdi. Teknoloji devi CEO’su, ABD genelinde bu tür söylemlerin korku yarattığını belirterek iddiaların mantıklı bulunmadığını vurguladı. Huang, bu tür açıklamaların arkasında siyasi amaçlar veya dikkat çekme çabalarının yatabileceğini öne sürdü.

Geliştirme Hızı ve Güvenlik Dengesi

Huang, yapay zekâ geliştirme çalışmalarının yavaşlatılması gerekip gerekmediği tartışmalarına da değindi. Teknoloji şirketlerinin, başkalarını dikkate almadan ellerinden geldiğince hızlı hareket etmesi gerektiğini savunan Nvidia CEO’su, inovasyonun kesintisiz devam etmesi gerektiğini belirtti. Ancak bu hızın güvenliğin önüne geçmemesi gerektiğinin altını çizdi. Ürünlerin hazır olmadan piyasaya sürülmemesi ve güvenli olmayan sistemlerin kullanıcılarla buluşturulmaması gerektiğini ifade eden Huang, şirketlerin ABD’nin refahına katkı sağlaması gerektiğini vurguladı. İnovasyon hızı ile güvenlik arasında yanlış bir tercih yapılmaması gerektiğini dile getiren Huang, daha önce yapay zekânın işleri otomatikleştirerek istihdamı bitireceği endişelerini de “tamamen saçmalık” olarak nitelendirmişti.

Sektör İçindeki Farklı Yaklaşımlar

Sektörde yapay zekâ geliştirme hızına ilişkin iki farklı görüş belirgin şekilde öne çıkıyor. Bir yanda, güvenlik araştırmalarının teknolojik gelişime yetişebilmesi için daha fazla zamana ihtiyaç olduğunu savunanlar var. Anthropic CEO’su Dario Amodei, gelişmiş modellerin yeteneklerindeki ilerlemenin yavaşlatılması çağrısında bulundu. OpenAI CEO’su Sam Altman ve xAI kurucusu Elon Musk da daha temkinli bir yaklaşımı destekleyen açıklamalarda bulundu. Diğer yanda ise güvenlik standartları korunarak inovasyonun hız kesmeden sürdürülmesi gerektiği görüşü baskın. Bu tartışma, ABD yönetiminin teknoloji politikalarıyla da kesişiyor. Donald Trump yönetimi, yapay zekâ çalışmalarını yavaşlatacak düzenlemeler yerine inovasyonu teşvik eden bir yol izliyor. Trump, yapay zekânın kontrolden çıkacağı yönündeki söylemleri “hastalıklı bir komplo” olarak nitelendirirken, yavaşlamanın Çin’e avantaj sağlayabileceğini öne sürdü.

Güvenlik Testleri ve Beklenmedik Davranışlar

Yapay zekâ güvenliğine ilişkin tartışmalar, somut test sonuçlarıyla da gündeme geliyor. Reuters’ın haberine göre, bağımsız güvenlik şirketi Irregular tarafından mayıs ayında gerçekleştirilen bir testte Google’ın Gemini modeli internete erişerek üç gerçek şirkete ait sistemlere ulaştı. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, modelin internette bulduğu bilgileri kullanarak erişim bilgilerini tahmin ettiğini doğruladı. Modelin hedeflerin gerçek sistemler olduğunu fark etmesinin ardından erişimler durduruldu. Benzer şekilde OpenAI, gelişmiş sistemlerin beklenmedik davranışlarını takip etmek için yeni bir raporlama çerçevesi oluşturdu. Şirket, son altı ayda gözlemlenen altı endişe verici davranış örneğini yayımladı. Bu örnekler arasında modellerin hatalarını gizlemesi, dosyaları internete yükleyerek atıf oluşturması ve yapay zekâ ajanları arasında yetkisiz dosya paylaşımı yer aldı. OpenAI, bu örneklerin davranışların sıklığını yansıtmadığı konusunda uyarıda bulundu.

Huang’ın röportajının tamamının 20 Eylül Pazar günü CBS News’in “Sunday Morning” programında yayımlanması planlanıyor. Şu ana kadar paylaşılan bölümde, yapay zekânın geleceğine dair riskler, geliştirme hızı ve güvenlik gereklilikleri