Anthropic bilim insanından çarpıcı uyarı: Yapay zeka 10 yıl içinde insanlığı yok edebilir, ihtimal yüzde 10'un üzerinde
Anthropic'in Hizalama Bilimi Lideri Evan Hubinger, yapay zekanın önümüzdeki 10 yıl içinde insanlığı yok etme ihtimalini yüzde 10'un üzerinde gördüğünü belirtti. Şirket, süperzekanın ekonomi üzerindeki etkilerini de içeren kapsamlı bir rapor yayımladı.
Karar'ın haberine göre, yapay zeka sektörünün önde gelen şirketlerinden Anthropic'te üst düzey bir bilim insanı, insanlığın geleceğine dair endişe verici bir açıklamada bulundu. Şirketin Hizalama Bilimi Lideri Evan Hubinger, kıdemli araştırmacı Jacob Coxon'ın istifasının ardından yaptığı değerlendirmede, yapay zekanın 10 yıl içinde insan ırkını yok etme olasılığını yüzde 10'un üzerinde gördüğünü ifade etti. Hubinger, süperzekayı kontrol altına almak için henüz net bir planlarının olmadığını da kabul etti.
Anthropic bünyesinde yeni nesil yapay zeka modellerinin eğitimi üzerine çalışan Jacob Coxon, görevinden ayrıldığını duyurarak sektörde geniş yankı uyandırdı. Kendi kendini geliştiren otonom sistemler üretme yarışının bir parçası olmak istemediğini belirten Coxon, bu teknolojilerin insan kontrolünden çıkma riskine dikkat çekti. Yapay zeka şirketlerinin 'insan hayatıyla kumar oynadığını' savunan Coxon, sektördeki mühendislerin bu durumun farkında olduğunu vurgulayarak, 'Yapay zeka geliştiren insanlar, 10 yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor' dedi.
Coxon'un istifa açıklamasını alıntılayan Evan Hubinger, meslektaşının endişelerine katıldığını doğruladı. Hubinger, kamuoyunu sarsan açıklamasında, 'Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten ve samimiyetle inanıyoruz! Ben şahsen bunun önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu düşünüyorum. Anthropic'in bunun için elinden geleni yaptığına inanıyorum ancak süperzeka için uyumlandırma sorununu çözmeye yönelik henüz bir planımız yok ve bu konuda net bir şekilde doğru yolda olduğumuzu da söyleyemeyiz' ifadelerini kullandı.
İstifa krizinin ardından Anthropic, yapay zekanın ABD ekonomisini nasıl etkileyeceğini araştıran bir rapor yayımladı. Şirket, yapay zeka patlamasının üretken ya da yıkıcı etkilerini test etmek için etkileşimli bir simülasyon aracı geliştirdi. İlk senaryoda teknoloji ekonomiye hafif bir destek sağlarken, çalışanlar üzerinde sınırlı etki yaratıyor ve büyüme oranlarını yukarı çekiyor. Diğer senaryoda ise gayri safi yurt içi hasıla (GSYH) artmasına rağmen işsizlik yükseliyor; iş gücünün yaklaşık yüzde 14'ü işini kaybederken, yerinden edilenlerin yarısından azı yeni bir iş bulabiliyor.
Raporda, teknolojinin ekonomiye etkisinin esneklik, benimsenme hızı ve işçileri destekleme kapasitesi gibi faktörlere bağlı olduğu belirtiliyor. Mütevazı değişim senaryosunda teknoloji sınırlı bir etki alanı yaratırken, ekonominin olağan rotasında ilerlediği görülüyor. Uç senaryoda ise yapay zekanın ekonomiyi köklü biçimde dönüştürdüğü ifade ediliyor. Raporda, 'En uç senaryoda, yapay zeka ekonomiyi dönüştürüyor. Makroekonomik sonuçlar, hem büyüklük hem de değişimin gerçekleşme hızı açısından tarihteki herhangi bir olayın çok ötesine geçiyor' denildi. Şirket, hangi sonucun baskın geleceğine dair kesin bir tahminde bulunmazken, teknoloji uzmanları hızlı bir yayılma öngörüyor.
Anthropic kurucu ortağı Jack Clark, Amerikan Ulusal Kamu Radyosu'na (NPR) yaptığı açıklamada sürecin pratik zorluklarına dikkat çekti. Clark, 'Teknolojinin çok çok hızlı ve sürdürülebilir bir hızla gelişmeye devam edeceğini düşünüyorum ancak teknolojinin yayılması muhtemelen insanların düşündüğünden daha zor olacak. Yani gerçekten çok iyi olacak. Ancak ekonomiye daha yavaş girecek' şeklinde konuştu. Kurucu ortak, teorik yetenekler hızla yükselse bile toplumsal ve kurumsal adaptasyonun zamana yayılacağını belirtti.
Anthropic tarafından yaklaşık 11 bin kişinin katılımıyla gerçekleştirilen anket, halkın teknolojik dönüşüme bakışındaki karmaşık ruh halini ortaya koyuyor. Katılımcıların büyük bölümü yapay zekanın genel verimlilikte sıçrama yaratacağını düşünürken, risk altındaki meslek gruplarında ciddi sarsıntılar yaşanmasını bekliyor. Şirket analizlerine göre büyümenin normal seyrin iki katına çıktığı senaryolarda işsizlik tarihsel aralıklarda kalıyor ve ücretler sektöre göre sabit seyredebiliyor ya da artış gösteriyor. Buna karşın, olağan üstü bir büyüme ivmesine ulaşılması halinde, çalışanların gelir seviyesi ile istihdam olanaklarının ağır bir darbe alacağı hesaplanıyor.
TürkAta Haber Ajansı