Yapay zeka hepimizi öldürecek mi? İşte bilmeniz gerekenler.
Teknolojinin kontrolünü kaybedeceğimize dair kaygılar artıyor. Peki, gerçekten endişelenmeli miyiz?
İklim kriziyle ya da dünya genelinde aşırı sağcı siyasetin yükselişiyle kıyaslandığında, yapay süper zekanın insanlığı yok etme ihtimalini kaale almak elbette zor. Gişe rekortmeni Hollywood filmlerinin –başta Terminatör ve Matrix– temelini oluşturan bu fikir kulağınıza bilimkurgu senaryosu gibi gelebilir. Üstelik çoğumuzun gündelik hayattaki yapay zeka kullanım alışkanlıklarına da ters düşüyor: Bu teknoloji, daha çok gezegenimizdeki en sinir bozucu insanlara Instagram paylaşım metinleri ve eşlerini muzla aldatan çileklerin hikayesini anlatan mikro pembe diziler (az çok ülkemizdeki böcek videolarına karşılık geliyor) üretmek için kullanılıyor. Peki sürekli yaltaklanan, yapmacık gülüşlü, ayran budalası ChatGPT’nin hepimizin sonunu getireceğine inanmak mümkün mü? Eğer sonumuzu getirecekse, belki de bunu hak ediyoruzdur.
Yapay zeka konusundaki karamsarlık ile coşkunun aynı madalyonun iki yüzü olabileceğine dair yabana atılmayacak şüpheler de var: Mesela Sam Altman gibi biri, kendi ürünlerinin akıl almaz potansiyeli konusunda uyarılarda bulunduğunda, belki de henüz kâr edemeyen şirketinin abartılı tanıtımını yapmaya ve daha fazla yatırım çekmeye çalışıyordur. Ne var ki, son yıllarda –bilhassa yapay zeka güvenliği araştırmacıları Eliezer Yudkowsky ve Nate Soares’in çoksatan kurgudışı kitabı If Anyone Builds It, Everyone Dies’ın [Biri Yaparsa, Herkes Ölür] yayımlanmasının ardından– yapay süper zekanın doğuracağı varoluşsal tehlike daha fazla ciddiye alınır oldu. Bu korkular, aylarca gündemde kalan endişe verici haberlerin ardından, Anthropic araştırmacılarından Jacob Coxon’un kamuoyuyla paylaştığı istifasıyla doruğa ulaştı. Coxon, insanları yapay zeka şirketlerinin “kendini geliştiren süper zekayı üretebilmek için birbirleriyle yarışıp hepimizin hayatıyla kumar oynadıkları” konusunda uyarmıştı. İşin tuhafı şu ki Anthropic’in hizalama bilimi sorumlusu Evan Hubinger’dan da iç açıcı bir yanıt geldi. Hubinger, X’te yaptığı paylaşımda “Jacob bu konuda haklı, yapay zekanın bütün insanlığı yok edebileceğine cidden inanıyoruz” dedi ve bunun önümüzdeki on yıl içinde gerçekleşme ihtimalinin yüzde 10’un üzerinde olduğunu söyledi. Yangına körükle gitmeyi tercih etmişti.
Bu tartışmalarını alenen ortaya koyduğu şey, “yapay zeka kıyameti” ihtimalinin neredeyse apayrı bir mesele olduğudur; bu insanların kıyametin mümkün olduğunu düşünmelerine rağmen bildikleri yolda ilerleyerek hepimizin hayatını tehlikeye atmaları başlı başına berbattır. İklim krizi çözüm üretilmesi zor bir meseledir, oysa yapay zeka kıyameti bu teknolojiyi geliştiren şirketlerin bilfiil seçtikleri bir risktir. Bana kalırsa, bu şirketlerin liderleri insanlığa karşı ihanete teşebbüsten yargılanmalıdır. Peki, biz ne kadar endişelenmeliyiz? Gerçekten de genel yapay zekanın (AGI) eli kulağında mıdır? Tanrılaşmış bir robotun egemenliği altında yaşamak şimdiki halimizden daha kötü olabilir mi?
