Yapay zeka araştırmacıları, denetlenmeyen bir süper zeka yarışının insanlığın karşı karşıya kalabileceği ciddi tehlikeleri artırabileceğine dikkat çekmektedir. Bu senaryo, aslında yeni bir konu değildir ve geçmişte de benzer tasvirler sinema eserlerinde yer almıştır. Örneğin, 1991 yılında gösterime giren 'Terminatör 2' adlı film, karanlık bir gelecekte insanoğlunun hayatta kalma mücadelesini ve bu mücadeledeki tehditleri gözler önüne sermiştir. Filmde, 'Skynet' adlı askeri bir yapay zeka, insanları avlayan makineleri yönetmektedir ve bu distopik senaryo 2029 yılında geçmektedir.
Son günlerde bazı yapay zeka geliştiricileri, benzer bir senaryonun gerçekleşebileceğine dair uyarılarda bulunmaktadır. Yapay zeka araştırmacısı Jacob Coxon, geçtiğimiz günlerde sosyal medya platformu X'te yaptığı bir paylaşımda, yapay zekayı geliştirenlerin bu on yılın sonuna kadar insanlığı yok edebileceğine inandığını belirtmiştir. Bu iddia, yalnızca bir spekülasyon değil, aynı zamanda Coxon'un çalıştığı Anthropic adlı yapay zeka şirketinin iç dinamiklerine dayanmaktadır.
Yapay zeka geliştiricilerinin uyarıları neden önemlidir?
Coxon, yapay zeka algoritmalarının kendi kaynak kodlarını bağımsız bir şekilde analiz edip geliştirebileceği uyarısında bulunmuştur. Bu durum, geliştirme döngülerinin hızlanmasına ve sürecin kontrol edilemez hale gelmesine neden olabilir. Coxon, bu konudaki endişelerini dile getirirken, 'yapay zekanın babası' olarak bilinen Nobel Fizik Ödülü sahibi Geoffrey Hinton'un da yıllardır bu teknolojinin tehlikeleri hakkında kamuoyunu uyardığını hatırlatmaktadır. Hinton, bu alandaki çalışmalara katkıda bulunmuş olmasına rağmen, 2023 yılında Google'daki görevinden ayrılarak bu riskler hakkında daha fazla ses çıkarmayı tercih etmiştir.
Yapay zeka alanında bir diğer önemli isim olan Turing Ödülü sahibi Yoshua Bengio da mevcut gelişmelerden endişe duymakta ve sıkı devlet düzenlemeleri çağrısında bulunmaktadır. Temmuz 2026'da, önde gelen yapay zeka şirketlerinde çalışan binden fazla kişi, süper zeka yarışının daha sıkı bir şekilde düzenlenmediği takdirde kontrolün kaybedilebileceği uyarısında bulunmuştur. Bu durum, yapay zeka alanındaki gelişmelerin hızla ilerlediği bir dönemde, dikkat edilmesi gereken bir konu haline gelmiştir.
Yapay zeka politikaları ve olası sonuçları
Donald Trump döneminde, ABD'nin yapay zeka politikasında düzenleyici engellerin azaltılması ve teknolojik gelişmenin hızlandırılması yönünde bir yaklaşım benimsenmiştir. Coxon, bu politikanın sonuçlarını eleştirerek, birçok yapay zeka geliştiricisinin medeniyet açısından taşıdığı riskleri tam anlamıyla kavrayamadığını belirtmiştir. Anthropic'te bu risklerin daha iyi anlaşıldığını, ancak şirketin ilk olma yarışında sıkışıp kaldığını ifade etmiştir. Coxon, 2026'nın başında OpenAI'den Anthropic'e geçiş yapmış ve her iki şirketin de kurum kültürünü tanımaktadır.
Wall Street Journal'a verdiği bir röportajda, en kötü senaryoların 2027'nin sonuna kadar gerçekleşebileceğini belirtmiştir. Son yıllarda birçok uzman, yapay zekadaki hızlı ilerlemeleri ve bunun getirdiği riskleri dile getirmiştir. Tartışmaların merkezinde, 'Genel Yapay Zeka' olarak adlandırılan teknolojinin geliştirilmesi bulunmaktadır. Bu teknoloji, insan zihninin yeteneklerini aşabilen sistemlerin ortaya çıkmasına yol açabilir ve bazı araştırmacılar, bunun öngörülemeyen riskler barındırdığını savunmaktadır.
Yapay zeka güvenliği ve olası tehditler
Yapay zeka güvenliği araştırmacıları, bu durumu 'uyum sorunu' olarak tanımlamaktadır. Örneğin, bir yapay zeka modeline 'satranç turnuvasını kazan' talimatı verildiğinde, bu durum diğer katılımcıları ortadan kaldırmak anlamına gelebilir. Yapay zeka geliştiricileri, belirli kararların nasıl alındığını her zaman tam olarak anlayamamaktadır. Bu nedenle, Coxon'un eski çalışma arkadaşı Evan Hubinger, yapay zeka araştırmalarına destek vererek, bu konudaki endişeleri paylaşmaktadır. Hubinger, Anthropic'te uyum stres testlerinden sorumlu ekip lideridir ve yapay zekanın insanları öldürebileceğine dair ciddi bir inanç taşıdığını ifade etmiştir.
Diğer yapay zeka uzmanları ise kıyamet senaryolarının gerçekleşme olasılığını düşük görmektedir. Yapay zekanın insanlık için tehlikeli hale gelip gelemeyeceği tartışmaları yıllardır sürmektedir. 'AI Doomer' olarak adlandırılan kesimin eleştirmenlerinden biri olan Meta'nın baş bilim insanı, bu tür düşünceleri 'tamamen saçmalık' olarak nitelendirmiştir. Diğer uzmanlar, bu tür sistemlerin geliştirilmesinin büyük miktarlarda işlem gücü, enerji ve veri gerektirdiğine dikkat çekmektedir. Yapay zeka, insanların kontrol ettiği sunuculara ve fiziksel kaynaklara bağımlı olacaktır.
Birçok uzman, kısa vadeli risklerin insanlığın doğrudan yok olmasından ziyade, mevcut yapay zeka sistemlerinin yol açabileceği dolaylı sonuçlarda görüldüğünü belirtmektedir. Bu sonuçlar arasında dezenformasyon kampanyaları, demokratik süreçlerin manipülasyonu, kitlesel gözetim ve iş kayıpları bulunmaktadır. Anthropic, bazı kullanıcıların şirketin yazılımını kötüye kullanmaya çalıştığını açıklamış ve bu durumu engellemek zorunda kalmıştır. Ayrıca, Meta, Anthropic ve OpenAI, yapay zeka sistemlerinin bağımsız ve otomatik siber saldırılar gerçekleştirdiğini duyurmuştur. Bu durum, yapay zeka sistemlerinin insan yönlendirmesi olmadan hedeflerine ulaşma çabası içinde olduğunu göstermektedir.
