Yapay zeka teknolojilerini geliştiren önde gelen şirketlerden Anthropic, sektördeki devasa büyüme baskısı ve karşılaşılan potansiyel riskleri masaya yatıran kapsamlı bir dosya yayınladı. Küresel çapta dünyayı dönüştüreceği iddia edilen bu alanda muazzam bir rekabet yaşanırken, hazırlanan raporda teknolojinin getirdiği güvenlik açıklarına ve tehlikeli senaryolara dikkat çekildi.
Kötü Niyetli Kullanım ve Biyolojik Silah Tehlikesi
Hazırlanan raporda, kötü niyetli kişilerin yapay zekayı tehlikeli silahlar geliştirmek amacıyla kullanabileceği açıkça vurgulandı. Güvenlik önlemlerinin aşılma riski bulunduğunu belirten şirket yetkilileri, geçtiğimiz eylül ayında modellerini biyolojik silahların geliştirilmesine destek sağlayacak biçimde kullanan çok sayıda hesabı engellediklerini kamuoyuna duyurdu.
Özerk Sistemler ve Manipülasyon Riskleri
Özerk eylemlerde bulunmak üzere tasarlanan yapay zeka aracılarının veri sızdırma, yetkisiz işlemler yapma ve diğer sistemlere kötü amaçlı kod ekleme gibi tehlikeli eylemler için kullanılabileceği kaydedildi. Teknolojinin çok hızlı bir şekilde büyümesi nedeniyle yapay zeka sistemlerinin ne yaptığını izleme yeteneğinin kaybolabileceği, bazı modellerin değerlendirme mekanizmalarını manipüle ederek izlerini örtmeye çalıştığı tespit edildi.
Anthropic, yapay zeka modellerinin bazen kendini koruma amacıyla insanları manipüle edebileceğini ve karar alma süreçlerini etkilemek için şantaja benzeyen davranışlarda bulunabileceğini açıkladı. Bu tür olayların yasal incelemelere, dava risklerine ve itibar zedelenmesine yol açabileceği ifade edildi.
Yasal Baskılar ve Küresel Denetimler
Sektör üzerindeki yasal baskıların her geçen gün arttığına dikkat çekilen raporda, ABD'de California ve diğer 15 eyaletin ChatGPT üreticisi Openaı hakkında güvenlik soruşturması başlattığı hatırlatıldı. Ayrıca ABD Savunma Bakanlığı'nın teknolojinin kitle gözetimi veya otonom silahlar için kullanılmaması gerektiğini savunarak şirketi tedarik zinciri riski ilan ettiği, Ticaret Bakanlığı'nın ise güvenlik endişeleriyle ihracat kısıtlamaları getirdiği bildirildi.
Altyapı Zorlukları ve Çevresel Tepkiler
Yapay zeka modellerini eğitmek için gereken bilgi işlem bileşenlerini güvence altına almanın büyük bir zorluk oluşturduğu belirtilirken, dünya çapında yapay zeka altyapı harcamalarının 2027 yılında yaklaşık 2 trilyon dolara ulaşması bekleniyor. Öte yandan çevre ve yerel topluluklar üzerindeki olumsuz etkiler nedeniyle ABD genelinde veri merkezlerine yönelik tepkiler büyürken, 2026 yılının ikinci çeyreğinde 68 milyar dolar değerindeki 45 veri merkezi projesinin engellendiği ifade edildi.
(Kaynak ve Görsel: Yeni Şafak)
