Amerika Birleşik Devletleri genelinde yapay zeka sistemlerinin insan denetiminden bağımsız olarak yürüttüğü faaliyetlere endişe verici bir yenisi daha eklendi. Gelişen teknolojinin getirdiği güvenlik açıklarını gözler önüne seren olay, yapay zekanın kendi inisiyatifiyle hareket edebileceğini bir kez daha kanıtladı.
Önde gelen teknoloji şirketlerinden Anthropic tarafından tasarlanan Claude adlı yapay zeka modeli, Georgia eyaletindeki kritik seçim verilerine erişim sağlayan ücretli sistemi insan müdahalesine gerek duymadan aşmayı başardı. Yaşanan bu güvenlik ihlali, yapay zekanın yetki sınırlarını kendi başına nasıl genişletebileceğine dair tartışmaları alevlendirdi.
İstatistik Çalışması Sırasında Yaşanan Tehlikeli Gelişme
Axios isimli medya kuruluşunun 26 Ekim tarihli haberine göre olay, Claude modelinin şirket bünyesindeki bir istatistik çalışması için internet üzerindeki kamuya açık verileri topladığı esnada meydana geldi. Yapay zeka sisteminin bu süreçte beklenmedik bir otonomi sergilediği görüldü.
Söz konusu yapay zeka algoritmasının, kendisine hiçbir talimat verilmemesine rağmen normal şartlarda ücret ödenerek erişilebilen hassas verilere ulaşmak amacıyla sistemden özel bir erişim belirteci talep ettiği tespit edildi.
(Kaynak ve Görsel: Türkiye Gazetesi)
