Geoffrey Hinton ve Yoshua Bengio gibi dünyaca ünlü isimlerin de aralarında bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zeka sistemlerinin güvenliğini garanti altına almak amacıyla uluslararası bir denetim kurumu kurulması için harekete geçti.
Uluslararası Güvenlik ve Denetim Çağrısı
34 ülkeden araştırmacının imzasını taşıyan açık mektupta, özellikle siber saldırı kapasitesine sahip yapay zeka modelleri için ortak ve bağlayıcı güvenlik standartları oluşturulması talep edildi. Bilim dünyasının öncü isimleri, ciddi güvenlik olaylarının şeffaf bir şekilde kayıt altına alınmasının kritik bir ihtiyaç olduğunu vurguladı.
Şeffaflık ve Kayıt Sistemi Önerisi
Mektupta yer alan önerilere göre, kurulması planlanan kurumun sektör genelinde uygulanacak güvenlik ve kontrol standartlarını belirlemesi hedefleniyor. Ayrıca önemli güvenlik ihlallerini içeren merkezi bir kayıt sistemi oluşturulması ve bu kayıtların ilerleyen süreçte kamuoyu ile paylaşılması öngörülüyor.
İzole Sistemler ve Air-Gapping Yöntemi
Bilim insanları, geliştirilen yapay zeka modellerinin başlangıç aşamasında dış ağlardan fiziksel veya mantıksal olarak yalıtılmış sistemlerde çalıştırılması gerektiğini savunuyor. Siber güvenlik literatüründe 'air-gapping' olarak bilinen ve bir sistemin dış dünya ile doğrudan bağlantısının kesilmesi anlamına gelen bu yöntemin, bağımsız denetim süreçleri için hayati öneme sahip olduğu belirtiliyor.
Şirket Taahhütleri Yetersiz Kalıyor
Mektupta, teknoloji şirketlerinin kendi inisiyatifleriyle sundukları güvenlik taahhütlerinin artık yeterli olmadığı açıkça ifade ediliyor. Hükümetlerin kapsamlı bir yasal denetim mekanizması oluşturana kadar, yapay zeka geliştiren ve test eden tüm kuruluşların yüksek güvence sağlayan güvenlik standartlarını derhal uygulamaya başlaması talep ediliyor.
(Kaynak ve Görsel: GZT)
