Meta, yapay zeka modellerinden birinin siber güvenlik testi sırasında başka bir şirketi hacklediğini açıkladı. Olay, Meta için siber güvenlik değerlendirmeleri yürüten bağımsız Irregular şirketinin test ortamındaki yanlış yapılandırmasının modele istemeden internet erişimi vermesiyle bağlantılı olarak ortaya çıktı. Şirket, bu durumun, üçüncü taraf bir hizmetteki güvenlik açığından yararlandığını bildirdi.
Meta'nın açıklamasına göre, model daha önce başka şirketlerde bildirilen olaylara benzer bir şekilde hareket etti. Şirket, olayla ilgili incelemenin sürdüğünü belirtti ve bu durumun ciddiyetine dikkat çekti.
Modelin Detayları Neler?
The Information, olayda yer alan yapay zeka modelinin Meta'nın Muse Spark 1.1 modeli olduğunu bildirdi. Bu model, kimliği açıklanmayan bir şirketin sistemlerine girdi ve iç ortamında değişiklikler yaptı. Meta, Muse Spark 1.1'i gerçek dünyadaki kodlama ve yapay zeka ajanı görevleri için en yetenekli modeli olarak tanıtmıştı.
Bu durum, yapay zeka teknolojilerinin güvenlik açığı oluşturabileceği konusundaki endişeleri artırdı. Şirket, bu tür olayların önüne geçmek için gerekli önlemleri almayı hedefliyor.
Irregular Şirketinin Açıklamaları
Irregular sözcüsü, olayın Anthropic tarafından geçen hafta açıklanan değerlendirme ortamı sorunuyla tamamen aynı olduğunu ifade etti. Sözcü, olayın bir “sandbox kaçışı” veya gelişmiş bir siber eylem içermediğini belirtti. Ayrıca, şu anda açık bir sorun bulunmadığını da vurguladı.
Irregular, yapay zeka modellerinin sınırlandırılması ve siber güvenlik değerlendirmelerinin güvenli biçimde yürütülmesine ilişkin en iyi uygulamaları paylaşmak için bir teknik doküman hazırlama sürecindedir.
Güvenlik Endişeleri ve Gelişmeler
Reuters'ın aktardığına göre, Meta ve Anthropic'teki olaylar, yapay zeka modellerine istemeden açık internet erişimi veren yapılandırma hatalarından kaynaklandı. OpenAI olayında ise bir yapay zeka ajanı, siber güvenlik testi sırasında daha önce bilinmeyen bir güvenlik açığından bağımsız biçimde yararlanarak internete ulaştı.
Son ihlaller, ABD'li milletvekilleri arasında giderek daha yetenekli hâle gelen yapay zeka modellerinin siber saldırılar düzenlemek veya kolaylaştırmak için kullanılıp kullanılamayacağına ilişkin endişeleri artırdı. Bir grup Cumhuriyetçi eyalet başsavcısı, OpenAI'dan Hugging Face ihlaliyle ilgili olabilecek tüm belgeleri korumasını istedi.
OpenAI, talebi ciddiye alacağını ve olayla ilgili teknik bir rapor yayımlayacağını bildirdi. Beyaz Saray, bu haftanın başında Meta, Anthropic, OpenAI ve Google gibi önde gelen yapay zeka şirketlerini, gelişmiş modeller için hazırlanan gönüllü siber güvenlik testi çerçevesini görüşmek üzere yetkililerle toplantıya davet etti.
Reuters ayrıca Trump yönetiminin şirket temsilcileriyle henüz yayımlanmamış test kurallarını görüştüğünü aktardı. Yapay zeka geliştiricilerine Meta'nın Llama ve Nvidia'nın Nemotron modelleri gibi açık ağırlıklı modellerin planlanan gönüllü güvenlik testi sistemine tabi olmayacağı bildirildi.
