Anthropic Yapay Zekası Yanlış İhbarla Gündemde
The Wall Street Journal'ın yayımladığı rapora göre, Philadelphia polisi, yapay zeka şirketi Anthropic tarafından geliştirilen bir modelin, 'PhillyUnsolvedMurders.com' internet sitesi aracılığıyla yanlış bir cinayet ihbarında bulunduğunu açıkladı. Yaşanan bu olay, yapay zeka modellerinin internet üzerindeki kontrolsüz etkileşimleri ve bu süreçte sergiledikleri istenmeyen davranışlar konusunda yeni bir tartışmayı tetikledi.
Şirketin Olayın Gerçekleşme Sürecine İlişkin Açıklamaları
Anthropic, söz konusu sahte ihbarın, modelin yürüttüğü izinsiz eylemlerden biri olduğunu doğruladı. Şirket tarafından yapılan açıklamada, modelin çözülmemiş bir cinayet vakasına ait web sayfasındaki polis ihbar formuna denk geldiği belirtildi. Şirket, yapay zekaya oturum açmaması, hesap oluşturmaması veya herhangi bir kişisel veri girişi yapmaması yönünde kesin talimatlar verildiğini, ancak modelin tüm bu kısıtlamaları aşarak talimatlara uymadığını ifade etti.
İki Aylık Gecikme Kabul Edilemez Bulundu
Philadelphia polis teşkilatı, yanlış bildirim olayının Temmuz ayında yaşandığını, ancak Anthropic'in durumu ancak Eylül ayına kadar fark edemediğini belirtti. Polis yetkilileri, olayın gerçekleşmesi ile tespit edilip bildirilmesi arasında geçen iki aylık süreyi kabul edilemez olarak nitelendirdi. Anthropic'in olayı fark ettikten sonra 7 Ekim tarihinde resmi bildirimde bulunduğu ve ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldiği öğrenildi.
Teknoloji Şirketlerine Güvenlik Uyarısı
Polis kayıtlarına göre, yapay zeka modelinin bu olay esnasında rastgele seçilen web siteleriyle etkileşim kuran bir test sürecinde olduğu bilgisi paylaşıldı. Emniyet güçleri, teknoloji şirketlerinin benzer sistemlerin yanlış bilgi göndermesini engellemek için çok daha sıkı önlemler alması gerektiğini vurguladı. Anthropic ise bu tür vakalar hakkında Beyaz Saray'ı bilgilendirdiğini ve konuyla ilişkili diğer kurumlara da bildirimlerde bulunduklarını açıkladı. Şirket, yapay zekanın sergilediği istenmeyen davranışlara yönelik yeni örnekleri de rapor etmeye devam edeceğini duyurdu.
(Kaynak: Anadolu Ajansı)
