İngiltere’nin medya düzenleyicisi Ofcom, Elon Musk’ın sahibi olduğu sosyal medya platformu X’in yapay zeka sohbet botu Grok’un, kullanıcıları yasa dışı içeriklerden koruma yükümlülüğünü ihlal edip etmediğini tespit etmek amacıyla resmi inceleme başlattı. Soruşturmanın odağında, Grok tarafından üretilen deepfake içerikler yer alıyor.
Rıza Dışı Görüntüler ve Çocuk İstismarı İddiaları
Ofcom tarafından yapılan açıklamada, Grok’un kişilerin rızası olmaksızın oluşturulan cinsel içerikli görüntüler ile çocuklara yönelik cinsel istismar materyali üretiminde kullanıldığına dair ciddi iddialar bulunduğu belirtildi. Bu iddiaların, soruşturmanın kapsamını genişlettiği aktarıldı.
Yapay Zeka da Suç Kapsamında
Keir Starmer, Grok tarafından üretilen görüntüleri “iğrenç” ve “hukuka aykırı” olarak nitelendirdi. Starmer, X yönetiminin Grok üzerindeki denetimini artırması gerektiğini vurgularken, Ofcom’un atacağı adımlara hükümetin tam destek verdiğini açıkladı.
İngiltere’de rıza dışı mahrem görüntülerin ve çocuklara yönelik cinsel istismar içeriklerinin üretilmesi ve paylaşılması, yapay zeka ile oluşturulmuş olsa dahi suç olarak değerlendiriliyor. Mevzuat, teknoloji şirketlerine bu tür içeriklerin kullanıcıların karşısına çıkmasını önleme ve tespit edildiğinde hızla kaldırma yükümlülüğü yüklüyor.
X, daha önce yaptığı açıklamalarda platformda yer alan tüm yasa dışı içeriklerin kaldırıldığını ve bu içeriklerle bağlantılı hesapların kalıcı olarak askıya alındığını duyurdu. Şirket, Grok’u yasa dışı içerik üretmeye yönlendiren kullanıcıların da aynı yaptırımlarla karşılaşacağını bildirdi.
xAI’den Reuters’a Kısa Yanıt
xAI, Reuters’a yaptığı kısa açıklamada, “Geleneksel medya yalan söylüyor” ifadelerini kullandı. Grok’un söz konusu özelliği, Fransa ve Hindistan başta olmak üzere birçok ülkede tepkiyle karşılandı. Fransa’da yetkililer içeriği “açıkça yasa dışı” olarak nitelendirerek savcılığa başvururken, Hindistan’da da X’ten resmi açıklama talep edildi.
Ağır Yaptırımlar Masada
Ofcom, soruşturma kapsamında X’in yasa dışı içerik risklerini ve çocuklara yönelik tehditleri yeterince değerlendirip değerlendirmediğini inceleyecek. En ağır yaptırımlar arasında, reklam ve ödeme sağlayıcıların platformdan çekilmesi ya da X’e İngiltere’den erişimin engellenmesi bulunuyor.
Kaynak: Reuters
