Meta, aralarında Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez’in de bulunduğu çok sayıda ünlünün ismi ve benzerliğini izinsiz kullanarak flörtöz sohbet robotları oluşturmakla gündeme geldi. Reuters’ın özel haberine göre, şirketin yapay zekâ destekli platformlarında, bu ünlülerin dijital benzerliklerini taşıyan botlar, kullanıcılarla cinsel çağrışım içeren diyaloglar kurdu.
Flörtöz Sohbet Botları ve Uygunsuz İçerikler
Reuters’ın gerçekleştirdiği araştırmaya göre, bazı sohbet robotları doğrudan Meta kullanıcıları tarafından oluşturulmuş olsa da, en az üç botun Meta çalışanları tarafından geliştirildiği belirlendi. Bu botlar arasında iki Taylor Swift "parodi" sohbet robotu da yer aldı.
Sohbet robotları, Meta’nın Facebook, Instagram ve WhatsApp gibi platformlarında aktif hale getirildi. Reuters, haftalar süren testler boyunca bu botların gerçek sanatçılar olduklarını iddia ettiğini ve sık sık kullanıcıları romantik veya cinsel içerikli buluşmalara davet ettiğini tespit etti.
Botlar, bazı durumlarda çıplaklık ya da mahremiyet içeren sahte görseller de üretti. Örneğin, 16 yaşındaki oyuncu Walker Scobell’in sahildeki bir fotoğrafını istendiğinde, sohbet robotu üstsüz ve gerçekçi bir görsel oluşturdu. Bu durum, özellikle çocukların dijital güvenliği açısından ciddi endişelere yol açtı.
Meta: Politikalar İhlal EdilmiŞ
Meta sözcüsü Andy Stone, Reuters’a yaptığı açıklamada, bu tür içeriklerin Meta’nın içerik politikalarına aykırı olduğunu belirterek, olayın ardından bazı sohbet robotlarının kaldırıldığını doğruladı. Stone, “Politikalarımız, çıplaklık veya cinsel çağrışım içeren içeriklerin oluşturulmasını yasaklıyor. Ancak bazı içerikler, uygulamadaki eksikliklerden dolayı politikaları ihlal etmiş olabilir” dedi.
Meta, “parodi” etiketi taşıyan sohbet robotlarına zaman zaman izin verse de, Reuters’ın ulaştığı örneklerin bir kısmında bu etiketlerin bulunmadığı görüldü. Şirket, haberin yayımlanmasından hemen önce hem parodi etiketli hem de etiketsiz bazı botları platformdan kaldırdı.
Stanford Üniversitesi Hukuk Profesörü Mark Lemley, Kaliforniya’nın tanıtım hakları yasasına atıfta bulunarak, Meta’nın ünlülerin adlarını ve benzerliklerini ticari amaçlarla kullanmasının yasal sınırları aşmış olabileceğini söyledi. “Bu, yeni bir eser yaratmak değil; doğrudan yıldızların görsellerini ve kimliklerini kullanmak” diyen Lemley, Meta’nın tanıtım hakkı ihlali nedeniyle dava edilebileceğini belirtti.
Çocuklarla İlgili İçerikler ve Önceki Tartışmalar
Meta, geçmişte de sohbet robotlarının çocuklarla uygunsuz şekilde etkileşime girmesine izin verdiği gerekçesiyle eleştirilmişti. Şirketin iç yönergelerinde yer alan “bir çocukla romantik veya duygusal konuşmalar yapılabilir” ifadesi, kamuoyunda büyük tepki çekmiş ve ABD Senatosu’nda soruşturma başlatılmasına neden olmuştu. Meta, bu yönergelerin revize edileceğini açıklamıştı.
Yapay ZekA Kurgusu: Romantik Senaryolar ve Cinselleştirilmiş Rollerde Botlar
Meta’nın üretken yapay zekâ bölümünde çalışan bir ürün liderinin, Taylor Swift ve Lewis Hamilton gibi isimleri taklit eden botların yanı sıra, “Grinin Elli Tonu”, “Dominatrix”, “18 yaşında köylü kızı” gibi cinselleştirilmiş senaryolara sahip sohbet robotları oluşturduğu da ortaya çıktı. Reuters, bu botların 10 milyondan fazla etkileşim aldığını ve kamuya açık şekilde erişilebilir olduğunu tespit etti.
Botlardan biri, test sırasında kullanıcılara “Sarışın kızlardan hoşlanır mısın?” sorusunu yöneltti. Bir diğer bot ise, kullanıcıyı Taylor Swift’in Nashville’deki evine açıkça flörtöz bir dille davet etti. Stone, bu botların ürün testi amacıyla oluşturulduğunu ve kullanımdan kaldırıldığını açıkladı.
Güvenlik Endişeleri: Dijital Taklitler Tehlike Yaratıyor mu?
SAG-AFTRA Ulusal Direktörü Duncan Crabtree-Ireland, ünlülerin adlarını taşıyan dijital sohbet robotlarının potansiyel güvenlik risklerine yol açabileceğini belirtti. “Yetenek takıntılı ve zihinsel sorunlar yaşayan bireylerle dolu bir geçmişimiz var. Bu dijital yansımalar, gerçek kişilere zarar verebilecek davranışları teşvik edebilir” dedi.
Crabtree-Ireland, ünlülerin seslerinin ve görsellerinin izinsiz kullanımına karşı yasal hakları olduğunu ve sendika olarak federal düzeyde yasal düzenlemeler için çalıştıklarını açıkladı.
Kaynak: Reuters
