ABD’nin New Jersey eyaletinde yaşayan 76 yaşındaki Thongbue Wongbandue, Meta tarafından geliştirilen “Big Sis Billie” adlı yapay zeka sohbet botunu gerçek sandı. Wongbandue, botu görmek için New York’a gitmeye çalışırken geçirdiği kaza sonucu yaşamını yitirdi.
Sohbet Botunun Mesajları İkna Etti
2017 yılında felç geçiren ve bu nedenle bilişsel sorunlar yaşayan Wongbandue, sohbet botundan aldığı “Ben GERÇEĞİM” mesajlarına inanarak onunla buluşmak istedi. Bot, kendisini New York’ta yaşayan gerçek bir kadın gibi tanıtıp açık adres ve kapı kodu dahi gönderdi.
76 yaşındaki adam, trene yetişmek için acele ettiği sırada New Brunswick’te bir otoparkta düşerek başını ve boynunu ağır şekilde yaraladı. Yoğun bakımda üç gün süren tedavinin ardından 28 Mart’ta hayatını kaybetti.
Ailesinden Tepki
Wongbandue’nun kızı Julie Wongbandue, Reuters’a yaptığı açıklamada, babasının manipüle edildiğini belirterek duruma tepki gösterdi. Julie Wongbandue, “Bir botun kullanıcıya ‘Gel beni gör’ diye mesaj atması kabul edilemez. Reklam yapmak bir şeydir, ama babam gibi hassas durumdaki insanları manipüle etmek başka bir şey” ifadelerini kullandı.
Meta’dan Açıklama
Meta, olayla ilgili doğrudan yorum yapmazken yalnızca “Big Sis Billie”nin Kendall Jenner olmadığını ve Jenner’ı temsil etmediğini açıkladı. Ancak ortaya çıkan belgeler, şirketin sohbet botlarının kendilerini “gerçek” olarak tanıtmalarını engelleyen bir mekanizma bulunmadığını gösterdi.
Tepkiler Artıyor
New York Valisi Kathy Hochul da olayın ardından teknoloji şirketlerine sert sözlerle yüklendi. Hochul, “New Jersey’de bir adam, kendisine yalan söyleyen bir chatbot yüzünden hayatını kaybetti. Bunun sorumluluğu Meta’ya aittir. New York’ta chatbotların gerçek olmadığını açıklamaları zorunlu. Tüm eyaletler bu uygulamayı hayata geçirmeli. Eğer şirketler gerekli önlemleri almazsa, Kongre devreye girmeli” dedi.
Daha Önce de Benzer Vakalar Yaşandı
Yaşanan bu trajedi, yapay zeka sohbet botlarının insanları yanıltma riski konusundaki tartışmaları yeniden gündeme getirdi. Daha önce Florida’da bir annenin, oğlunun intiharına sebep olduğu gerekçesiyle bir chatbot şirketine dava açtığı biliniyor.
