Yapay zeka teknolojileri dünyasının öncü isimlerinden Openaı, dijital dünyada çocukların korunması adına önemli bir adım attı. Şirket, çevrim içi platformlarda çocuk istismarını hedef alan içerikleri belirlemek üzere tasarlanan yeni bir görüntü sınıflandırma yazılımı geliştirdiğini duyurdu.
Yeni Nesil Koruma Mekanizması
Bu yenilikçi sistem, daha önce tanımlanmamış istismar içerikli görselleri analiz ederek tespit edilmesini sağlıyor. Geliştirilen bu araç, inceleme birimlerinin işini kolaylaştırmak amacıyla görsellere bir 'öncelik puanı' atayarak, müdahale edilmesi gereken içeriklerin ivedilikle saptanmasına olanak tanıyor. Şirket, söz konusu teknolojinin yapay zeka tarafından oluşturulmuş istismar içeriklerini saptama konusunda özel bir sinyal sunan ve geniş çapta erişime açılan ilk örnek olduğunu vurguladı. Bu sistem, çocuk haklarını korumayı amaçlayan onaylı kurum ve kuruluşlara tamamen ücretsiz olarak sunulacak.
ChatGPT Üzerinde Sıkı Denetim Başlıyor
Openaı, mevcut güvenlik altyapısını güçlendirmek adına ChatGPT bünyesinde de kritik önlemleri hayata geçirdi. Çocuk istismarı içerikli arama girişimlerini engellemeyi hedefleyen yeni uyarı mekanizmaları sayesinde, yapay zeka tarafından üretilen zararlı içeriklerin yaratacağı riskler minimize edilecek. Sistemin bu tür bir içeriği tespit etmesi durumunda, kullanıcıya söz konusu paylaşımların ciddiyeti ve doğurduğu hukuki sorumluluklar konusunda bilgilendirme yapılacak.
İhlal Eden Hesaplara Ağır Yaptırımlar
Kuralları çiğneyen kullanıcılara karşı oldukça sert bir yaptırım politikası izlenecek. Tespit edilen sohbet geçmişi ivedilikle sistemden silinecek ve ihlalde bulunan kullanıcının ChatGPT platformuna erişimi 24 saat boyunca askıya alınacak. Ayrıca bu süreç içerisinde şahıslara zararlı davranışları bırakmaları için gerekli uzman desteği sağlanacak. Davranışın tekrar etmesi halinde ise kısıtlamaların süresi kademeli olarak artırılacak; ciddi ihlallerde hesabın kalıcı olarak kapatılması ve konunun adli makamlara intikal ettirilmesi gibi yaptırımlar uygulanacak. Şirket, tüm bu güvenlik protokollerini çocuk hakları savunucuları ve alanında uzman akademisyenlerle iş birliği yaparak şekillendirdiğini ifade etti.
(Kaynak ve Görsel: GZT)
