Yeni sızdırıldığı öne sürülen OpenAI belgeleri, ChatGPT kullanıcılarının gerçek sohbetlerinin yapay zekayı geliştirmek amacıyla insan çalışanlar tarafından incelenebildiğini iddia ediyor. 404 Media'nın haberine göre, 'Project Lily' adlı çalışma kapsamında yüzlerce çalışanın kullanıcı konuşmalarını değerlendirdiği öne sürülüyor.
ChatGPT konuşmaları insan çalışanlar tarafından inceleniyor mu?
İddiaya göre çalışanlar, ChatGPT'nin verdiği yanıtları doğruluk, üslup ve davranış açısından değerlendiriyor. Söz konusu çalışmanın özellikle yapay zekanın kullanıcıları gereğinden fazla onaylaması olarak tanımlanan 'sycophancy' davranışını azaltmaya odaklandığı belirtiliyor.
Bu süreçte gerçek kullanıcıların ChatGPT ile yaptığı konuşmaların kullanıldığı öne sürülüyor.
Hassas bilgiler çalışanların karşısına çıkabiliyor
Rapordaki en dikkat çekici iddialardan biri ise kullanıcıların kişisel bilgilerinin tamamen temizlenemeyebileceği yönünde.
OpenAI'ın kullanıcı adlarını kaldırdığı ve kişisel bilgileri gizlemeye çalıştığı belirtilirken, bazı hassas verilerin yine de çalışanların karşısına çıkabildiği iddia ediliyor. Buna göre bazı çalışanların yalnızca tek bir mesajı değil, kullanıcı ile ChatGPT arasındaki uzun sohbetlerin tamamını görebilmesi mümkün olabiliyor.
ChatGPT konuşmaları neden insanlara inceletiliyor?
Yapay zeka modellerinin geliştirilmesinde insan değerlendirmeleri önemli bir rol oynuyor. Çalışanların verdiği puanlar ve geri bildirimler, modellerin hangi tür yanıtları üretmesi gerektiğinin belirlenmesine yardımcı olabiliyor.
Ancak gerçek kullanıcı konuşmalarının bu süreçte kullanılması, özellikle kişisel ve hassas bilgilerin bulunduğu sohbetler açısından gizlilik tartışmalarını beraberinde getiriyor.
OpenAI'dan açıklama bekleniyor
Söz konusu iddialar şu aşamada 404 Media'nın OpenAI belgelerine ve görüştüğü kaynaklara dayandırılıyor. Bu nedenle 'Project Lily'nin kapsamı, kaç çalışanın sürece dahil olduğu ve hangi konuşmaların ne şekilde incelendiği konusunda OpenAI'ın yapacağı açıklama önem taşıyor.
Dolayısıyla iddiaların tamamının kesinleşmiş bir uygulama olarak değerlendirilmemesi gerekiyor.
Kaynak: Donanım
