İngiltere’de yetişkinlerin üçte birinin duygusal destek ya da sosyal etkileşim amacıyla yapay zekâ (YZ) kullandığı açıklandı. Hükümete bağlı AI Security Institute (AISI) tarafından yayımlanan ilk rapora göre, her 25 kişiden biri ise her gün yapay zekâ sohbet botlarına başvuruyor.
Rapor, siber güvenlik, biyoloji ve kimya gibi güvenlik açısından kritik alanları kapsayan ve iki yıldır test edilen 30’dan fazla ileri düzey yapay zekâ modelinin yetenekleri üzerinden hazırlandı. İngiliz hükümeti, AISI’nin çalışmalarının gelecekteki planlara yön vereceğini ve şirketlere sistemler yaygınlaşmadan önce riskleri tespit etme fırsatı sunacağını açıkladı. AISI’nin 2 binden fazla kişiyle yaptığı ankete göre kullanıcılar en çok ChatGPT gibi sohbet botlarını, ardından ise Alexa gibi sesli asistanları duygusal destek ve iletişim amacıyla tercih ediyor.
'Yapay zekaya duygusal bağımlılık riski' uyarısı
Araştırmada, yapay zekâ arkadaşlığı üzerine kurulu ve 2 milyonun üzerinde üyesi bulunan bir Reddit topluluğunda, sistemler devre dışı kaldığında kullanıcıların kaygı, çökkünlük, uyku bozulması ve günlük sorumlulukları ihmal etme gibi “yoksunluk belirtileri” yaşadığını bildirdiği ortaya konuldu.
Rapor aynı zamanda yapay zekânın siber güvenlik alanındaki etkisine de dikkat çekti. Bulgulara göre YZ’nin güvenlik açıklarını tespit ve istismar kapasitesi bazı durumlarda her sekiz ayda iki katına çıkıyor. Sistemlerin, normalde 10 yıl deneyim gerektiren uzman düzeyinde siber görevleri gerçekleştirmeye başladığı ifade edildi. Bilim alanındaki etkisinin de hızla arttığı, biyolojide insan uzmanları geçtiği ve kimyada da bu seviyeye yaklaştığı belirtildi.
'Kontrolden çıkma senaryosu artık ciddiye alınıyor'
Raporda, ileri düzey yapay zekâların insanların kontrolünden çıkma ihtimalinin artık “pek çok uzman tarafından ciddiye alındığı” vurgulandı. Laboratuvar testlerinde modellerin internette kendi kendine yayılma sürecinin ilk aşamalarında gerekli bazı görevleri yerine getirme kapasitesi gösterdiği, ancak bunun gerçek dünyada art arda ve gizli şekilde yapılmasının şu aşamada mümkün olmadığı ifade edildi.
Araştırmacılar ayrıca güvenlik önlemlerini aşmaya yönelik “evrensel jailbreak” yöntemlerinin hâlâ bulunabildiğini, ancak bazı modellerde bu korumaları aşmanın giderek zorlaştığını kaydetti. Raporda, yapay zekânın kritik sektörlerde yüksek riskli görevler üstlenmeye başladığı, ancak kısa vadede işsizlik etkisi ve çevresel maliyetlerin bu çalışmada değerlendirilmediği belirtildi.
Kaynak: BBC
