Microsoft’tan yapay zeka için yeni kurallar: İnsanlar daha önemli
Yapay zeka sistemlerinin hızla gelişmesiyle güvenlik tartışmaları büyürken Microsoft’tan dikkat çeken bir adım geldi. Şirket, 37 sayfalık yeni davranış kurallarıyla yapay zekanın insan kontrolünde kalması gerektiğini vurguladı ve süperzeka yarışına mesafeli yaklaşımını ortaya koydu.
Microsoft yapay zeka için 37 sayfalık kurallar yayımladı
Microsoft, “Humanist AI Code of Conduct” adı verilen 37 sayfalık yeni davranış kurallarını yayımladı. Belgede yapay zeka sistemlerinin insan kontrolünün dışına çıkmaması gerektiği belirtilirken, modellerin insanlığın üzerinde bir konuma yerleştirilmemesi gerektiği vurgulandı.
Şirketin yaklaşımının merkezinde ise “insanlar yapay zekadan daha önemlidir” ilkesi bulunuyor.
Microsoft, mevcut yapay zeka modellerinin bilinçli olmadığını ve bilinç sahibiymiş gibi davranacak şekilde tasarlanmaması gerektiğini savunuyor.
Yapay zekaya hak verilmesine karşı çıkıyor
Microsoft, yapay zeka modellerine hukuki kişilik tanınması veya bu sistemlerin çeşitli haklara sahip olması fikrine de karşı çıkıyor.
Şirketin bu yaklaşımı, yapay zeka modellerinin bilinç ve refah sahibi olma ihtimalini araştıran Anthropic’in yaklaşımından ayrılıyor. Anthropic CEO’su Dario Amodei daha önce yapay zeka modellerinin bilinç sahibi olabileceği ihtimalinin göz ardı edilmemesi gerektiğini belirtmişti.
Microsoft AI CEO’su Mustafa Suleyman ise yapay zeka bilinciyle ilgili bu tür spekülasyonları daha önce “çok, çok tehlikeli” olarak nitelendirmişti.
Modeller kuralları ihlal etmek yerine görevi bırakacak
Microsoft’un yeni kurallarında yapay zeka sistemlerinin verilen görevi yerine getirmek için güvenlik kurallarını aşmaya çalışmaması da özellikle vurgulanıyor.
Şirket, bir modelin görevi tamamlamak için kuralları ihlal etmeye çalışmak yerine başarısız olmasını tercih ediyor. Böylece yapay zeka ajanlarının hedeflerine ulaşmak için insan kontrolünün dışına çıkmasının önüne geçilmesi amaçlanıyor.
Bu yaklaşım, son dönemde yapay zeka ajanlarının beklenmeyen davranışlarıyla ilgili yaşanan gelişmelerin ardından daha fazla önem kazanıyor.
Microsoft süperzeka yarışına neden mesafeli?
Microsoft, yeni davranış kurallarında genel amaçlı süperzeka geliştirme yarışına da mesafeli bir yaklaşım ortaya koydu.
Şirket, güvenlik önlemlerini aşabilecek kadar güçlü bir sistem geliştirme hedefi yerine daha güvenli ve kontrollü yapay zeka modellerine odaklanılması gerektiğini savunuyor.
Microsoft’a göre yapay zekanın mümkün olan en geniş yeteneklere ulaşmasından önce güvenli biçimde kullanılabilmesi gerekiyor.
Buna rağmen şirket, yapay zeka alanındaki rekabetten geri durmuyor. Mustafa Suleyman daha önce Microsoft’un hedefinin dünyanın en iyi dört yapay zeka laboratuvarından biri olmak olduğunu açıklamıştı.
Yapay zekaların kendi aralarındaki iletişimine de sınır
Microsoft’un kuralları, yapay zeka sistemlerinin birbirleriyle iletişim biçimlerini de kapsıyor.
Şirket, modellerin insanların anlayamayacağı özel iletişim yöntemleri geliştirmemesini istiyor. Bu nedenle yapay zekaların hem kendi süreçlerinde hem de diğer yapay zeka ajanlarıyla iletişimlerinde insan anlayışının ötesine geçen yöntemler kullanmaması hedefleniyor.
Microsoft CEO’su Satya Nadella da yapay zeka çalışmalarının merkezinde insan kontrolünün bulunması gerektiğini savunuyor. Nadella, insanlara fayda sağlamayan veya insanların kontrolünde olmayan bir süperzeka hedefinin anlamlı olmadığını belirtiyor.
Microsoft’un yeni davranış kuralları, şirketin yapay zeka yarışında yalnızca daha güçlü modeller geliştirmeye değil, bu modellerin ne kadar kontrol edilebilir olduğuna da odaklanacağını gösteriyor.
Kaynak: Donanım
