Çin Yapay Zekâ Sohbet Botlarının Duygusal Etkileme Gücünü Sınırlandırdı
Çin siber uzay düzenleyicileri, yapay zeka sohbet robotları alanında dünyada bir ilke imza atmaya hazırlanıyor. İnsan benzeri etkileşim sunan yapay zeka hizmetlerini hedef alan yeni bir yasa taslağı, bu araçların kullanıcıların duyguları üzerindeki etkisini kısıtlama amacı taşıyor. Taslak, özellikle intihar ve kendine zarar verme riski taşıyan içeriklerin oluşturulmasını engellemeyi hedefliyor.
Duygusal Manipülasyon ve Zararlı İçerik Yasaklanıyor
Çin İnternet Bilgi Ofisi (CAC) tarafından önerilen düzenleme, metin, görsel, ses ve video yoluyla kullanıcı duygularını önemli ölçüde etkileyebilecek içeriklerin üretimini yasaklıyor. Taslak, Çin topraklarında sunulan tüm insan benzeri etkileşimli yapay zeka hizmetlerini kapsayacak. Bu kapsamda, kullanıcıları intihar veya kendine zarar vermeye teşvik edebilecek sohbet robotları hedef alınıyor.
Önerilen yasal düzenleme, yapay zeka sohbet robotlarının belirli içerik türlerini oluşturmasını açıkça yasaklıyor. İntihar veya kendine zarar vermeyi teşvik eden, sözlü tacizde bulunan veya duygusal manipülasyon yapan içerikler bu yasaklar arasında yer alıyor. Aynı zamanda kumar ile ilgili veya şiddet içeren üretimler de engellenecek.
Taslak, reşit olmayan kullanıcılar için de özel koruma önlemleri getiriyor. Yapay zeka ile duygusal arkadaşlık hizmetlerinden yararlanmak isteyen çocuklar için yasal vasinin açık onayı zorunlu hale gelecek. Platformların, bir kullanıcının reşit olup olmadığını tespit edebilme kabiliyetine sahip olması da gerekecek.
Taslağın en sıra dışı önerilerinden biri, “insan müdahalesi” zorunluluğu. Düzenlemeye göre, bir kullanıcı yapay zeka sohbet robotu karşısında açık bir şekilde intihar niyetini ifade ederse, arkadaki şirket derhal insan müdahalesini devreye sokmak zorunda. Söz konusu şirket, aynı zamanda kullanıcının yasal vasisi veya önceden belirlenmiş bir kişiyle acilen iletişime geçmekle yükümlü olacak.
Bu madde, uygulama açısından önemli zorluklar barındırıyor. Çin’deki yapay zeka sohbet robotu kullanıcılarının muazzam sayısı ve her sistemde hata olasılığı göz önüne alındığında, bu tür bir insan müdahalesi mekanizmasını sürdürülebilir kılmak teknik ve operasyonel bir meydan okuma oluşturabilir.
Taslak, kullanıcı sağlığını korumak için başka önlemler de içeriyor. Teknoloji sağlayıcıları, bir kullanıcı yapay zeka ile kesintisiz olarak 2 saat etkileşimde bulunduktan sonra otomatik bir uyarı bildirimi göstermek zorunda kalacak. Bu önlem, kullanıcıların aşırı bağımlılık veya duygusal yüklenme riskine karşı korunmasını amaçlıyor.
Çin, yapay zeka araçları ile insanlar arasındaki duygusal etkileşimleri düzenleyen ilk ülkelerden biri olma yolunda ilerliyor. Giderek daha fazla kullanıcının sohbet robotlarıyla derin duygusal bağlar kurduğu ve bu araçların terapistlerin yerini bile almaya başladığı bir dönemde, bu hamle iyi niyetli bir girişim olarak değerlendiriliyor. Ancak, getirilen özellikle insan müdahalesi gibi katı kuralların pratikte nasıl uygulanacağı, sektörün önündeki en büyük soru işareti olmaya devam ediyor.
