Çin’in siber düzenleyici kurumu, insan kişiliğini simüle eden ve kullanıcılarla duygusal etkileşime giren yapay zeka hizmetlerinin denetimini sıkılaştıracak taslak kurallar yayımladı. Cumartesi günü kamuoyunun görüşüne açılan taslak, Pekin yönetiminin tüketiciye yönelik yapay zekanın hızlı yayılımını güvenlik ve etik gereklilikleri güçlendirerek şekillendirme çabasını vurguluyor. Önerilen kurallar, Çin’de halka sunulan ve duygusal etkileşim kuran yapay zeka ürünlerini kapsayacak.
Taslak Kurallar Aşırı Kullanım ve Bağımlılığa Karşı Önlemler İçeriyor
Taslak metin, regülasyon odaklı bir yaklaşım benimseyerek hizmet sağlayıcıların, kullanıcıları aşırı kullanım risklerine karşı düzenli olarak uyarmasını ve bağımlılık belirtileri gözlemlendiğinde müdahale etmesini zorunlu kılıyor. Önerilen düzenleme çerçevesinde hizmet sağlayıcılar, ürün yaşam döngüsünün tamamında güvenlik sorumluluğu taşımakla yükümlü olacak; ayrıca algoritmik şeffaflık denetimleri, veri güvenliği önlemleri ve kişisel bilgi koruma sistemleri kurmak durumunda kalacak.
Taslak aynı zamanda psikolojik riskleri de kapsayacak şekilde genişletilmiş durumda. Sağlayıcılardan, kullanıcı profillerini analiz ederek duygusal durumları ve hizmete bağımlılık düzeylerini değerlendirmeleri bekleniyor. Kullanıcılarda aşırı duygu dalgalanmaları veya bağımlılık davranışı tespit edildiğinde ise sağlayıcıların gerekli psikososyal veya teknik müdahaleleri zamanında uygulaması gerekecek.
Önlemler, içerik ve davranış için açık kırmızı çizgiler belirliyor. Kurallara göre hizmetler; ulusal güvenliği tehdit eden, söylenti yayan veya şiddet ile müstehcenliği teşvik eden içerik üretemeyecek. Hizmet sağlayıcılar, kullanıcıları yasa dışı faaliyetlere teşvik eden veya kamu düzenini bozan içerik oluşturmaktan kaçınmakla yükümlü olacak.
Taslak kurallar, Çin’in yapay zeka ekosistemine yönelik kapsamlı düzenleyici çerçevesinin bir parçasını oluşturuyor. Ülke, teknolojik yenilik ile devlet kontrolü arasında bir denge kurmaya çalışıyor. Kamuoyu görüşlerinin toplanmasının ardından taslağın nihai hale getirilerek yürürlüğe girmesi bekleniyor.
