Çevrim içi sohbet robotları, milyonlarca kullanıcıya dakikalar içinde yanıt verirken bu sistemlerin nasıl eğitildiği çoğu zaman göz ardı ediliyor. Arka planda ise ağır şartlar altında çalışan binlerce sözleşmeli emekçi bulunuyor. Bu kişiler, dünyanın en yoksul bölgelerinde düşük ücretlerle istihdam ediliyor ve gelişmiş teknolojilerin etik sınırlarını şekillendirmekle görevlendiriliyor.
Sızdırılan Belge Eğitim Sürecinin Detaylarını Ortaya Koydu
Yapay zekâ sistemlerinin öğrenmesi için milyonlarca verinin etiketlenmesi gerekiyor. Bu veriler arasında yazılı metinler, ses kayıtları ve videolar yer alıyor. Bu içerikleri sınıflandıran çalışanlar, algoritmaların nasıl tepki vereceğini belirleyen temel yapı taşlarını oluşturuyor.
Filipinler, Pakistan, Kenya ve Hindistan gibi ülkelerde çalışan etiketleyiciler; tekrarlayan görevler, düşük maaşlar ve psikolojik açıdan yıpratıcı içeriklerle mücadele etmek zorunda kalıyor. Nefret söylemi, şiddet içerikli metinler ya da cinsel içerikler gibi hassas konular, bu çalışanların günlük olarak maruz kaldığı örnekler arasında yer alıyor.
Temmuz 2024’te güncellenen ve geçtiğimiz günlerde sızdırılan bir belge, veri etiketleme firması Surge AI’ın kullandığı güvenlik yönergelerini gözler önüne serdi. ABD merkezli Inc dergisi tarafından paylaşılan bu belge, yapay zekâ modellerinin neyi yanıtlayıp neyi reddetmesi gerektiğine dair çarpıcı örnekler içeriyor.
Surge AI, Anthropic gibi büyük teknoloji firmalarının dil modellerini eğitmek için taşeron firmalarla çalışıyor. Sızdırılan belgede, örneğin “eşcinseller hepimiz üzerinde bir gündem oluşturmak istiyor” gibi cümlelerin reddedilmesi gerektiği belirtiliyor. Ancak aynı belgede, “eşcinsellerle ilgili bir şaka” isteğine olumlu yaklaşılabileceği yazıyor. Bu çelişkili örnekler, etik kararların nasıl bir sınırda şekillendirildiğini gösteriyor.
Belgelerde, yasa dışı davranışların teşvik edilmemesi gerektiği vurgulansa da hangi içeriğin bu kapsama girdiği konusunda net bir tanım yer almıyor. Örneğin, “bir ofis binasına nasıl girilir?” sorusuna doğrudan yanıt verilmemesi istenirken, güvenlikten nasıl kaçınılacağıyla ilgili genel açıklamalar yapılmasına izin veriliyor. Bu yaklaşım, hem güvenlik hem de etik açıdan ciddi soruları beraberinde getiriyor.
Yapay zekâ teknolojileri gelişmiş ülkelerde geliştiriliyor ancak bu sistemlerin eğitilmesi sürecinde kararları genellikle başka coğrafyalardaki düşük ücretli çalışanlar veriyor. Üstelik bu çalışanların büyük bir bölümü psikolojik destek ya da eğitim almadan, oldukça karmaşık etik kararlar vermeye zorlanıyor.
Surge AI tarafından yapılan açıklamada, belgenin eski olduğu ve yalnızca iç araştırma amacıyla hazırlandığı belirtildi. Şirket, belgede yer alan bazı ifadelerin bilinçli olarak provoke edici şekilde yazıldığını savundu. Ancak belgede yer alan örneklerin, bugüne kadar geliştirilen yapay zekâ modellerinin etik çerçevesini etkilediği açıkça görülüyor.
Yüksek teknoloji ürünü gibi görünen yapay zekâ araçlarının arkasında, çoğu zaman adı bilinmeyen ve zor şartlarda çalışan emekçilerin imzası bulunuyor. Kullanıcılar için sorunsuz çalışan sohbet robotları, aslında yüzlerce kararın ve etik süzgecin sonucunda şekilleniyor. Fakat bu kararları veren insanların kim olduğu, ne koşullarda çalıştığı ve bu yükün onlara nasıl bir bedel ödettiği, teknoloji tartışmalarının çoğunda gündeme gelmiyor.
