OpenAI, kötü niyetli kullanımları tespit etmeye yönelik çalışmalarını genişlettiğini duyurdu. Şirket, yalnızca Çin değil birçok farklı ülke bağlantılı operasyonun yapay zekâ modelleriyle propaganda yaymaya çalıştığını açıkladı. Bu girişimler, sosyal medya üzerinden yanlış bilgi yaymayı ve kamuoyunu etkilemeyi hedefliyordu.
Çin Bağlantılı Hesaplar Sosyal Medyada Yorum Saldırısı Yürüttü
OpenAI, “Sneer Review” adını verdiği Çin bağlantılı bir grubun ChatGPT kullanarak TikTok, X ve Facebook gibi platformlarda kısa yorumlar üretip paylaştığını belirtti. Grup, kendi ürettiği içeriklere cevaplar yazarak gerçek kullanıcı etkileşimi taklidi yaptı. Açıklamaya göre, bu grup yalnızca içerik üretmekle kalmadı aynı zamanda performans değerlendirmeleri de yazdı. Bu metinlerde yürüttükleri manipülasyon kampanyalarının etkisi analiz edildi.
Çin bağlantılı bir başka grubun da sahte gazeteci ve analist kimlikleriyle X platformunda hesaplar oluşturduğu tespit edildi. Bu kişiler, biyografi yazıları hazırlamak, gönderileri İngilizce’ye çevirmek ve verileri analiz etmek için ChatGPT kullandı. Grup, bir ABD senatörüne gönderilen yazışmaları da inceledi. Ayrıca, sahte sosyal medya kampanyaları hazırladıklarını gösteren pazarlama materyalleri üretti ve istihbarat toplamak için kaynak arayışına girdi.
OpenAI’ın raporunda sadece Çin değil, Rusya ve İran kaynaklı girişimlere de yer verildi. Filipinler merkezli bir pazarlama şirketinin spam içerikler ürettiği, Kamboçya merkezli bir grubun dolandırıcılık amaçlı işe alım kampanyası yürüttüğü belirtildi. Ayrıca, Kuzey Kore’ye benzerlik gösteren sahte iş ilanları üzerinden kullanıcıların kandırılmaya çalışıldığı açıklandı.
OpenAI İstihbarat Ekibi’nden Ben Nimmo, bu tür operasyonların farklı taktikler denediğini ancak genel olarak büyük bir kullanıcı kitlesini etkileyemediğini söyledi. Nimmo, “Bu gruplar gelişmiş araçlar kullansa da, bu durum daha fazla başarı sağladıkları anlamına gelmedi” ifadesini kullandı.
