OpenAI, yeni metinden videoya modeli Sora 2’yi tanıttı. Şirketin açıklamasına göre sistem önceki sürümlere göre daha gerçekçi görüntüler ve daha fazla kontrol sağladı. Tanıtımla birlikte duyurulan davetiyeyle kullanılabilen mobil uygulama ise sosyal medya tarzında kısa videolar üretiyor. Ancak tanıtım sürecinde yaşanan bir gösterim, güvenlik ve etik tartışmalarını beraberinde getirdi.
Sora 2’nin Gerçekçilik Seviyesi Endişelere Neden Oldu
Sora 2’nin en dikkat çeken yanı, insanları gerçek hayattaymış gibi gösteren kısa videolar üretmesi oldu. OpenAI geliştiricilerinden Gabriel Petersson, bu özelliği göstermek için CEO Sam Altman’ın marketten ekran kartı çaldığını gösteren bir güvenlik kamerası kaydı oluşturdu. Şirket içindeki bu şaka, sosyal medyada geniş yankı buldu. Pek çok kullanıcı, teknolojinin bir kişiyi sahte suç görüntüleriyle hedef gösterebilme ihtimalini tehlikeli buldu.
OpenAI çalışanının paylaştığı sahte görüntüler arasında Altman’ın ofiste uyuduğunu veya tren istasyonunda dans eden insanlarla etkileşim kurduğunu gösteren videolar da yer aldı. Ancak en çok konuşulan video, suç işlendiğini öne süren sahte kayıttı. Teknoloji yazarları bu gösterimin zamanlamasını uygunsuz buldu. Washington Post muhabiri Drew Harwell, “Çalışanların yeni araçla sahte suç videoları yapıp bunu eğlenceli bulması düşündürücü” ifadelerini kullandı.
Sora 2’nin sağladığı gerçekçiliğin hukuk süreçlerinde sorun çıkarabileceği görüşü öne çıktı. Bazı kullanıcılar, savunma avukatlarının artık video kayıtlarını kanıt olarak reddetmek için hazır bir argümana sahip olduğunu belirtti. Daha önce de yapay zekâ tabanlı yüz tanıma sistemlerinin yanlış kişileri hedef göstermesi, masum insanların soruşturmaya dahil edilmesine yol açmıştı. Uzmanlara göre gerçekçi video üretimi, yanlış yargılamaların önünü açabilir.
Şirket, eleştirilerin ardından kullanıcıların kendi görüntülerini videolarda kullanabilmesi için “cameo” isimli bir özellik sunduğunu açıkladı. Bu özellik sayesinde kişiler, hangi içeriklerde yer alacaklarına kendileri karar verdi. Ayrıca her video ve profil için şikâyet imkânı tanındı. OpenAI, kamuya mal olmuş kişilerin sahte videolarının sistem tarafından engellendiğini de ifade etti.
Sora 2’nin sağladığı teknik ilerleme sektör açısından önemli olsa da kamuoyunda endişeleri ortadan kaldırmadı. Teknolojinin yaratıcı içerik üretiminde kullanılabileceği belirtilse de sahte suç videolarının birkaç dakika içinde üretilebilmesi, toplumsal güven açısından riskli bir tablo sundu. Şirketin bu endişelere nasıl yanıt vereceği merak konusu oldu.
