Deepfake, video ve diğer dijital ortamlarda bir kişinin benzerliğini başka biriyle değiştirmek için derin öğrenme yapay zekasını kullanır.
Günümüzde “synthetic media” olarak adlandırılan şeyin en belirgin tezahürlerinden biri olarak, geleneksel yöntemlerle oluşturulmuş gibi görünen, ancak aslında, karmaşık algoritmalar kullanılarak derin öğrenme ve yapay zeka ile oluşturulmuş görüntüler, sesler ve videolardır. Çoğu zaman, bu teknoloji ile oluşturulan içerikler gerçeklikten ayırt edilemez.
Deepfake Teknolojisi Nasıl Çalışır?
“Deepfakes”, bir tür yapay zeka olan “derin öğrenmenin” altında yatan teknolojiyi ifade eder. Büyük miktarda veriye dayalı problemlerin nasıl çözüleceğini öğrenen derin öğrenme algoritmalarının yardımıyla, sahte medyanın gerçekçi görünmesi sağlanabilir.
Deepfake çeşitli şekillerde oluşturulabilir. En yaygın olanlardan biri, yüz değiştirme yöntemini kullanan derin sinir ağlarını ve otomatik kodlayıcıları içerir. İhtiyacınız olan ilk şey, deepfake için bir hedef videonun yanı sıra hedefe eklemek istediğiniz kişinin kliplerinden oluşan bir koleksiyondur.
Videolar tamamen ilgisiz olabilir; hedef bir Hollywood filminden bir klip olabilir ve seçilen konunun videoları YouTube’dan rastgele klipler olabilir.
Bir otomatik kodlayıcı, bir kişinin farklı açılardan ve çeşitli hava koşullarında nasıl göründüğünü belirlemek için video klipleri incelemek için oluşturulmuş bir yapay zeka programıdır. Daha sonra benzerlikler bularak o kişiyi hedef videodaki kişiyle eşleştirmek için kullanılır.
Deepfake Nasıl Kullanılır?
Güvenilir ve gerçekçi görünen sentetik videolar üretmek için yüzlerin değiştirilmesini otomatikleştirmenin bazı ilginç uygulamaları vardır (sinema ve oyunlarda olduğu gibi). Çünkü deepfake teknolojisi ilk olarak sentetik pornografi oluşturmak için uygulanmıştır. Hatta Deeptrace’e göre, 2019’da çevrimiçi olarak bulunan deepfake videolarının %96’sının ana içeriği pornografiydi.
O zamandan beri, teknoloji önde gelen ulusal figürlerde kullanılmak üzere geliştirildi.
Deepfake Sadece Video Mudur?
Deepfake teknolojisi sadece videolarla sınırlı değildir. Ses, çok çeşitli uygulamalara sahip, hızla büyüyen bir alandır.
Derin öğrenme algoritmalarıyla, sesi klonlanan kişinin yalnızca birkaç saatlik (veya bazı durumlarda birkaç dakikalık) sesinden gerçekçi ses sahtekarlıkları yapılabilir. Bir ses modeli yapıldıktan sonra o kişinin her şeyi söylemesi sağlanabilir.
Deepfake Nasıl Tespit Edilir?
Deepfake daha yaygın hale geldikçe ve çevrimiçi kullanıcılar artık diğer sahte haber türlerini tespit etmekte tecrübe kazandıkça, toplumun derin sahte videoları tespit etmeye uyum sağlaması muhtemeldir. Fakat siber güvenlikte, derin sahte teknolojiyi tespit etmek ve önlemek genellikle daha fazla yenilik gerektirir.
Deepfake’in tespit edilmesini sağlayan birkaç gösterge vardır:
- Mevcut deepfake’ler, yüzleri gerçekçi bir şekilde canlandırmakta güçlük çeker ve sonuç olarak, kişinin hiç göz kırpmadığı veya çok sık veya doğal olmayan bir şekilde göz kırptığı videolar ortaya çıkar. Fakat Albany Üniversitesi araştırmacılarının yanıp sönen anormalliği tespit eden bir çalışmayı yayınlamasının ardından, bu soruna sahip olmayan yeni videolar yayınlandı.
- Cilt veya saçla ilgili sorunlar veya bulundukları ortamdan daha bulanık görünen yüzleri arayın. Odak doğal olmayan şekilde yumuşak görünebilir.
- Aydınlatma size doğal gelmiyor mu? Deepfake algoritmaları, genellikle, sahte video için model olarak kullanılan ve hedef videodaki aydınlatmayla eşleşmeyen kliplerin aydınlatmasını korur.
- Bazı durumlarda, özellikle video sahteyse ancak orijinal ses dikkatli bir şekilde değiştirilmemişse, ses kişiyle eşleşmeyebilir.
Deepfake Teknolojisiyle Mücadele
Teknikler geliştikçe, deepfake sahtekarlıkları daha gerçekçi bir hale gelecek, ancak onlarla savaşmak söz konusu olduğunda tamamen savunmasız değilsiniz. Bazı girişimler, bu sahtekarlıkları tespit etmek için yöntemler geliştirdi ve geliştirmeye devam ediyor.
Örneğin Sensority, yapay zeka tarafından üretilen sentetik medyanın belirgin parmak izlerini taşıyan bir şey izlerken kullanıcıları e-posta yoluyla uyaran, deepfake videoları için antivirüse benzer bir platform geliştirmiştir.
Operation Minerva, deepfake’leri daha basit bir şekilde tanımlar. Operation Minerva’nın algoritması, potansiyel derin sahtekarlıkları “dijital olarak parmak izi alınmış” bilinen videolarla karşılaştırır. Örneğin, Operation Minerva zaten katalogladığı bir videonun değiştirilmiş bir versiyonu olduğunu belirleyebilir.
Deepfake Video ve Ses Algılama
AWS, Facebook, Microsoft, AI Media Integrity Steering Committee ve akademisyenler, Deepfake Detection Challenge’ı (DFDC) oluşturmak için bir araya geldi. Mücadelenin amacı, dünyanın dört bir yanındaki araştırmacıları, deepfake’leri ve manipüle edilmiş medyayı tespit etmeye yardımcı olabilecek yenilikçi yeni teknolojiler oluşturmaya teşvik etmekti.
Çünkü bu teknoloji ilerledikçe neyin gerçek neyin gerçek olmadığını tespit etmek giderek daha zorlaşacak. Bu yüzden sosyal medyada herhangi bir video paylaşmadan önce çevrimiçi gördüklerimize güvenmememiz ve doğrulamamız çok önemlidir.
Uzmanlar, teknoloji geliştikçe derin sahtekarlıkların daha karmaşık hale geleceğini ve seçim müdahalesi, siyasi gerilim ve farklı suç faaliyetleri gibi insanlar için daha büyük bir tehdit oluşturabileceğini tahmin ediyor.