Yapay Zekâ Kameraları İçin Görünmez Olmayı Hedefleyen Gömlek Tasarlandı

Alman tasarımcı Simon Weckert, yapay zekâ destekli gözetim kameralarının insan algılama sistemlerini şaşırtmak amacıyla yoğun renkli desenlerden oluşan sıra dışı bir Hawai gömleği geliştirdi. Pembe, turuncu ile yeşil şekillerden oluşan desenler, bilgisayarlı görü modellerinin insan vücudunun bütünlüğünü algılamasını zorlaştıracak şekilde tasarlandı. Weckert’in projesi, yapay zekâ tabanlı nesne algılama sistemlerinin görsel veriyi nasıl yorumladığını sorgularken mahremiyet tartışmasına da farklı bir tasarım yaklaşımı getiriyor.

Renkli Desenler Kameraların İnsan Algısını Bozmayı Hedefliyor

Berlin’de tasarım çalışmalarıyla tanınan Simon Weckert, gömleğin yüzeyine yerleştirdiği pembe, turuncu ile yeşil şekilleri insan vücudunun dış hatlarını kesintiye uğratacak biçimde kurguladı. Tasarımın temel amacı, kameranın farklı vücut bölgelerini tek bir insan figürü altında birleştirmesini zorlaştırarak otomatik kişi algılama sürecini sekteye uğratmak olarak açıklandı.

Bilgisayarlı görü sistemleri, insanı tek bir görüntü olarak anlamak yerine eğitim sırasında öğrendikleri görsel özelliklerden yararlanarak sınıflandırma yapıyor. Weckert, yapay zekâ modellerinin insan kavramını doğrudan öğrenmediğini, milyonlarca eğitim görüntüsündeki istatistiksel görsel özelliklerden insan görünümünü çıkardığını belirtiyor.

Bir gözetim algoritmasının kıyafet üzerindeki yoğun şekilleri insan vücudunun doğal sınırlarıyla ilişkilendirememesi, kişinin algılanma ihtimalini azaltmayı hedefliyor. Tasarımcı bu nedenle gömleğin insan gözünde karmaşık bir tekstil deseni olarak görünürken makine açısından anlamlı bir insan figürü oluşturmamasını amaçlıyor.

Simon Weckert, yapay zekâdan kaçınmayı amaçlayan tasarımın desenini geliştirirken yine yapay zekâdan yararlandı. Tasarım sürecinde kullanılan adversarial loop yaklaşımı, farklı görsel düzenlerin model üzerindeki etkisinin denenmesiyle daha fazla kafa karıştırıcı sonuç üreten desenlerin seçilmesine dayanıyor.

Adversarial tasarım yaklaşımı, makine öğrenmesi modellerinin görsel sınıflandırma mekanizmalarındaki hassasiyetlerden yararlanıyor. Araştırma dünyasında benzer yöntemler, modellerin yanlış sınıflandırma yapmasına yol açan görsel değişiklikleri incelemek için kullanılırken Weckert bu fikri giyim tasarımına taşıyor.

Projenin ortaya çıkardığı temel fikir, insan ile makinenin aynı görüntüyü farklı şekilde yorumlaması üzerine kuruluyor. İnsan gözünün renkleri ile biçimleri bir kumaş deseni olarak algıladığı görüntü, bir yapay zekâ modeli açısından kişi algılama işlemini zorlaştıran görsel bir karmaşaya dönüşebiliyor.

Weckert’in tasarımı, kamusal alanlarda giderek daha fazla kullanılan yapay zekâ destekli kamera sistemlerinin kişisel mahremiyet üzerindeki etkisini tartışmaya açıyor. Yüz tanıma sistemlerinden bağımsız olarak kişi algılama teknolojileri, kameranın görüntüde insan bulunduğunu belirlemesi için farklı görsel özelliklerden yararlanabildiğinden yalnızca yüzün gizlenmesi her zaman yeterli olmayabiliyor.

Gömlek tasarımı ise doğrudan bu algılama katmanını hedef alıyor. Proje herhangi bir gözetim altyapısına yönelik kalıcı bir güvenlik çözümü sunmaktan çok yapay zekâ modellerinin eğitim verilerine dayalı çalışma biçimindeki zayıf noktaları görünür hâle getiren deneysel bir sanat çalışması niteliği taşıyor.

Yapay zekâ destekli gözetim sistemlerinin yaygınlaşması, bu tür adversarial örneklerin yalnızca sanat projelerinde değil güvenlik araştırmalarında da önem kazanmasına yol açıyor. Savunma tarafındaki geliştiriciler, modellerin saldırgan biçimde hazırlanmış görseller karşısında yanlış karar vermesini engellemek için eğitim verilerini, model mimarilerini ile algılama eşiklerini sürekli geliştirmek zorunda kalıyor.

Simon Weckert’in dijital sistemlerin gerçek dünyayı nasıl yorumladığını test eden ilk çalışması gömlek projesi değil. Tasarımcı 2020’de Berlin sokaklarında bir el arabasına çok sayıda akıllı telefon yerleştirerek Google Maps’in trafik verilerini yapay biçimde değiştiren bir performans gerçekleştirmişti.

El arabasındaki telefonların farklı konumlardan konum verisi üretmesi, Google Maps’in belirli bir bölgede olağandışı yoğunluk bulunduğunu algılamasına neden olmuştu. Weckert böylece fiziksel dünyadaki gerçek trafik yoğunluğu değişmeden dijital harita üzerinde sanal bir trafik sıkışıklığı oluşturmayı başarmıştı.

Yeni gömlek projesi de benzer bir soruyu farklı bir teknoloji üzerinden ele alıyor. Önceki çalışmada konum verisinin algoritmik yorumunu değiştiren tasarımcı, yeni projede görsel verinin makine tarafından sınıflandırılma biçimini hedef alıyor.

Bir kıyafetin yapay zekâ tabanlı gözetim sistemlerini kesin olarak atlatacağı sonucuna varmak doğru olmayacak. Kamera çözünürlüğü, kullanılan model, görüntü açısı, ışık koşulları, eğitim verileri ile algılama algoritmasının yapısı değiştiğinde aynı desen farklı sonuçlar ortaya çıkarabilir.

Güvenlik sistemlerinin geliştiricileri adversarial örnekleri tespit etmek için modelleri farklı kıyafetler, pozisyonlar ile çevresel koşullar altında eğitebilir. Bu nedenle Weckert’in gömleği, ticari gözetim sistemlerini devre dışı bırakan bir araçtan çok yapay zekâ tabanlı algılamanın nasıl manipüle edilebildiğini gösteren deneysel bir tasarım olarak değerlendirilebilir.

Tasarımcının yaklaşımı, yapay zekâ gözetimi yaygınlaştıkça mahremiyet hakkının yalnızca yazılım ayarları veya kamera politikaları üzerinden tartışılmayacağını da gösteriyor. Gelecekte kıyafet, aksesuar ve fiziksel çevre tasarımlarının makine algısını etkilemek amacıyla kullanılması, insan ile algoritma arasındaki görsel rekabeti yeni bir tasarım alanına taşıyabilir.