İngiltere’de mağazalarda kullanılan yapay zekâ destekli yüz tanıma sistemleri, masum müşterilerin hırsızlık şüphesiyle karşı karşıya kalmasına neden oluyor. TechRadar’ın aktardığı vakalarda, hatalı eşleştirmeler nedeniyle bazı müşteriler mağazalardan çıkarılırken suçlamalara itiraz etmekte ve itibarlarını geri kazanmakta zorlanıyor. Uzmanlar, yüz tanıma teknolojisinin yanlış pozitif sonuçlarının kişisel mahremiyet, temel haklar ve tüketicilerin gündelik yaşamı üzerinde ciddi sonuçlar doğurabileceği konusunda uyarıyor.
Yanlış Hırsızlık Suçlamaları Müşterilerin Güvenini Sarsıyor
İngiltere’deki perakende mağazalarında kullanılan yapay zekâ destekli güvenlik sistemleri, müşterileri geçmişte yaşandığı öne sürülen hırsızlık olaylarıyla ilişkilendirebiliyor. Ancak TechRadar’ın haberinde yer verilen örnekler, sistemlerin yanlış kişileri işaretleyebildiğini ve bu eşleştirmelerin mağaza çalışanlarının kararlarını etkileyebildiğini gösteriyor.
Mary adıyla tanıtılan bir kadın, eşinin vitamin almak amacıyla Home Bargains mağazasına yaptığı kısa ziyaretin ardından hırsızlık şüphesiyle karşılaştığını anlatıyor. Mağazanın güvenlik sistemi eşini şüpheli olarak işaretleyince yönetim çiftten mağazayı terk etmelerini istiyor. Haberde aktarılan bilgilere göre çift, suçlamaya karşı kendilerini savunabilecekleri etkili bir fırsat bulamıyor.
Yaşanan olay, erkeğin günlük yaşamını da etkiliyor. Mary, eşinin sosyal yaşamdan uzaklaştığını belirtirken adam, olaydan sonra mağazalara girmekten korktuğunu ifade ediyor. Böylece hatalı yüz tanıma eşleştirmesi, yalnızca bir güvenlik uyarısı olarak kalmayıp kişinin alışveriş alışkanlıklarını ve sosyal yaşamını da değiştirebiliyor.
TechRadar’ın aktardığı başka bir olayda, Budgens zincirine ait bir mağazadan çıkarılan kadın, günler önce çok miktarda et çalmakla suçlanıyor. Ancak çiftin açıklamasına göre söz konusu mağazaya aylardır gitmedikleri için suçlamanın dayanağı hakkında ciddi soru işaretleri bulunuyor. Kadının eşinin olayın ardından baştan aşağı titrediği belirtilirken, yaşananlar yanlış eşleştirmelerin kişiler üzerinde yaratabileceği psikolojik baskıyı ortaya koyuyor.
Bu tür vakalarda müşteriler, mağaza yönetimlerinin kararlarına itiraz etmek için karmaşık kurumsal süreçlerle karşılaşabiliyor. Şirketlerin belirsiz yanıtları ve sorumluluğun farklı birimlere aktarılması, suçlamanın nasıl ortaya çıktığını öğrenmeyi zorlaştırabiliyor. Bazı müşteriler ise yaşadıkları olayların ardından yerel mağazalara erişim konusunda kaygı duyabiliyor.
Yapay zekâ yüz tanıma teknolojisi, görüntülerdeki yüz özelliklerini analiz ederek kişileri daha önce kaydedilmiş verilerle eşleştirmeyi amaçlıyor. Ancak yanlış pozitif sonuçlar, sistemin bir kişiyi hatalı biçimde şüpheli olarak tanımlamasıyla ortaya çıkıyor. Mağaza çalışanları bu eşleşmeleri kesin kanıt gibi değerlendirdiğinde, teknik bir hata masum bir müşterinin suçlanmasına ve hizmetten mahrum kalmasına yol açabiliyor.
İngiltere’de yanlış suçlamalarla karşılaşan kişiler, şirketlerin kendileri hakkında tuttuğu kişisel verilere ulaşmak için Subject Access Request (SAR) adı verilen başvuru yolunu kullanabiliyor. Bu yöntem, bireylerin özel şirketlerde saklanan kişisel bilgilerini talep etmesine olanak tanıyor. Ancak başvurunun varlığı, kişinin suçlamayı kolayca düzeltebileceği veya sistemdeki hatalı kaydın hızla silineceği anlamına gelmiyor.
TechRadar’ın aktardığı vakalarda müşteriler, isimlerini temize çıkarmak için bürokratik engellerle mücadele etmek zorunda kalıyor. Başvuru süreci ayrıca kişilerin şirketlere daha fazla kişisel bilgi sunmasını gerektirebiliyor. Bu durum, mahremiyet ihlaline uğradığını düşünen kişilerin haklarını savunmak için yeniden veri paylaşmak zorunda kalması gibi çelişkili bir sonuç doğuruyor.
Sivil özgürlükler kuruluşu Big Brother Watch’ın savunuculuk birimi başkanı Jack Coulson, masum kişilerin suçlamanın nedenini öğrenebilmek için bürokratik bir labirentte sıkışmasını ve daha fazla kişisel veri vermeye zorlanmasını son derece kaygı verici olarak değerlendiriyor. Coulson’ın açıklaması, sorunun yalnızca algoritmanın doğruluğuyla sınırlı kalmadığını, şirketlerin şeffaflığı ve itiraz mekanizmalarının işleyişiyle de bağlantılı olduğunu ortaya koyuyor.
Mağazalardaki güvenlik sistemlerinin değerlendirilmesinde yanlış eşleştirme oranlarının yanı sıra kararların nasıl denetlendiği de önem taşıyor. Bir algoritmanın belirli bir kişiyi şüpheli olarak işaretlemesi, tek başına hırsızlık yapıldığına dair kesin kanıt oluşturmuyor. Bu nedenle mağaza yönetimlerinin otomatik uyarıları bağımsız inceleme olmadan uygulaması, hatalı suçlamaların sonuçlarını ağırlaştırabiliyor.
İngiltere’deki örnekler, yapay zekâ ile güvenlik uygulamalarının kişisel mahremiyet ve adil muamele ilkeleriyle birlikte ele alınması gerektiğini gösteriyor. Şirketlerin yanlış eşleştirmeleri açıklayabilen, itirazları tarafsız biçimde inceleyen ve hatalı kayıtların düzeltilmesini sağlayan süreçler oluşturması, müşterilerin haklarını korumak açısından önem taşıyor. Aksi durumda yüz tanıma sistemleri, güvenliği artırma amacı taşırken masum insanların gündelik yaşamını kısıtlayan bir uygulamaya dönüşebilir.
