Cezaevlerinde Yapay Zekâ Dönemi: Mahkûmların Güvenlik Seviyeleri Algoritmayla Belirlenecek
ABD’nin Michigan eyaleti, cezaevlerindeki mahkûmları gelecekte şiddet eylemi gerçekleştirme riskine göre sınıflandırmak amacıyla yeni bir yapay zekâ sistemi devreye almaya hazırlanıyor. Michigan Ceza İnfaz Kurumu (MDOC), Recidiviz adlı teknoloji kuruluşunun yazılımını aralık ayında bazı erkek cezaevlerinde pilot uygulamayla kullanmayı planlıyor. Kurum, sistemin gelecekteki şiddet riskini tahmin etme doğruluğunu yaklaşık yüzde 30 artırmasını beklerken, bu oranın hangi verilere dayanarak hesaplandığına ilişkin ayrıntı paylaşmıyor.
Yapay Zekâ Mahkûmların Barınma Koşullarını Belirleyecek
Michigan’daki cezaevlerinde mahkûmlar, güvenlik sınıflandırmasına göre beş farklı barınma düzeyine ayrılıyor. Mevcut uygulamada her cezaevinin müdürü tarafından görevlendirilen personel komiteleri, mahkûmların hangi güvenlik seviyesinde kalacağına karar veriyor. Yeni sistem ise bu değerlendirmelerde algoritmik analizden yararlanarak mahkûmların yerleştirilme sürecini yeniden şekillendirmeyi hedefliyor.
Michigan Ceza İnfaz Kurumu, Recidiviz yazılımının mahkûmların uygun barınma seviyelerine yerleştirilmesini iyileştirmek için kullanılacağını belirtiyor. Ancak kurumun açıklaması, algoritmanın mevcut personel kararlarının yerini tamamen alıp almayacağını veya yalnızca karar sürecine destek sağlayıp sağlamayacağını netleştirmiyor.
Güvenlik sınıflandırması, cezaevinde kalınacak bölümün belirlenmesinin ötesinde sonuçlar doğuruyor. Mahkûmların hangi eğitim ve rehabilitasyon programlarına katılabileceği, hangi sosyal desteklerden yararlanabileceği ve ceza süreleri boyunca hangi güvenlik koşullarında yaşayacağı da bu değerlendirmelere bağlı bulunuyor. Dolayısıyla algoritmanın ürettiği bir risk puanı, mahkûmların günlük yaşamını ve topluma yeniden kazandırılma sürecini doğrudan etkileyebiliyor.
Recidiviz, başlangıçta Google bünyesinde ortaya çıkan bir veri projesi olarak ceza adaleti sistemindeki bilgilerin standartlaştırılması ve sistemin ülke genelinde iyileştirilmesi amacıyla geliştirildi. Kuruluşun yazılım platformu, mahkûmların devlet tarafından sunulan programlara uygunluğunu belirleme, güvenlik sınıflandırmalarını yeniden değerlendirme ve tahliye süreçlerine ilişkin incelemeleri destekleme gibi işlevler sunuyor. Platform ayrıca geçiş dönemi konutları ve istihdam gibi kaynaklara erişimin koordinasyonuna yardımcı olmayı amaçlıyor.
Michigan yönetiminin yeni uygulaması, bu tür veri analizlerini cezaevlerindeki güvenlik kararlarıyla daha yakından ilişkilendirecek. Buna karşın kurum, algoritmanın hangi değişkenleri kullandığını, verilerin hangi dönemleri kapsadığını veya farklı mahkûm grupları üzerindeki tahmin performansının nasıl ölçüldüğünü açıklamıyor. Sistemin kararları hangi ölçütlerle ürettiğinin bilinmemesi, algoritmik şeffaflık ve hesap verebilirlik açısından önemli sorular ortaya çıkarıyor.
MDOC’nin yaklaşık yüzde 30’luk doğruluk artışı beklentisi de ayrıntılı bir yöntem açıklaması olmadan değerlendirilemiyor. Kurumun açıklaması, söz konusu oranın mevcut değerlendirme yöntemine kıyasla tahmin doğruluğundaki artışı mı, yoksa başka bir performans ölçütünü mü ifade ettiğini ortaya koymuyor. Bu ayrım, sistemin gerçek koşullarda ne kadar başarılı olacağını anlamak açısından önem taşıyor.
Michigan’daki plan, ABD’nin Louisiana eyaletinde kullanılan benzer risk değerlendirme sistemlerine yönelik eleştirileri yeniden gündeme getiriyor. ProPublica’nın daha önce yürüttüğü bir araştırma, ceza adaletinde kullanılan risk analizlerinin dayandığı verilerin ırksal ve sosyoekonomik önyargılar içerebildiğini ortaya koydu. Verilerdeki eşitsizlikler algoritmik değerlendirmelere taşındığında, rehabilitasyon sürecinde ilerleme kaydeden mahkûmlar dahi yüksek riskli olarak sınıflandırılabiliyor.
ProPublica’nın aktardığı örneklerden birinde, görme engelli ve tekerlekli sandalye kullanan 70 yaşındaki bir mahkûm, temiz disiplin siciline rağmen yeniden suç işleme riski bakımından orta seviyede sınıflandırıldı. Louisiana’daki uygulamada bu kategori, kişinin şartlı tahliyeye uygunluğunu otomatik olarak ortadan kaldıran sonuçlar doğurabiliyordu. Söz konusu örnek, risk değerlendirme sistemlerinin yalnızca teknik başarı oranlarıyla değil, bireylerin hakları üzerindeki etkileriyle de incelenmesi gerektiğini gösteriyor.
Michigan’daki yazılımın doğrudan şartlı tahliye kararlarını vermek yerine barınma düzeylerini belirlemeye odaklanması, iki uygulama arasında önemli bir fark oluşturuyor. Buna rağmen güvenlik sınıflandırmaları eğitim, rehabilitasyon ve destek programlarına erişimi etkilediği için algoritmik hatalar mahkûmların koşullarını ağırlaştırabilir. Özellikle geçmiş disiplin kayıtları, suç geçmişi ve sosyoekonomik koşullar gibi değişkenlerin nasıl yorumlandığı, sistemin farklı gruplara adil davranıp davranmadığını belirleyen unsurlar arasında yer alıyor.
Michigan yönetiminin yeni sistemden beklentisi, mahkûmların güvenlik düzeylerini daha isabetli belirlemek ve cezaevi kaynaklarının dağıtımını iyileştirmek üzerine kuruluyor. Ancak tahmin doğruluğundaki artış, tek başına daha adil kararlar alındığını veya rehabilitasyon sonuçlarının iyileştiğini göstermiyor. Bir algoritma risk tahmininde başarılı olsa bile hatalı ya da önyargılı verilerle beslendiğinde belirli mahkûm grupları aleyhine sonuçlar üretebilir.
Aralık ayında başlaması planlanan pilot uygulama, Michigan’ın yapay zekâ destekli mahkûm sınıflandırma yaklaşımını değerlendirmek açısından ilk aşamayı oluşturacak. Sistemin başarısının anlaşılması için kurumun kullandığı verileri, hata oranlarını, farklı gruplara ilişkin sonuçları ve insan denetiminin karar sürecindeki rolünü açıklaması gerekecek. Bu bilgiler paylaşılmadan, yazılımın cezaevlerindeki güvenlik ve rehabilitasyon sorunlarını azaltacağı yönündeki beklentiler bağımsız biçimde değerlendirilemeyecek.
