Gemini 2.5 Güncellemesi, Travma Sonrası Destek Uygulamalarında Sorunlara Neden Oldu
Google’ın son Gemini 2.5 güncellemesi, güvenlik ayarları üzerindeki kontrolü bozarak, travma sonrası destek sunan uygulamalarda sorunlara yol açtı. Bu durum, cinsel saldırı mağdurlarına yönelik geliştirilmiş olan platformları da olumsuz etkiledi.
Geliştiriciler Google’a Durumun Ciddiyetini Bildirdi
Avustralya’nın Brisbane şehrinden yazılım geliştiricisi ve güvenlik araştırmacısı Jack Darcy, The Register’a yaptığı açıklamada, bu sorunun Gemini 2.5 Pro Preview sürümünün yayına girmesinin ardından ortaya çıktığını belirtti. Darcy, “Cinsel saldırı mağdurları ve benzer travmalar yaşayan bireyler için bir platform geliştirdik. Ama bu güncelleme, uygulamamızın çalışmasını engelledi” açıklamasında bulundu.
Darcy’nin geliştirdiği VOXHELIX ve diğer uygulamalar, cinsel saldırı raporları ve benzeri hassas verileri işleyerek, bunları yapılandırılmış raporlara dönüştürüyor. Ancak güncelleme sonrası, kullanıcıların cinsel saldırı gibi konularda rapor hazırlamaları engelleniyor. Uygulama, kullanıcıları “güvenlik yönergeleri” gereği içerik paylaşmamaları konusunda uyarıyor ve bazen bu içerikleri “yasadışı pornografi” olarak sınıflandırıyor.
Gemini’nin güvenlik ayarlarını göz ardı etmesi, sadece teorik bir sorun değil. Darcy, terapistler ve destek çalışanlarının yazılımlarını terapi süreçlerinde entegre ettiklerini ve güncelleme nedeniyle yaşanan aksaklıkların endişe verici boyutlara ulaştığını belirtti. Avustralya’daki bazı hükümet kurumalarının da uygulamayı test ettiğini söyleyen Darcy, “Destek çalışanlarımız, VOXHELIX ve VIDEOHELIX raporlarını tamamlayamıyor. Mağdurlar, raporlarını hazırlayamadan programları terk etmek zorunda kalıyor,” dedi.
Darcy ayrıca, PTSD, depresyon ve geçmişteki istismarıyla başa çıkmaya çalışan bireylere yönelik bir uygulama geliştiren bağımsız bir yazılımcıdan da bahsetti. Bu uygulama, kullanıcıların duygusal iyileşme süreçlerini kelimelere dökmesine yardımcı olurken, Gemini güncellemesi nedeniyle bu yazılım da kesintiye uğradı.
Gemini’yi kullanan diğer yazılım geliştiricileri de benzer sorunlar yaşadıklarını bildirdi. Google AI forumunda başlatılan bir tartışma, güncellenmiş modelin eski sürüme göre büyük değişiklikler gösterdiğini ortaya koydu. Bir geliştirici, modelin mantık yürütme yeteneklerinde, stilinde ve tonunda büyük değişiklikler olduğunu vurguladı.
Google, durumu kabul etti ancak sorunun nedenine dair herhangi bir açıklama yapmadı. Güncellenen Gemini modelinin, içerik filtreleme ayarlarına rağmen travmatik konuları işlemek isteyen uygulamaları engellemesi, Google için ciddi bir problem teşkil ediyor.
Jack Darcy, Google’a sorunun bir an önce düzeltilmesi gerektiği çağrısında bulundu. “Burası teknolojiyle ilgili bir mesele değil, insani bir konu. Teknolojimizin bu şekilde mağdurlara zarar vermesi kabul edilemez,” diyen Darcy, bu tarz bir güncellemenin, travma yaşayan bireylerin iyileşme süreçlerini ciddi şekilde zorlaştırdığını belirtti.
