ChatGPT’ye Arkadaşını Öldürme Yöntemini Soran 13 Yaşındaki Öğrenci Tutuklandı
Florida’da bir ortaokul öğrencisi, okul cihazını kullanarak ChatGPT’ye “Sınıfın ortasında arkadaşımı nasıl öldürebilirim?” sorusunu yazdıktan kısa süre sonra polis tarafından gözaltına alındı.
Okulda Yapay Zekâ Üzerinden Şiddet İçeren Arama Yapıldı
Olay, Florida’nın Deland kentindeki Southwestern Ortaokulu’nda yaşandı. 13 yaşındaki öğrenci, okulda kullandığı cihazdan OpenAI’ın sohbet robotu ChatGPT’ye ölümle ilgili bir soru yöneltti. Okulun güvenlik sistemi Gaggle, anlık uyarı göndererek okul polis memurunu bilgilendirdi. Kısa süre içinde öğrencinin yeri tespit edildi.
Yetkililer öğrenciyi sorguladı. Öğrenci ifadesinde arkadaşına şaka yaptığını söyledi. Ancak okul yönetimi ve polis durumu ciddiye aldı. Olay, geçmişte ABD’de yaşanan okul saldırılarını hatırlattı. Özellikle 2018 yılında Florida’daki Marjory Stoneman Douglas Lisesi’nde 17 kişinin hayatını kaybettiği saldırı, yetkililerin hassas davranmasına neden oldu.
Volusia County Şerif Ofisi öğrenciyi gözaltına aldı. Olayın ardından sosyal medyada paylaşılan görüntülerde, öğrencinin elleri kelepçeli şekilde polis aracından indirildiği görüldü. Yerel polis departmanı, “Bir başka şaka kampüste acil duruma neden oldu. Ebeveynler çocuklarıyla bu konularda konuşmalı” açıklamasını yaptı.
Yetkililer, öğrencilerin dijital ortamlarda yaptıkları her aramanın ciddiye alınması gerektiğini vurguladı. ChatGPT veya benzeri sistemlerde yazılan her komutun okul güvenlik sistemleri tarafından takip edildiği belirtildi.
Okul yönetiminin kullandığı Gaggle isimli yapay zekâ destekli güvenlik yazılımı, öğrencilerin tehlikeli içerik aramaları yaptığında anında uyarı veriyor. Sistem öğrencilerin intihar eğilimi, tehdit veya şiddet içerikli davranışlarını tespit etmeye çalışıyor. Ancak uygulama, bazı çevreler tarafından aşırı gözetim yarattığı gerekçesiyle eleştiriliyor.
Uzmanlar, sistemin hatalı alarm verebildiğini belirtiyor. Bazı öğretmen ve veliler Gaggle’ın öğrenciler üzerinde baskı oluşturduğunu düşünüyor. Yine de birçok okul, güvenlik gerekçesiyle bu sistemi kullanmayı sürdürüyor.
Florida’daki olay, öğrencilerin yapay zekâ araçlarını kullanırken denetim ihtiyacını yeniden gündeme taşıdı. Uzmanlar, çocukların çevrim içi ortamda attıkları her adımın ciddi sonuçlar doğurabileceğini hatırlatıyor. Yetkililer, ailelerin çocuklarını dijital ortamların riskleri konusunda bilinçlendirmesi gerektiğini söylüyor. Yerel yönetimler, okullarda benzer olayların yaşanmaması için güvenlik sistemlerini sıkılaştırmayı planlıyor.
