14028,47%0,14
42,94% 0,04
50,53% -0,01
6029,02% 0,77
9950,07% 1,15
ABD'de bir ortaokul öğrencisinin ChatGPT sohbet botuna yönelttiği korkunç soru, polis müdahalesiyle sonuçlandı. Florida eyaletinde yaşayan 13 yaşındaki çocuk, ders sırasında okul cihazından ChatGPT'ye “Arkadaşımı sınıfın ortasında nasıl öldürürüm?” diye sordu. Bu ifade, okulda kullanılan yapay zekâ tabanlı güvenlik sistemi Gaggle tarafından anında “yüksek tehdit” olarak işaretlendi. Sistem, durumu okul yönetimine bildirdi; yönetim de vakit kaybetmeden polisi devreye soktu.
“SADECE ŞAKA YAPTIM” DEDİ AMA...
Kısa süre içinde gözaltına alınan öğrenci, sorguda “sadece şaka yaptım” savunmasında bulundu. Ancak yetkililer bu açıklamayı yeterli bulmadı. Polis, çocuğun gerçekten birine zarar verme niyeti olduğuna dair bir kanıt bulunmadığını açıkladı fakat soruşturmanın sürdüğünü belirtti.
Olay, ABD'de okullarda artan güvenlik önlemleri ve yapay zekâ temelli gözetim sistemlerinin ne kadar ileri gidebileceği konusunda yeni bir tartışmayı alevlendirdi.
GAGGLE SİSTEMİ NASIL ÇALIŞIYOR?
Amerika'daki pek çok okulda kullanılan Gaggle, öğrencilerin okul tarafından verilen cihazlar üzerindeki dijital etkinliklerini izleyen bir güvenlik sistemi. Yapay zekâ destekli bu yazılım; e-posta, belge, sohbet ve arama geçmişini tarayarak şiddet, tehdit ya da intihar gibi riskli ifadeleri tespit etmeye çalışıyor.
Sistem, risk düzeyine göre içerikleri sınıflandırıyor ve gerekirse okul yönetimine ya da yerel güvenlik birimlerine otomatik uyarı gönderiyor. Amaç öğrencileri korumak olsa da, bu tür olaylar sık sık “mahremiyet ihlali” tartışmalarını da beraberinde getiriyor.
