L’élève de 13 ans a été interpellé après qu’un système de surveillance scolaire a détecté sa requête inquiétante adressée à l’intelligence artificielle.
Un adolescent de 13 ans, élève à la Southwestern Middle School de DeLand, en Floride, a été arrêté après avoir demandé à ChatGPT « comment tuer [son] ami en plein cours ». La requête, jugée alarmante, a été immédiatement repérée par Gaggle, un logiciel de surveillance utilisé dans de nombreux établissements scolaires américains pour détecter les contenus potentiellement dangereux.
Selon la police locale, l’alerte a été transmise sans délai à l’officier chargé de la sécurité de l’école, permettant une intervention rapide. Interrogé par les autorités, le jeune garçon a affirmé qu’il s’agissait d’une « simple blague ». Cependant, dans un contexte marqué par la recrudescence des menaces et des fusillades dans les écoles américaines, les forces de l’ordre ont décidé de ne pas prendre la situation à la légère.
Le collégien a été placé en garde à vue et fait désormais l’objet d’une enquête. L’incident soulève une fois de plus la question de l’usage des intelligences artificielles par les mineurs et de la surveillance numérique dans les établissements scolaires.
Le système Gaggle, conçu pour repérer les comportements à risque à travers les courriels, documents et requêtes en ligne des élèves, est salué pour sa capacité à prévenir certains drames. Toutefois, il est également critiqué par des associations de défense des libertés pour ses intrusions dans la vie privée des jeunes et le risque de fausses alertes.
Cet épisode met en lumière les dilemmes éthiques que pose la surveillance numérique : comment protéger les élèves sans franchir les limites du respect de leur vie privée ?
En savoir plus sur Safety Promo
Subscribe to get the latest posts sent to your email.
