Un adolescent de 13 ans a été arrêté aux États-Unis après avoir demandé à l’intelligence artificielle ChatGPT comment tuer un camarade de classe. Cette requête, rapidement détectée, a alerté les autorités qui sont intervenues et ont transféré le mineur dans un centre de détention pour jeunes.
Selon la chaîne française BFMTV, le message de l’adolescent a été repéré par un système de surveillance scolaire américain basé sur l’intelligence artificielle, nommé Gaggle. Cet outil analyse les contenus produits par les élèves sur les appareils scolaires et signale tout comportement jugé préoccupant.
L’adolescent a déclaré qu’il ne faisait que plaisanter et qu’il voulait simplement embêter ses camarades. Cependant, la police locale a pris la menace au sérieux et n’a pas considéré ses propos comme une simple blague.
Le bureau du shérif a profité de l’incident pour rappeler aux parents l’importance de surveiller l’usage des technologies par leurs enfants. Sur les réseaux sociaux, il a lancé un message clair : « Parents, parlez avec vos enfants pour qu’ils n’aient pas à vivre les conséquences d’une mauvaise blague. »
Le système Gaggle, bien qu’efficace pour détecter des signaux d’alerte, reste controversé. De nombreuses voix s’élèvent contre ce dispositif, l’accusant de générer trop de fausses alertes et de porter atteinte à la vie privée des élèves.
