一名13岁的学生在佛罗里达州的德兰（Deland）使用学校发行的设备询问chatgpt造成伤害同学后被捕。该查询立即由学校监测系统检测到，该系统警告了安全和当地执法部门。该事件发生在西南中学。当学生输入有关Openai Chatgpt的信息时，一个名为Gaggle的AI驱动的监视系统标记了内容并通知了学校警察。沃卢西亚县警长办公室的官员逮捕了这位学生，该学生声称他只是在“拖钓”他的朋友。但是，当局将查询视为严重威胁。社交媒体录像显示，这名少年被限制运输并预订到县监狱。警长办公室说：“另一个在校园里造成紧急情况的’笑话’警告父母与孩子讨论负责任的技术使用和适当的在线行为。
监测技术的作用
学校使用的gaggle系统旨在检测和阻止学校设备上的不适当内容。它确定了潜在的有害行为，无论是针对自己还是他人，都可以从学校当局进行快速干预。但是，这种监视技术是有争议的。 Gaggle因产生大量的错误警报并促进学校中的监视环境而面临批评。评论家认为，这些系统可以以增强安全性的名义侵犯学生隐私。该事件突出了在现代教育环境中人工智能，技术使用和学生安全的交汇处的复杂挑战。
