美国学校部署AI监控工具 监测学生与聊天机器人对话以预防心理问题
（图片来自网络）
根据彭博社报道，新学年美国部分学校开始部署人工智能监控工具，实时监测学生与聊天机器人的对话，以此预防自残、自杀等心理风险。科技公司发出严肃警告，学生使用AI聊天机器人可能存在致命风险，需格外警惕。
这些监控工具安装在学校分配的笔记本上，通过自然语言处理技术扫描学生与聊天机器人的互动内容，寻找自残、暴力等危险信号。当检测到潜在风险后，会向学校官员或辅导员发送警报，以便及时干预。
以GoGuardian Beacon和Lightspeed Systems等软件为例，它们能识别出学生向聊天机器人询问“如何自杀”“不被人发现的自残方式”等危险内容。数据显示，这类由聊天机器人触发的警报量急剧增加，GoGuardian相关警报自2024年初以来增长十倍以上，Lightspeed监测到一年内超1万起互动事件，其中多起涉及自残或自杀相关诉求。
南方某中学辅导员回忆，曾收到监控警报显示学生询问“如何自杀”，此前学生无任何自残迹象，监控工具帮助学校及时介入。但同时也引发争议，有人担忧这种监控模式是否过度，是否会侵犯学生隐私，引发美国社会对课堂监控文化的讨论。
消费者权益组织指出，此类监控工具已不仅限于内容过滤，而是延伸至学生数字生活的全面扫描，这让关于隐私保护的问题更加突出。目前学校与科技公司正在权衡安全需求与隐私权益的平衡。
（声明：该内容经AI精编）
查看原网页
最新新闻
- 2025年11月8日：讯飞用AI键打造市集式输入法，开启个性化表达新篇章
- 2025年11月8日：尤里奇回应与卢克曼冲突：事件解决后全队更团结
- 2025年11月8日：昨日社会热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日文化热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日科技热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日体育热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日娱乐热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日财经热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日教育热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日汽车热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：昨日健康热门资讯汇总-早报速览（2025-11-08）
- 2025年11月8日：杨浦滨江世界级博物馆开启‘人工智能+’技能文化新场景（开馆两周年）
- 2025年11月8日：三菱Eclipse跨界纯电汽车发布 搭载智能装甲设计 续航达600公里
- 2025年11月8日：微信集中行动：下架违规微短剧和关联小程序，守护平台清朗空间
- 2025年11月8日：医疗AI迎来“评审员”！北京启动医疗人工智能应用评测服务
- 2025年11月8日：“10后”职场变革：语音取代键盘或成趋势 研究预测语音沟通主流化
- 2025年11月8日：三星Galaxy S26标准版手机线稿曝光：6.9mm厚度 或成轻薄新标杆
- 2025年11月8日：英超焦点战：曼联2-2绝平热刺 末段绝杀成焦点
- 2025年11月8日：芝加哥大学团队发明「温度调节术」：让AI学会循序渐进思考问题
- 2025年11月8日：Netflix联合创始人坚持周二下午5点下班：用规则守护心理健康
精彩评论（10）