2025年度AI乱象调查：从法律、模型、数据三管齐下治理源头
（图片来自网络）
开栏语
AI技术正以前所未有的速度重塑世界，也在现实中投射出重重乱象。“slop”被评为年度热词，AI“一键脱衣”“捏假偶像”等问题引发关注。上游新闻推出“年度AI乱象调查”，盘点乱象背后的深层逻辑，探讨治理之道。
专家建议：源头治理三管齐下
重庆大学黄晟教授提出法律、模型、数据三层面治理建议。
1. 法律层面：压实主体责任，标识追溯
《人工智能生成合成内容标识办法》要求AI生成内容“亮明身份”，嵌入显性与隐式标识，为取证追究责任提供依据。
- 技术提供者需履行主体责任，确保合成内容标识合规
- 标识助力公众识别、司法机关追责
2. 模型层面：安全与伦理评估，内建防滥用机制
模型上线前需通过安全伦理评估，高风险功能（如人脸合成、语音克隆）需内建活体检测、敏感内容过滤等机制。
- 服务提供者确保模型合规，高危功能强化技术防护
- 活体检测、声纹验证等防滥用，保障模型安全
3. 数据层面：合法合规训练，筛查有害数据
训练数据需合法合规，严禁使用盗版、隐私或违法数据，建立审核机制筛查违法不良信息。
- 训练数据为“食品”，需守住合法合规底线
- 剔除涉黄、暴力等违法数据，避免模型生成有害内容
伦理边界：从口号到可执行标准
制定AI伦理“负面清单”，明确禁止高风险场景（诈骗、色情、未成年人操控等）；推广“可解释AI”，让算法决策透明；将AI素养纳入国民基础教育，培养数字辨识与独立思考能力。
- 伦理“负面清单”成为模型设计硬性约束
- “可解释AI”让司法、教育场景算法透明
- AI素养教育培养下一代数字批判能力
监管转型：从“事后追责”到“技术前置”
监管部门推动技术前置治理，如强制高风险AI服务开放安全接口、建立模型备案检测标准、建设国家级AI内容检测基础设施，构建跨平台协同防御机制。
- 强制高风险AI服务开放安全接口，快速核验合成内容
- 建立模型备案与检测标准，强化安全防护
- 建设国家级AI内容检测基础设施，实现上传即检测
- 跨平台协同防御，将作恶者挡在生态之外
结语
技术底线与合规成本，让AI乱象得到有效治理，AI技术向良性方向发展。
（声明：该内容经AI精编）
查看原网页
最新新闻
- 2025年12月20日：全球首台超临界二氧化碳发电机组成功商运 中国科技实现发电技术新突破
- 2025年12月20日：国产算力迈入万卡时代：摩尔线程新GPU架构+中科曙光万卡集群双突破
- 2025年12月20日：摩尔线程发布新一代GPU架构，打造MUSA生态对标英伟达CUDA
- 2025年12月20日：字节跳动与手机厂商合作布局AI手机，鸿蒙智行时代或临近
- 2025年12月20日：ESG战略升级：AI与绿色金融赋能 企业从成本到全球竞争力
- 2025年12月20日：苹果尝试UFG玻璃研发iPhone折叠屏，技术难题待突破
- 2025年12月20日：第十二届蓝鲸记者年会北京举行 近千媒体人企业高管报名参与
- 2025年12月20日：量子科技赋能复兴岛，打造未来城市标杆
- 2025年12月20日：摩尔线程GPU技术路线图首次公开，全栈技术成果亮相开发者大会
- 2025年12月20日：博主爆料某厂新机型或为荣耀WIN系列，1216双扬声器等配置引关注，12月26日发布
- 2025年12月20日：宇树人形机器人登台王力宏演唱会获马斯克点赞 科技界聚焦机器人发展阶段
- 2025年12月20日：哈啰电动车“断服”事件引消费者维权，律师建议企业担责
- 2025年12月20日：罗永浩重启科技创新分享大会，科技春晚首秀引关注
- 2025年12月20日：香港创科局张曼莉谈AI生态与创科发展
- 2025年12月20日：GPT - 5自主突破分子克隆效率提升79倍，开启AI物理元年
- 2025年12月20日：红牛车手水上特技被40多台iPhone 17 Pro Max全程4K记录
- 2025年12月20日：网约车消费主力为中青年在职群体 安全成首要考量
- 2025年12月20日：宇树机器人伴舞王力宏演唱会，高难度空翻获马斯克点赞！
- 2025年12月20日：摩尔线程发布新一代GPU架构‘花港’：能效提升10倍 支持十万卡智算集群 明年量产
- 2025年12月20日：杭州联通推出免费上门宽带测速优化服务 三网用户均可预约
精彩评论（10）