数据“中毒”AI 还能靠谱吗？央视起底 AI 数据污染乱象

2025年8月16日

（图片来自网络）

近年来，AI技术发展迅速，但“数据污染”问题逐渐引发关注。央视报道指出，AI因训练数据存在污染，可能出现错误判断、造谣传谣等问题，带来安全风险。

AI数据污染现象屡见不鲜。比如宁波发生的不相关事件被AI错误关联，以及360儿童手表对文化问题给出错误答案的事件，都凸显了数据污染带来的问题。这些事件说明，若AI训练数据包含误导性信息，可能导致模型决策失误。

专家强调，AI大模型依赖海量数据训练，若数据不准确、不安全，会直接影响模型输出。数据显示，训练时少量虚假数据可能导致有害输出上升，污染数据因“具有独特性”常被模型过度重视，进而放大对输出的影响。

数据污染还引发多领域现实风险：在金融领域，可能造成经济损失；在社会舆论领域，破坏信息真实性，引发舆论风险；在公共安全等方面也存在隐患。

针对AI数据污染问题，防范措施需多维度落实。要制定数据采集规范，使用安全可信的数据源；采用自动化工具、人工审查与AI算法结合的方式，定期清洗修复受污数据；构建可监测、可扩展的数据治理框架，实现持续管理与质量把控，保障AI数据安全与模型可靠性。