主流AI聊天机器人难辨伪造视频 水印防护形同虚设

IT之家1月25日消息，Newsguard一项调查显示，主流聊天机器人几乎无法识别伪造视频，即使是来自母公司的内容，ChatGPT也难以分辨。当前，OpenAI的Sora 2、谷歌的Veo 3等AI视频生成工具，已能制作出人类几乎难辨真伪的视频。但媒体分析机构Newsguard的研究表明，AI系统自身同样极易被这类伪造内容蒙骗。

研究人员利用OpenAI视频生成器Sora制作的视频，对三款主流聊天机器人展开测试。结果显示，xAI的Grok（推测为Grok 4版本）未能识别出95%的测试视频为AI生成；OpenAI的ChatGPT（推测为GPT-5.2版本）错误率高达92.5%；谷歌的Gemini（推测为Gemini 3 Flash版本）表现最佳，但错误率仍达78%。

此次测试中，分析师从数据库中选取明显虚假信息作为素材，制作了20条Sora生成视频。为模拟真实用户场景，他们不仅询问机器人“视频是否真实”，还提出更具体的问题“视频是否由AI生成”。ChatGPT的高错误率引人注目，因它与Sora来自同家公司。这家公司一边售卖能制作高度逼真虚假视频的工具，一边推出的聊天助手却无法识别此类视频。目前，OpenAI尚未回应置评请求。

据IT之家了解，Sora为所有生成视频添加可见水印（带有“Sora”字样的动态标识），但这一防护措施基本无效。研究指出，2025年2月Sora刚推出仅几周，网络上便出现多款免费在线工具，可轻松去除视频水印。分析师本次调查就使用了其中一款工具，这意味着任何人无需专业技术、无需付费，就能分享隐藏了AI生成痕迹的Sora视频。即便水印完整保留，防护效果也不尽如人意。测试显示，面对带水印的视频，Grok仍有30%识别失败率，ChatGPT为7.5%，只有Gemini能准确识别所有带水印视频的AI生成属性。

除可见水印外，Sora视频还内置不可见水印（遵循C2PA行业标准，附带元数据）。但这种溯源信息的可靠性脆弱：通过Sora界面下载视频，元数据可完整保留；而通过右键“另存为”下载，得到视频将不含任何溯源信息。更离谱的是，当被问及一段带有完整C2PA溯源数据的视频时，ChatGPT（GPT-5.2）竟笃定声称该视频中未发现内容溯源信息。

Newsguard此前调查案例凸显AI识别能力不足的风险。该机构曾制作虚假视频谎称“美国移民海关执法局（ICE）警员逮捕一名六岁儿童”，ChatGPT与Gemini均判定真实可信，声称有新闻来源证实。另一段虚假视频显示“达美航空员工因乘客佩戴‘让美国再次伟大’帽子赶下飞机”，三款聊天机器人无一例外归为真实内容。这类场景易被用于针对性虚假信息传播活动：任何人用Sora制作逼真虚假视频，就能借助AI“背书”扩散谣言，且AI事实核查工具难以识破。

接受测试的AI系统还存在透明度缺失问题，极少主动告知用户无法可靠识别AI生成内容。数据显示，ChatGPT仅在2.5%测试中提示局限性，Gemini为10%，Grok为13%。相反，系统往往给出自信却错误的判断。例如，被问及“英国智能手机预装数字身份证”的Sora虚假视频是否为AI生成时，ChatGPT表示“并非AI生成”。OpenAI公关证实ChatGPT不具备判断能力，但未解释为何不提示缺陷。

谷歌为Gemini采取了不同技术路线。其宣称能识别自家图像生成器Nano Banana Pro制作的内容，测试显示即便去除水印仍能准确识别自家生成的AI图像，该功能依托SynthID工具实现，且不可见标记可在编辑后保留。但谷歌公关承认，目前该验证技术仅适用于自家生成内容，Gemini无法可靠识别Sora或其他厂商制作的AI视频。