大模型‘幻觉’现象：人类训练方式或成关键？

2025年9月12日

（图片来自网络）

近年来，大模型（如ChatGPT、DeepSeek等）出现“幻觉”——编造无依据内容、对简单问题判断错误等情况，成为AI领域热门话题。最近 OpenAI 研究人员提出一个有趣观点：“大模型‘幻觉’或与人类训练方式有关”。

从训练机制看，大模型需学习预测下一个单词，易学习错误结构，导致回答错误内容；从评估方式看，若仅以“对错”判断，模型更愿瞎猜以获得高分数，渐渐失去“不知道”的能力。例如问“火锅是哪年哪月出生”，模型因未学过这类信息，若硬编答案就成“幻觉”。

内外因素加剧“幻觉”：

针对这一问题，OpenAI提出“不能消除，只能避免”思路——让模型学会回答“不知道”，同时调整训练与评估方式降低瞎猜概率。但有人质疑：若模型不“幻觉”，是否会失去创造力？比如某版大模型因抑制幻觉变“呆板”，引发用户不满。

目前来看，AI发展还需在“允许犯错”与“杜绝错误”间平衡，不同选择各有道理。未来模型或许能更智能地处理未知问题，让“幻觉”更少发生。