云南大学真题解析 | AI幻觉名词解释(2026)

（1）定义

也称为算法幻觉，是指人工智能系统生成的内容看似合理流畅，却与输入信息、客观事实严重不符，或无中生有虚构信息的现象，核心是“概率生成优先于事实核查”，在多模态场景中表现为虚实错配。

(2)特点

①类型多样：含事实性幻觉、逻辑性幻觉、对象幻觉等；② 迷惑性强：生成内容常细节丰富、格式规范，极具专业特性，易误导用户。

(3) 产生原因

①数据问题：训练数据不足、偏差或污染，导致认知缺陷；②算法局限：基于概率预测而非逻辑推理，注意力机制在复杂语境中易衰减；③目标偏差：训练中优先追求内容流畅性，忽视事实准确性，甚至为“讨好”用户编造信息。

(4) 影响

①信息污染：造成虚假信息扩散，形成“幻觉循环”；② 专业风险：干扰法律、医疗、金融等领域决策；③现实危害：威胁自动驾驶、服务机器人等人身安全；④认知偏差：固化用户刻板印象，削弱对权威信息的信任@云南新传考研豆尖班。

(5)治理路径

①技术层面：采用检索增强生成相应解码策略等提升准确性，建立多源事实核查机制；②监管层面：推行AI生成内容“数字水印+风险提示”，明确虚假信息法律责任；③用户层面：提升数字素养，对AI输出内容进行多渠道验证。