6.1 什么是 AI 幻觉？

AI 有时会生成看起来合理、实际上错误、无依据或根本不存在的信息，这种现象常被称为 AI 幻觉（hallucination）。

幻觉不一定像胡言乱语。它可能夹在正确内容中，拥有完整句子、专业语气和精美格式，例如补出不存在的奖项、错误引用或材料从未承诺的礼品。

为什么会出现幻觉？

大语言模型的核心任务是根据上下文生成合适的后续文字，不是保证每句话都经过事实数据库验证。信息不足、问题要求它必须回答、来源含糊或任务超出能力时，它仍可能生成一个“像答案”的结果。

可靠回答应允许“不知道”“无法确认”和“现有资料没有说明”。用户也可以要求 AI 区分已知事实、推测与缺失信息。

降低幻觉风险的方法包括提供可靠材料、限制回答只使用指定来源、要求标注无法确认项，并由人核实关键事实。但没有一句提示词能保证彻底消除幻觉。