幻觉
Hallucination
大模型一本正经地生成与事实不符或凭空捏造的内容。
先用人话理解
模型不是在说谎，而是按统计规律顺着话往下编，遇到知识盲区时会自信地编出听起来合理但错误的内容。
为什么重要
幻觉是限制大模型在医疗、金融、法律等领域大规模落地的主要障碍，催生了检索增强、引用、事实校验等应对手段。
常见误解
幻觉等于模型有恶意或说谎
更大模型就完全没有幻觉
幻觉只发生在小模型上
Hallucination
大模型一本正经地生成与事实不符或凭空捏造的内容。
模型不是在说谎，而是按统计规律顺着话往下编，遇到知识盲区时会自信地编出听起来合理但错误的内容。
幻觉是限制大模型在医疗、金融、法律等领域大规模落地的主要障碍，催生了检索增强、引用、事实校验等应对手段。
幻觉等于模型有恶意或说谎
更大模型就完全没有幻觉
幻觉只发生在小模型上