模型幻觉
AI Hallucination
生成式模型输出看似合理、实际缺乏依据或与事实不符的内容,包括编造来源、数字、事件和因果关系。
也称:大模型幻觉、LLM 幻觉
降低幻觉需要组合使用可靠数据源、检索增强、结构化约束、工具校验、引用证据、拒答策略和人工审核。对财务、法律、医疗等高风险任务,不能只依赖提示词声明“不要编造”。
AI Hallucination
生成式模型输出看似合理、实际缺乏依据或与事实不符的内容,包括编造来源、数字、事件和因果关系。
也称:大模型幻觉、LLM 幻觉
降低幻觉需要组合使用可靠数据源、检索增强、结构化约束、工具校验、引用证据、拒答策略和人工审核。对财务、法律、医疗等高风险任务,不能只依赖提示词声明“不要编造”。