一句话说清楚
模型的本质是预测「最像答案的下一个词」,不是查证事实。当它不确定时,会生成流畅但虚构的内容:编造参考文献、虚构法规条款、给出不存在的函数名。内容越专业、越具体,越容易触发幻觉。
这对你选工具意味着什么
事实核查能力是选型的隐藏分水岭:带联网搜索、带引用溯源、带知识库检索的工具,幻觉率显著低于裸模型。凡涉及数字、法规、文献、人名的输出,逐条核对是使用前提。
常见误区
「AI 说得很流畅」与「AI 说的是真的」是两回事。语气自信程度与准确率零相关,这是新手最容易踩的坑。
AI 百科词条
AI 一本正经地编造事实——引用不存在的文献、编造数据。这是所有生成式工具的固有缺陷。
模型的本质是预测「最像答案的下一个词」,不是查证事实。当它不确定时,会生成流畅但虚构的内容:编造参考文献、虚构法规条款、给出不存在的函数名。内容越专业、越具体,越容易触发幻觉。
事实核查能力是选型的隐藏分水岭:带联网搜索、带引用溯源、带知识库检索的工具,幻觉率显著低于裸模型。凡涉及数字、法规、文献、人名的输出,逐条核对是使用前提。
「AI 说得很流畅」与「AI 说的是真的」是两回事。语气自信程度与准确率零相关,这是新手最容易踩的坑。