抗幻觉升级之后 AI回答的引用来源要重新核
2026-11-15博晓通

抗幻觉升级之后 AI回答的引用来源要重新核

抗幻觉升级之后 AI回答的引用来源要重新核 文章配图

11 月 15 日之前,多数解读把大模型的版本更新读成「更聪明了」。但把火山方舟这次更新公告逐条看下来,真正改动的是验收环节:多步骤任务的结果验收更完整,工具调用与事实一致性被单独拎出来强调,抗幻觉从一句宣传语变成了可验收的指标。这不是一次寻常迭代——它动的是回答援引什么、信谁、说错时怎么纠的底层规则。

官方改的是验收环节,不是知识量

已知事实未证实需要核实
火山方舟11月15日更新公告称,Doubao Seed-Evolving升级集中在Agent复杂任务执行与抗幻觉能力,多步骤任务规划与结果验收更完整提升幅度的具体评测分数未公布分任务的错误率对比
公告称工具调用与事实一致性明显改善,多数场景响应时延与单次成本同步下降,版本升级自动生效「多数场景」的样本范围未说明中文长尾问题的表现
豆包工作11月12日接入Kimi 3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash,并按额度倍率区分成本多方模型并存对答案一致性的影响未披露跨模型同题答案差异

火山方舟的发布公告写得很具体:本次升级集中在 Agent 复杂任务执行与抗幻觉能力,多步骤任务的任务规划与结果验收更完整,工具调用与事实一致性明显改善,多数场景的响应时延与单次成本同步下降,版本升级自动生效 (火山方舟模型发布公告)。

「结果验收」这个词值得单独拎出来。它指的是模型在给出答案之前,会先检查自己的中间步骤是否自洽、工具返回的结果是否与结论对得上。这一步做得好,回答会变短、变保守;做得不好,就会继续用漂亮的表述盖住没查清的部分。

从「答得快」到「答得住」,评测口径变了

过去一年模型发布的主线是速度与成本,今年的新主线是「答得住」:能不能在多步骤任务里对结果负责。评测口径随之从单题正确率,转向任务完成率、工具调用成功率与事实一致性。这三个指标对品牌监测的意义不同,混着看会误判。

拿内容生产举例。品牌让模型整理一份竞品价格对比,旧版本可能给出结构漂亮但数字错漏的表格;新版本更可能少写几行,但每行都能追到页面。对做 GEO 的团队,后一种输出反而更好用——它把「能不能被核」变成了硬条件。

  • 任务完成率多步骤任务是否走到终点。提升说明模型更会拆解,但不代表每个中间结论都对。
  • 工具调用成功率检索、抓取、计算是否真的执行成功。这一步失败时,模型容易用记忆补空。
  • 事实一致性回答中的数字、名称、时间是否与引用页一致。品牌名、产品型号最容易被写错。
  • 时延与单次成本决定这套能力能不能高频调用。成本下降往往先带来监测样本量的提升。

「少说错」不等于「说得对」

抗幻觉优化的直接效果是减少编造,但它同时会带来一个新的风险:模型变得更愿意说「没有找到相关信息」。对品牌来说,这句话比说错更难处理——说错还能纠,沉默连纠正的对象都没有。

所以监测指标要跟着改。AI 搜索场景里,过去看「品牌是否被提到」,现在还要看「在哪些问题上被跳过」——AI 回答的沉默率本身就是一类新指标。后者往往指向同一类原因:该问题的答案需要可核实的公开页面,而品牌在这类页面上是空的。

拒答率与错误率是一对反向指标

这两个指标很少同时变好。模型越谨慎,拒答越多;越敢答,错误越多。品牌侧的应对不是要求模型更敢说,而是把「可核实的材料」补足,让模型在谨慎模式下也能给出有依据的回答。

具体补什么,取决于问题类型。比较型问题需要参数表与价格页,购买型问题需要库存与门店信息,信息型问题需要时间明确的公告。三类材料缺哪一类,对应类型的问题上就会持续被跳过。

指标含义怎么核
引用出现链接出现在回答里抓取回答中的链接清单
结论可追溯结论来自该链接逐句比对引用页原文
沉默率该问题未提及品牌同题多次采样统计
描述偏差回答与官方信息不符对照官网与公告

品牌要留下的证据,得能被回答系统验收

把「验收」这个词用在品牌内容上,标准其实很简单:一段话里出现的每个可核实事实,都能在公开页面上找到对应的位置、日期与出处。满足这条,回答系统才敢用;不满足,再多的曝光也换不来稳定引用。

另一层变化来自模型共存。豆包工作在 11 月 12 日接入 Kimi 3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash 等第三方模型,用额度消耗倍率区分各模型的成本 (澎湃新闻)。同一个产品背后挂着多家模型,同一问题的答案会因调用哪个模型而不同。

把「被引用」与「被采用」分开记账

这是最容易被混淆的一组概念。链接出现在回答里,只说明它被检索到;回答里的结论是否来自这条链接,是另一回事。监测表要把两者分成两列:引用出现次数、结论可追溯到该来源的次数。

模型迁移会进一步放大这个差异。GitHub 预告 12 月 14 日从 Copilot 多个入口退役 Claude Fable 5、Haiku 4.5、Gemini 3.8 Flash、Gemini 4 Argon、Grok 4.6 与 Kimi K3,并列出替代型号 (AI技术热点日报)。换代之后,历史引用数据必须标注模型版本,否则横向对比会得出错误结论。

接下来的两个月,值得盯一个指标:品牌在比较型问题上的「结论可追溯率」。它先动,才说明内容补得对;引用次数上涨而可追溯率不动,多半只是被检索到,没有被采用。

行动清单:按顺序执行,每步留下可复核记录。前一步的产出是后一步的输入,顺序不打乱。缺证据时宁可留空,也不要用估算填补。

  1. 由内容团队为每个核心事实标注出处页面、发布日期与更新责任人。
  2. 由监测岗在同题多次采样中记录回答原文、引用域名与被跳过的原因。
  3. 由分析岗分开统计引用出现次数与结论可追溯次数,按问题类型汇总。
  4. 由品牌团队补齐比较型问题所需的参数表与价格页,优先解决被跳过最多的那一类。
  5. 由负责人按季度复核一次,模型版本变化时在数据中标注,保证跨期可比。

追溯核验字段示例:下表为核验时至少留存的字段与示例值。示例值来自本篇的问题编号与采样结果。字段固定后跨批次沿用,保证跨期可比。

字段示例值用途
问题编号Q-CMP-12定位问题类型
回答日期2026-11-15口径基准
引用域名2 个媒体站 / 0 个品牌站信源结构
结论可追溯是 / 否分开记账
被跳过原因缺少公开参数页补内容方向

常见问题

  • 模型说抗幻觉能力提升了,对品牌意味着什么?

    回答里出现明显错误的概率下降,但「少说错」不等于「说得对你有利」。幻觉减少后模型更依赖有据可依的内容,缺少公开信源支撑的描述可能从「说错」变成「不提」。

  • 怎么判断一条 AI 回答是真引用了来源,还是只贴了链接?

    看三件事:回答里的具体数字能否在引用页找到、引用页发布时间是否早于回答、同一说法是否只出现在一个域名下。有一条不满足,就只能当线索。

  • 品牌要准备什么样的材料,才更容易被回答系统采用?

    可核实、可定位、可复述。有出处与日期、能给出具体页面而非首页、结论能用一句话说清。三者缺一,系统多半会绕开。

  • 抗幻觉升级会不会让优化变得更难?

    短期更难,靠堆关键词制造曝光的做法失效。长期更公平:内容有据可依的品牌更容易稳定出现在答案里。

数据来源