一行robots声明 引用来源和训练数据要分开算
2026-11-01博晓通

一行robots声明 引用来源和训练数据要分开算

一行robots声明 引用来源和训练数据要分开算 文章配图

截至11月1日的公开信息,OpenAI在10月30日宣布将遵循IETF AI Preferences工作组起草的robots.txt通用信号,网站主只需写一行策略令牌,就能同时向多家参与该标准的AI公司表达内容是否可用于训练;同日发布的草案由Anthropic工程师Kevin Kelley起草,谷歌方面也表示计划支持。这件事表面上是内容授权问题,实质是把抓取和训练拆成了两个可以分别表态的开关。对做AI搜索可见度的团队来说,两个开关意味着可见度从此分成两层:检索层能不能被找到,参数层有没有被记住。

抓取与训练第一次被拆成两个开关

已知事实未证实需要核实
OpenAI表示将遵循aipref草案的robots.txt通用信号,属自愿行动,未来几个月落地信号已具备强制约束力违反信号是否产生后果
草案保留robots.txt原有语法,旧解析器把策略令牌组当作不认识的user-agent忽略所有主流爬虫已支持该语法各爬虫的解析实现差异
ProxyPicker于10月8日扫描6735个robots.txt,仅13个使用Content-Usage头采用率会快速上升下一季度的采用率变化

过去网站主想阻止内容被拿去训练,只能逐个认爬虫:给GPTBot写一条,给ClaudeBot写一条,再给Google-Extended写一条,名单越拉越长,漏掉一个新玩家就等于留了一道门。新机制把这件事压成一行:在User-Agent行写入策略令牌,就能把偏好绑定到具体路径,比如只允许某个资料目录用于训练、其余全站不允许。它不引入新指令名、不改语法、不改路径匹配优先级,旧解析器读不懂就直接忽略,向后兼容成了这套设计能活下来的前提。

真正改变游戏规则的是语义上的拆分。网站主可以允许某个AI公司抓取页面,让内容出现在AI回答里,同时声明这些内容不能用于模型训练。抓取和训练从一条笼统的规则变成两个独立开关,这意味着品牌可以精确选择自己在哪一层出现:检索层保留曝光,参数层主动退出。这个选择在以前根本不存在,要么全开,要么全关。

分开之后可见度出现两层

检索层看得见

检索层指的是AI在回答时实时抓取或检索到你的内容,把品牌名、链接、观点放进这次回答里。这一层的可见度取决于内容结构、页面可读性、是否被索引,以及回答生成时是否选中了你。它变化快,也最容易被监测:同一条问题今天问和明天问,得到的引用来源可能不同,但都可以逐条记录、逐条比对。

参数层记不住

参数层指的是模型在训练阶段把内容吸收进权重,此后即使不检索也能复述出品牌与品类常识。这一层没有引用链接,也没有明确的来源归属,只能通过大量不带上下文的提问去反推。如果品牌选择不允许训练,参数层就会逐渐失去你的痕迹,而检索层不受影响——这是两个开关分开之后最需要被理解的一句话。

两层之间会互相影响

两层并非完全独立。参数层认识的品牌,在检索层更容易被正确识别与归类;检索层反复出现的表述,又会通过后续训练慢慢沉淀进参数层。选择只保留检索层,短期看曝光没掉,长期会出现一个现象:AI能检索到你的页面,却叫不准你的品类位置,回答里把你和别的品牌混为一谈。这种偏差很难靠单次监测发现,只能靠定期的不带上下文提问去校验。

两层可见度的证据强度对照

层级典型证据可核验程度失效表现
检索层回答中的链接 引用来源 提及顺序高 可逐条留痕页面可抓取但未被选中
参数层无上下文的品牌与品类复述低 需大样本反推复述出错 品类错位
混合层带引用的回答中出现品牌常识中 需区分来源引用与复述互相矛盾
负向证据同类问题中稳定缺席中 需竞品对照份额缓慢下滑无显性原因

四行证据里,检索层最硬,因为它可以被第三方复现;参数层最软,因为它依赖样本量与提问设计;混合层最容易误判,一次带引用的回答里既可能有检索结果,也可能有模型自己的记忆,不区分来源就会把两者算成一件事;负向证据最容易被忽略,却往往是参数层开始失守的第一个信号。证据验证的价值不在于把四层合成一个分数,而在于遇到异常时能指出是哪一层出了问题。

证据验证要留哪些痕迹

第一是原始回答留痕。每条采集都要保存提问原文、回答全文、引用链接、采集时间与入口,缺一项就无法复核。第二是来源判定规则,明确什么样的表述算检索层证据、什么样算参数层证据,规则要写在前面而不是事后解释。第三是缺席记录,不只记被提到的情况,也要记同一批问题里稳定缺席的情况,否则永远看不到负向信号。

第四是时间戳对齐。robots.txt这类声明一旦生效,参数层的变化要经过一个训练周期才会显现,检索层则可能立刻变化。两层的时间尺度不同,把它们的曲线画在同一张图上会得出错误结论。比较稳妥的做法是给两层分别设定观察窗口,检索层按周看,参数层按月看,并在报告里标明窗口长度。可见度的可信度,往往取决于有没有把时间尺度说清楚。

  1. 监测负责人确认目标站点对训练偏好信号的表态,记录声明生效时间与覆盖路径。
  2. 采集负责人保存每条样本的提问原文、回答全文、引用链接、采集时间与入口。
  3. 分析负责人按检索层与参数层分别归类证据,并单独统计稳定缺席情况。
  4. 报告负责人为两层设定不同的观察窗口,在结论里标明窗口长度与样本量。
字段示例值
站点域名brand-example.com
训练偏好不允许
声明生效日2026-11-05
检索层样本量1280
参数层样本量420
复述准确率78.5 percent

常见问题

  • 抓取和训练拆成两个开关,对GEO意味着什么?

    意味着可见度要分两层看。允许抓取但不允许训练,检索层能保留曝光,参数层会逐渐失去痕迹。只盯一个总数,会把两种完全不同的处境混成同一个数字,也就无法解释为什么曝光没降但AI叫不准品牌。

  • 引用来源还在,为什么说参数层可能已经失守?

    因为两层走的是不同路径。引用来源证明内容被实时检索到,参数层证明内容被吸收进模型。前者可以逐条核验,后者只能靠不带上下文的大样本提问反推。两者同时存在才叫真正被看见。

  • 这套robots.txt信号现在能依赖吗?

    只能作为表态,不能作为约束。它是自愿行动,没有法律强制力、没有审计、没有违约后果,标准本身也尚未定稿。扫描显示主流站点中使用相关语法的是个位数,采用仍处于极早期。

  • 证据验证最容易漏掉哪一类?

    负向证据。大多数监测只记录被提到的情况,不记录同一批问题里的稳定缺席。缺席恰恰是参数层开始失守的早期信号,而且只有做竞品对照才看得出来。

数据来源