截至11月1日的公开信息,OpenAI在10月30日宣布将遵循IETF AI Preferences工作组起草的robots.txt通用信号,网站主只需写一行策略令牌,就能同时向多家参与该标准的AI公司表达内容是否可用于训练;同日发布的草案由Anthropic工程师Kevin Kelley起草,谷歌方面也表示计划支持。这件事表面上是内容授权问题,实质是把抓取和训练拆成了两个可以分别表态的开关。对做AI搜索可见度的团队来说,两个开关意味着可见度从此分成两层:检索层能不能被找到,参数层有没有被记住。
抓取与训练第一次被拆成两个开关
过去网站主想阻止内容被拿去训练,只能逐个认爬虫:给GPTBot写一条,给ClaudeBot写一条,再给Google-Extended写一条,名单越拉越长,漏掉一个新玩家就等于留了一道门。新机制把这件事压成一行:在User-Agent行写入策略令牌,就能把偏好绑定到具体路径,比如只允许某个资料目录用于训练、其余全站不允许。它不引入新指令名、不改语法、不改路径匹配优先级,旧解析器读不懂就直接忽略,向后兼容成了这套设计能活下来的前提。
真正改变游戏规则的是语义上的拆分。网站主可以允许某个AI公司抓取页面,让内容出现在AI回答里,同时声明这些内容不能用于模型训练。抓取和训练从一条笼统的规则变成两个独立开关,这意味着品牌可以精确选择自己在哪一层出现:检索层保留曝光,参数层主动退出。这个选择在以前根本不存在,要么全开,要么全关。
分开之后可见度出现两层
检索层看得见
检索层指的是AI在回答时实时抓取或检索到你的内容,把品牌名、链接、观点放进这次回答里。这一层的可见度取决于内容结构、页面可读性、是否被索引,以及回答生成时是否选中了你。它变化快,也最容易被监测:同一条问题今天问和明天问,得到的引用来源可能不同,但都可以逐条记录、逐条比对。
参数层记不住
参数层指的是模型在训练阶段把内容吸收进权重,此后即使不检索也能复述出品牌与品类常识。这一层没有引用链接,也没有明确的来源归属,只能通过大量不带上下文的提问去反推。如果品牌选择不允许训练,参数层就会逐渐失去你的痕迹,而检索层不受影响——这是两个开关分开之后最需要被理解的一句话。
两层之间会互相影响
两层并非完全独立。参数层认识的品牌,在检索层更容易被正确识别与归类;检索层反复出现的表述,又会通过后续训练慢慢沉淀进参数层。选择只保留检索层,短期看曝光没掉,长期会出现一个现象:AI能检索到你的页面,却叫不准你的品类位置,回答里把你和别的品牌混为一谈。这种偏差很难靠单次监测发现,只能靠定期的不带上下文提问去校验。
两层可见度的证据强度对照
| 层级 | 典型证据 | 可核验程度 | 失效表现 |
|---|---|---|---|
| 检索层 | 回答中的链接 引用来源 提及顺序 | 高 可逐条留痕 | 页面可抓取但未被选中 |
| 参数层 | 无上下文的品牌与品类复述 | 低 需大样本反推 | 复述出错 品类错位 |
| 混合层 | 带引用的回答中出现品牌常识 | 中 需区分来源 | 引用与复述互相矛盾 |
| 负向证据 | 同类问题中稳定缺席 | 中 需竞品对照 | 份额缓慢下滑无显性原因 |
四行证据里,检索层最硬,因为它可以被第三方复现;参数层最软,因为它依赖样本量与提问设计;混合层最容易误判,一次带引用的回答里既可能有检索结果,也可能有模型自己的记忆,不区分来源就会把两者算成一件事;负向证据最容易被忽略,却往往是参数层开始失守的第一个信号。证据验证的价值不在于把四层合成一个分数,而在于遇到异常时能指出是哪一层出了问题。
证据验证要留哪些痕迹
第一是原始回答留痕。每条采集都要保存提问原文、回答全文、引用链接、采集时间与入口,缺一项就无法复核。第二是来源判定规则,明确什么样的表述算检索层证据、什么样算参数层证据,规则要写在前面而不是事后解释。第三是缺席记录,不只记被提到的情况,也要记同一批问题里稳定缺席的情况,否则永远看不到负向信号。
第四是时间戳对齐。robots.txt这类声明一旦生效,参数层的变化要经过一个训练周期才会显现,检索层则可能立刻变化。两层的时间尺度不同,把它们的曲线画在同一张图上会得出错误结论。比较稳妥的做法是给两层分别设定观察窗口,检索层按周看,参数层按月看,并在报告里标明窗口长度。可见度的可信度,往往取决于有没有把时间尺度说清楚。
常见问题
抓取和训练拆成两个开关,对GEO意味着什么?
意味着可见度要分两层看。允许抓取但不允许训练,检索层能保留曝光,参数层会逐渐失去痕迹。只盯一个总数,会把两种完全不同的处境混成同一个数字,也就无法解释为什么曝光没降但AI叫不准品牌。
引用来源还在,为什么说参数层可能已经失守?
因为两层走的是不同路径。引用来源证明内容被实时检索到,参数层证明内容被吸收进模型。前者可以逐条核验,后者只能靠不带上下文的大样本提问反推。两者同时存在才叫真正被看见。
这套robots.txt信号现在能依赖吗?
只能作为表态,不能作为约束。它是自愿行动,没有法律强制力、没有审计、没有违约后果,标准本身也尚未定稿。扫描显示主流站点中使用相关语法的是个位数,采用仍处于极早期。
证据验证最容易漏掉哪一类?
负向证据。大多数监测只记录被提到的情况,不记录同一批问题里的稳定缺席。缺席恰恰是参数层开始失守的早期信号,而且只有做竞品对照才看得出来。










