如何在不把功劳归于 llms.txt 的情况下衡量 AI 可见性

Google Search Console 和 Bing 现在会报告部分 AI 可见性。两者都不提供 llms.txt 归因,因此应分别衡量已报告的信号、经验证的获取请求和引荐流量。

最近更新:

衡量难题

AI 搜索的可见度报告正逐渐出现,但它们并不是以下内容的归因报告: llms.txt。Google Search Console 会报告 Google 生成式搜索和 Discover 功能中的部分可见性。Bing Webmaster Tools 会报告其支持的 AI 体验中的引用。两者都没有字段表明某次展示或引用是由此文件造成的。

因此,正确的问题不是“llms.txt 是否有效?”,而是哪个产品中的哪个可观察事件在什么时间段发生了变化,以及还存在哪些竞争性解释。文件获取、引荐、引用和答案质量是彼此独立的观察结果。

四种主要测量方法是:

  1. 第一方报告,前提是相关平台提供这些报告。
  2. 服务器日志,证明已验证客户端请求了你的文件的直接证据。
  3. AI 引荐流量,即在你的分析中可观察到来源的访问。
  4. 有记录的手动检查,可重复观察回答和引用的 URL。
  5. 品牌监测,方法可供审查的第三方衡量结果。

使用第一方 AI 可见性报告

Google 于 2026年6月 宣布在 Search Console 中推出专门的生成式 AI 效果报告。发布时,Google 表示这些报告正逐步向部分网站开放,可显示搜索中的展示次数、出现的网址、国家/地区、设备和时间范围。当您的资源中存在该报告时可以使用,但不要在报告缺失时推断任何结果。

Bing 的 AI Performance 信息中心会报告引用总数、平均被引用页面数、用于内容依据的查询词组、页面级引用活动和趋势。Bing 明确表示,这些引用指标并不代表排名、权威性、重要性,也不代表在单个答案中的位置。Bing 和 Google 均未表示这些指标会将功劳归因于 llms.txt.

检查服务器日志

服务器访问日志是请求以下资源的直接记录: /llms.txt。它可以显示 请求路径、时间、响应、来源页、IP 地址和声明的 user-agent。在需要识别爬虫时, 请先按照提供商记录的身份验证方法核实请求,然后再指明爬虫名称。

  • 已验证客户端是否获取了该文件。
  • 在测量期间,该已验证客户端再次访问的频率。
  • 你的数据中代表了哪些已声明的客户端类别。

应从有文档记录的 user-agent 角色开始,而不是把所有与 AI 相关的名称都视为等同:

  • OAI-SearchBot,OpenAI 为 ChatGPT Search 记录的机器人。
  • GPTBot,即 OpenAI 记录在案、用于抓取可能被用于训练基础模型内容的机器人。
  • ChatGPT-User,这是用户发起的 OpenAI 访问,并非自动网络抓取;根据 OpenAI 的说明, 它也不是 Search 资格信号。
  • 仅在查阅其他已声明智能体各自最新的提供商文档后,才将其纳入。

如果您运行 Nginx 或 Apache,可以用如下简单的日志 grep 命令:

# Nginx access log, filter for llms.txt requests from AI crawlers
grep "llms.txt" /var/log/nginx/access.log | grep -E "GPTBot|ClaudeBot|PerplexityBot|OAI-SearchBot"

不要因为匹配到 user-agent 就声称某个模型读取了该文件。经过验证的请求 只能确认发生了抓取,不能确认解析、保留、训练、排序、引用或对回答的影响。

监测 GA4 中的 AI 引荐流量

引荐来源可以表明访问者来自可识别的 AI 产品域名。它可能是有用的业务信号,但仅凭这一点无法确定具体答案、提示词、被引用 URL 或 llms.txt。引荐来源的处理方式也会因浏览器、应用和隐私设置而异。

在 Google Analytics 4 中,设置比较或探索,按引荐来源匹配以下域名来细分会话:

  • perplexity.ai
  • chat.openai.comopenai.com
  • claude.ai
  • copilot.microsoft.com
  • gemini.google.com

持续跟踪这一细分数据,并标注重大的内容、产品和测量变化。持续变化是值得调查的观察结果,不能归因于单个文件:新内容、需求、模型更新和引荐来源处理方式都可能影响该序列。

还应检查落地页。这可以告诉你哪些页面获得了可观察到的引荐流量,但无法确定 AI 产品为何选择这些页面,也无法确定它们被纳入 llms.txt 是否发挥了作用。

测试引用准确性

手动检查可以揭示某个特定产品在某个日期是否给出了有用回答。 使用代表真实客户需求的问题,保持措辞不变,并记录产品、日期、回答和引用的 URL。 除非您控制了其他变量,否则不要将结果描述为对照实验。

需要检查的具体事项:

  • 关于您产品的事实性声明是否准确?(定价层级是否正确、功能名称是否正确、 API 端点路径是否正确)
  • 在相关情况下,你的页面是否会被引用为来源?
  • 答案依据的是当前信息,还是反映了过时的信息?
  • 对于本应由你占据优势的问题,引用的是否是竞争对手的页面而不是你的页面?

仅在你能够访问产品和访问方式的地方重复相同检查。保留原始观察结果,包括无结果情况,并记录在有文档说明的网站变更前后。

这种定性检查有其局限,但可以回答一个实际问题:在你记录的条件下,该产品是否向用户提供了与你的业务有关的准确信息?

跟踪 AI 输出中的品牌提及

已有多种第三方工具用于追踪品牌在 AI 生成回答中的提及情况。截至 2026 年初,该领域包括一些处于早期阶段的产品,重点监测您的品牌在 AI 回答中出现的频率和准确性。 这些工具通常会在多个 AI 助手上运行一组查询,并汇总结果。

这些工具仍处于早期阶段,采用的方法各不相同。如果您正在考虑使用其中一个, 请评估它会运行哪些查询、测试哪些 AI 系统,以及如何定义一次“提及”。 该领域发展迅速,请在阅读本文时检查工具的当前可用性。

这些工具能提供手动检查无法提供的信息:长期的数量和趋势数据, 而无需您反复手动运行查询。

建立基线

在修改你的 llms.txt(或第一次发布)之前,请先为每项测量建立一个 基线:

  1. 服务器日志: 记录当前 AI 爬虫获取 /llms.txt (如果尚未发布则记为零)以及关键页面的抓取次数。
  2. AI 引荐流量: 记录 GA4 中来自 Perplexity、 ChatGPT、Claude 和类似引荐来源的当前每周会话量。
  3. 引用准确性: 对你品牌的 5–10 个常见问题进行手动检查。 记录回答质量以及引用了哪些页面(如果有的话)。

选择符合数据频率和数据量的比较周期。在报告中注明该周期,然后将其与基准比较,不要假定各外部产品会在何时刷新索引或回答。

不要把什么误认为影响

一些容易与 llms.txt 影响混淆的指标:

  • Google Search Console 指标。 Google 目前会为符合条件的资源报告部分生成式 AI 可见性,但 Google 表示 Search 会忽略 llms.txt。这些指标不会将可见性或排名变化归因于该文件。
  • 直接流量增加。 用户直接在浏览器中输入你的 URL,并非来自 AI 引用。此指标与之无关。
  • 仅看机器人流量。 一些网站会收到大量来自 AI 爬虫的机器人流量。 爬虫获取过您的页面,并不意味着您的内容出现在任何 AI 生成的回答中。 抓取量不等于引用量。
  • 短期波动。 AI 系统的行为会随着模型更新、检索 索引刷新以及 AI 公司产品变化而变化。你的 AI 引荐 流量在短期内的变化,可能与 llms.txt 毫无关系。

继续阅读

来源