llms.txt 有效吗?

基于数据的坦诚回答:llms.txt 擅长什么、不具备什么作用,以及如何辨别两者。

最近更新:

简短回答

这完全取决于你所说的“有效”是什么意思。

如果您希望 llms.txt 提高 Google 排名: 不,它不起作用 实现该目标。 Google 已公开表示不会将 llms.txt 用作排名信号。

如果你希望 ChatGPT、Claude 或 Perplexity 自动引用你的内容: 该结果尚未得到证实。没有任何主流供应商记录了在推理时自动使用该文件的行为。

可测试的价值范围更窄:你可以发布精选索引,在自己的日志中观察请求,并配置一个使用该索引的检索工作流。每项结果都必须分别衡量。

“有效”取决于你的目标

在查看证据之前,先明确问题会有所帮助。人们询问“llms.txt 有效吗?”时,心中往往对应四种不同目标:

  1. 目标 A,LLM 引用: 当有人向 AI 助手询问我的产品时,它会给出准确、最新的答案并引用我的页面吗?
  2. 目标 B,AI 爬虫覆盖率: GPTBot、ClaudeBot、PerplexityBot 会抓取我的 llms.txt 并用它来优先决定抓取内容吗?
  3. 目标 C,Google SEO: 发布 llms.txt 会提升我在 Google 上的排名吗?
  4. 目标 D,受控检索: 我配置的客户端或 RAG 管道会把 llms.txt 当作其阅读清单吗?

每个目标都有不同答案。我们下面按顺序说明。

它有助于获得 LLM 引用吗?(目标 A)

首先坦诚说明一个限制:目前没有适用于 LLM 引用、类似 Google Search Console 的工具。你无法打开一个信息中心,看到“Perplexity 本周抓取了你的 llms.txt,并引用了你 47 次”。衡量确实是个难题。

llms.txt 可以向兼容客户端提供一份精选阅读清单。如果您控制该客户端,就可以验证它是否加载文件、访问选定链接并使用检索到的内容。这无法预测无关聊天机器人的行为。

引用测试还需要对照组和重复提示词。发布后得到更好的回答仍然只是一项观察, 除非检索追踪记录表明该文件或其链接页面确实被使用。

目标 A 最薄弱的部分在于主要的推理时大型语言模型(LLM)提供商(OpenAI、Anthropic、 Google)。目前尚无任何一家公开确认,当用户提出问题时,ChatGPT、Claude 或 Gemini 会在 推理时调取 /llms.txt。 该文件对检索增强型 处理流程的助益,很可能大于对基于训练权重进行响应的基础模型的助益。

目标 A 的结论: ;对于面向消费者的助手仍未获确认。只有在您能够控制输入和跟踪记录的检索工作流中才可衡量。

AI 爬虫真的会获取它吗?(目标 B)

爬虫可能会请求该文件,但仅发布文件并不能保证会收到任何请求。提供商文档区分了爬虫用途和 robots.txt 控制,但并未确认会对 llms.txt 进行特殊处理。

检查服务器或 CDN 日志以获取确切的 /llms.txt 请求、时间戳、状态和用户代理。 用户代理字符串只能证明发生过请求,不能证明身份、解析、索引、优先处理或在答案中的使用情况。

当归属判断很重要时,请使用经过验证的反向 DNS 或供应商推荐的验证方法。在日志覆盖不完整时,应将“未观察到请求”与零使用区分开来。

目标 B 的结论: 可通过完整日志按站点衡量。除非提供商有相关说明,否则结构化使用或优先使用仍未得到确认。

它有助于 Google SEO 吗?(目标 C)

不能。这是四个问题中答案最明确的一个。

Google 目前的指南指出,Search 不会使用 llms.txt 或其他特殊的 AI 文本或 Markdown 文件,包括用于生成式 AI 功能的情况。发布它不会在 Google Search 中带来任何特殊待遇。

这与 Google 对 robots.txt(访问控制,而非排名)和 sitemap.xml(抓取发现,而非排名)的处理方式一致。这两个文件本身都不会提升你在搜索结果中的位置;它们影响 Google 是否以及如何访问你的内容。从 Google 的角度看,llms.txt 与这些文件并不属于同一类别,因为它根本不在 Google 的处理流水线中。

目标 C 的结论: 对 Google 排名没有影响。这一点已经确认,并非推测。

谁发布了 llms.txt?(目标 D 背景)

发布情况可以衡量,但不得将其与实际使用混为一谈。在 llmtxt.info 的固定网站样本中, 122 的 217 个可访问主机在以下日期提供了有效的根目录文件: 2026-09-07,速率为 56.2%.

此固定样本衡量一组明确主机上的 HTTP 可用性和文件有效性。它不衡量流量、提供商支持、引用提升或排名影响。请参阅 采用情况追踪器 ,了解网站样本和方法。

对于目标 D,运行一次受控摄取测试:记录获取的文件、跟随的页面、检索到的段落以及答案。将其与不使用 llms.txt 的同一工作流进行比较。

目标 D 的结论: 可测试,并可能在已配置的工作流中发挥作用,但仅凭发布数量无法证明其实用性。

如何衡量它是否有效

目前没有任何单一控制面板能回答这个问题,但您可以进行交叉验证:

  • 服务器日志。 筛选对以下资源的请求: /llms.txt/llms-full.txt。查找以下用户代理: GPTBot, ClaudeBot, PerplexityBot, OAI-SearchBot, Applebot-Extended。这些命中的频率和新近程度 能表明 AI 爬虫是否表现出活跃兴趣。
  • 引荐流量。 注意来自 chat.openai.com, claude.ai, perplexity.ai等类似域名。发布 llms.txt 后出现增长并不能证明因果关系,但值得跟踪。
  • 检索轨迹。 在你可控的工作流中,保存抓取到的 URL 和段落。 这是 llms.txt 影响答案的最强证据。
  • 人工抽查。 向 Claude、ChatGPT 和 Perplexity 提出一个应由你的网站权威回答的问题。记录答案是否准确、是否引用你的页面,以及在发布或改进 llms.txt 后质量是否有所提升。
  • 开发者反馈。 如果您的网站面向开发者,可直接询问他们:“当您向 AI 工具询问[您的产品]时,得到的答案准确吗?”这种定性信号通常最具可操作性。

结论

llms.txt 可以可靠地充当可发布、机器可读的索引。除此之外的一切都取决于接收客户端,并需要单独的证据。它最适合接受测试的场景包括:

  • 开发者文档网站
  • 面向技术采购者的 API 和 SaaS 产品
  • 用户经常向 AI 助手询问该产品的任何网站

它并不 不会作为 Google SEO 杠杆发挥作用。如果你的目标是这个,你找错了 地方,请关注结构化数据、Core Web Vitals 和编辑型外链。

发布还会增加维护工作,并带来指引过时或相互矛盾的风险。合理的决定是:仅当你能保持文件最新,并能指出准备测试的兼容工作流或衡量方式时,才发布该文件。

后续步骤

  • 如何创建 llms.txt 文件,包含适用于每种常见技术栈的模板和部署指南。
  • 生成器,填写表单即可在 几分钟内下载符合规范的文件。
  • 验证器,按照规范检查现有文件。
  • 最佳实践,了解什么让 llms.txt 真正有用,而非沦为噪声。

来源