llms.txtリンクの健全性:294件のURLをテスト
構文上有効なマップでも、エージェントを停止したリソースに導くことがあります。このベンチマークは、コンテンツ品質と混同せずに到達性を測定します。
最終更新:
有効な Markdown リストだけでは不十分です。リンク先のページがタイムアウトしたり、予期せずリダイレクトしたり、エラーを返したりすれば、ファイルはサイトへの信頼できる経路ではなくなります。今回の基準測定では、サンプル URL 294 件のうち 286 件に到達し、観測された成功率は 97.3% でした。
重要なポイント
- サンプル URL 294 件のうち 286 件が、12 2026年8月 に到達可能でした。
- 到達可能であることは、関連性、新しさ、エージェントによる利用と同じではありません。
- 外部の失敗は、リリースを妨げる前に再試行します。
サンプル対象リンクの健全性は?
V2 の調査クロールでは、H1 を先頭に持つ採用ルールを満たした 113 件のルートレスポンスから、リストリンクを各 3 件まで選びました。294 URL をリクエストし、286 件から成功レスポンスを受け取りました。8 件はテスト条件内で到達できませんでした。
これはサンプルであり、列挙されたリンクすべての完全な監査ではありません。検証済みファイルの中央値にはリストリンクが 76 件あるため、1 ファイルにつき 3 件を確認する方法は、大きな 1 つのマップを内部まで網羅するより、ホスト間の広がりを重視します。
到達性テストが測定するもの
スクリプトはリダイレクトに従い、7 秒のタイムアウトを適用し、最後のレスポンスが成功したかを記録します。ログインやブラウザーセッションの実行、テキスト品質の判定は行わず、リンクの説明と遷移先が一致するとも断定しません。
成功に見えても、ソフト 404 や汎用的なアプリケーションシェルが隠れていることがあります。失敗は一時的なもの、レート制限、地域制限、bot 保護が原因のことがあります。だからこそ、結果は日付と方法を添えた観測として公開されています。
検証済みディレクトリは固定サンプルに、バリデーターはファイル単位の構文確認に使います。どちらも、価値の高い遷移先に対する人のレビューの代わりにはなりません。
CI向けの安全なリンク確認方針
自分で両端を管理している内部リンクは、ビルドのたびに確認します。外部リンクは定期ジョブで確認し、失敗を再試行し、継続する 404 または 410 だけを削除の強い証拠として扱います。数百の第三者ホストに本番デプロイのたびに依存しないでください。
元の URL、最終 URL、ステータス、タイムスタンプを記録します。リダイレクトチェーンはエラーとは別に記録します。正規ページが移動したら、リダイレクトにいつまでも頼らずファイルを更新します。
大きなファイルでは、実行のたびにサンプルを抽出して入れ替えるか、完全クロールの頻度を下げます。ベストプラクティスガイドでは、少数の厳選リストのほうが維持コストを抑えられることを説明しています。
HTTP の結果が示す限界
HTTP 200 はサーバーが応答したことを意味するだけです。ページが最新で、完全で、安全で、エージェントに有用だという意味ではありません。逆に、1 回のタイムアウトだけでリンク切れとは証明できません。自動的に項目を削除する前に、繰り返した実行を比較できるだけの期間、未加工の結果を保持します。
このベンチマークは Google のランキングについても何も述べていません。リンクを適切に保つと、ファイルを読むクライアントにとっての信頼性は高まりますが、検索は独自のクロールおよびランキングシステムを使います。
llms.txt の仕組みを確認し、対象範囲をV2 移行ガイドに合わせます。
外部リンクが 1 つ壊れただけで本番を失敗にすべきですか?
通常は必要ありません。スケジュールした確認で再試行し、継続する 404 または 410 など、自分で管理するポリシーに該当する場合だけ失敗にします。
llms.txt ではリダイレクトは無効ですか?
いいえ。ただし、正規の遷移先を直接指定すると遅延と曖昧さが減ります。保守中に安定したリダイレクトを更新します。
リンクはどのくらいの頻度で確認すべきですか?
コンテンツの変更頻度に合わせます。活発なディレクトリには毎週の確認が適しています。安定したドキュメントなら、完全スキャンの頻度を下げてもよいでしょう。