llms.txt مقابل robots.txt وsitemap.xml وllms-full.txt
أربعة ملفات، وأربع وظائف. إليك بالضبط ما يفعله كل ملف وكيف تستخدمها معاً.
آخر تحديث:
الخلاصة
لا يمكن استبدال أحدها بالآخر.
robots.txt ينشر قواعد زحف يمكن للعملاء المتوافقين تطبيقها.
sitemap.xml يخبر محركات البحث بما هو موجود.
llms.txt يقدّم للعملاء المتوافقين خريطة موارد منتقاة.
llms-full.txt يسلّمها المحتوى الفعلي.
مصفوفة جنباً إلى جنب
| المعيار | robots.txt | sitemap.xml | llms.txt | llms-full.txt |
|---|---|---|---|---|
| الغرض الأساسي | تعليمات الزحف للزواحف المتوافقة | اكتشاف الصفحات لمحركات البحث | خريطة منسّقة لعملاء نماذج اللغة الكبيرة | مجموعة مضمّنة لاستيعاب نموذج اللغة الكبير |
| الجمهور | زواحف الويب (Googlebot وBingbot وGPTBot…) | محركات البحث | الوكلاء والعملاء المتوافقون لنماذج اللغة الكبيرة | عملاء نماذج اللغة الكبيرة الذين يحتاجون إلى المحتوى الكامل |
| التنسيق | نص عادي، نحو REP مخصص | XML | Markdown | Markdown (مدمج) |
| قياسي؟ | نعم، IETF RFC 9309 (2022) | نعم، sitemaps.org | اقتراح المجتمع، llmstxt.org | اقتراح المجتمع، llmstxt.org |
| مطلوب؟ | لا، لكن يُوصى به | لا، لكن يُوصى به للمواقع الكبيرة | لا | لا |
| هل يفرض الوصول أو الفهرسة؟ | لا (السماح والمنع تعليمات للزواحف) | لا (مجرد تلميح للاكتشاف) | لا | لا |
| النهج | الاستبعاد | الاكتشاف (كن شاملاً) | التنقيح (كن انتقائياً) | التضمين (توفير النص الكامل) |
| مسار الملف | /robots.txt | /sitemap.xml (أو أي عنوان URL مُعلن في robots.txt) | /llms.txt أو مسار محصور مثل /docs/llms.txt | /llms-full.txt |
llms.txt مقابل robots.txt
robots.txt هو ملف تعليمات الزاحف
موحّداً في IETF RFC 9309. فهي تستخدم قواعد بروتوكول استبعاد الروبوتات (User-agent,
Disallow, Allow, Sitemap) للتعبير عن المسارات التي ينبغي
للزواحف المتوافقة أو لا ينبغي لها جلبها. ولا يفرض الوصول وليس طبقة تفويض.
llms.txt هو النية المعاكسة: قائمة توصيات إيجابية. وهي لا تمنع
أحداً ولا تمنح وصولاً ولا تؤثر في جلب زاحف لأي شيء آخر على موقعك. إنها تقول فقط: إذا كنت عميل
نموذج لغة كبير، فهذه هي المجموعة عالية الجودة.
الأثر العملي: واصل استخدام robots.txt لتفضيلات الزحف واكتشاف خريطة الموقع. استخدم المصادقة
أو ضوابط الشبكة لفرض قيود فعلية على الوصول. أضف
llms.txt بوصفه مكملاً فقط عندما يكون له جمهور وغرض تتم صيانتهما.
llms.txt مقابل sitemap.xml
sitemap.xml يهدف إلى الشمول: فهو يسرد كل عنوان URL تريد أن يعرفه
محرك البحث، إلى جانب البيانات الوصفية (lastmod, priority, اللغات
البديلة). وهو XML مخصص للآلة، وغالباً ما يُنشأ تلقائياً.
llms.txt يهدف إلى التنقيح: قائمة Markdown صغيرة بالصفحات التي
ينبغي لنموذج اللغة الكبير قراءتها أولاً. وهي لا تستبدل خريطة موقعك. ونادراً ما تضم أكثر من بضع
عشرات من عناوين URL، بينما قد تسرد خريطة موقع في موقع كثيف المحتوى مئات الآلاف.
فكّر في sitemap.xml كدليل و llms.txt
كرفّ للقراءة الموصى بها منسّق بواسطة أمين مكتبة.
llms.txt مقابل llms-full.txt
العائلة نفسها، والدور مختلف:
llms.txtهو خريطة: قائمة روابط معنونة.-
llms-full.txtهو النطاق: المحتوى الفعلي لتلك الصفحات وغيرها، مضمّناً بصيغة Markdown في ملف واحد.
الـ llms-full.txt عمّمت Mintlify الاتفاقية بالتعاون مع Anthropic. ويمكنها منح مطوّر أو
أداة عنوان URL واحداً لمجموعة وثائق موحدة. ويجب موازنة هذه الراحة مع الحداثة والحجم والتعرض لحقن المطالبات.
انشر llms.txt عندما تحل خريطة منسّقة مهمة حقيقية. أضف llms-full.txt
فقط عندما يكون الاستيعاب النصي الجماعي مطلباً صريحاً.
llms.txt مقابل schema.org / JSON-LD
Schema.org مفردات لوصف معنى الصفحات الفردية في JSON-LD أو microdata. وتستخدم محركات البحث والبرامج الأخرى ذلك لاستخراج حقائق منظمة: سعر المنتج ومكونات الوصفة وأسئلة FAQ وإجاباتها.
llms.txt يعمل على مستوى أعلى بدرجة واحدة: إنه
خريطة على مستوى الموقع، وليس إثراءً لكل صفحة. ويكمّل أحدهما الآخر. وتخبر
Schema.org نموذج اللغة الكبير بماهية الصفحة هو;
llms.txt يخبره بالصفحات التي ينبغي النظر إليها أولاً.
كيفية دمجهما
-
انشر كلاهما
robots.txtوsitemap.xmlكما تفعل بالفعل لتحسين SEO. -
أضف ملفاً جذرياً أو محصوراً بالمسار
llms.txtلعميل متوافق محدد. -
أضف اختيارياً
llms-full.txtإذا كان موقعك غنياً بالتوثيق أو المعرفة. -
في
robots.txt، واترك/llms.txtو/llms-full.txtمتاحاً (لاDisallowلهم). - أبقِ schema.org صيغة في صفحات فردية حيث تكون مناسبة (Product وFAQ وArticle…).
Next
- كيف يعمل llms.txt، المواصفة بالتفصيل.
- أفضل الممارسات.
- الأسئلة الشائعة.