{{htmlmetatags>
metatag-description=(كل شيء تحتاج لمعرفته حول ملف robots.txt، كيفية إنشائه وكيفية استخدام للسماح أو منع روبوتات الزخف من زيارة صفحات موقعك الإلكتروني)
}}
{{ :ويكي-إدارة_المواقع.png?direct |}}
====== حول ملف robots.txt ======
ما هو ملف robots.txt؟ وكيف يتم إنشائه؟ وأين يتم وضعه؟ وما الغاية من استخدامه؟
===== ما هو ملف robots.txt؟ =====
هو عبارة عن ملف نصي يحتوي على تعليمات لروبوتات الزحف الخاصة بمحركات البحث. الهدف من هذه التعليمات إرشاد روبوتات الزحف على كيفية زيارة صفحات الموقع الإلكتروني.
===== كيف يتم إنشاء ملف robots.txt؟ =====
بكل بساطة قم بإنشاء أي ملف نصي. قم بتسمية هذا الملف robots.txt
\\
\\
ومن ثم قم بوضع تعليمات التي توضح لروبوتات الزحف كيفية زيارة موقعك في داخل هذا الملف.
===== ما هي التعليمات التي يجب وضعها في ملف robots.txt؟ =====
[[https://www.greengeeks.com/track/nawras/cp-stickyad4lwn|{{ :green-geeks-hosting.jpg }}]]
1- تحديد روبوتات الزحف التي تريد وضع قواعد زيارة صفحات الموقع لها.
User-agent: Googlebot
\\
من خلال كتابة التعليمة السابقة: قمتُ بالبدء بتحديد قواعد زيارة روبوت الزحف الخاص بالغوغل (Googlebot)
\\
\\
أما في التعليمة التالية: قمتُ بالبدء بتحديد قواعد زيارة كل روبوتات الزحف على الإطلاق بوضع إشارة * بدلاً من اسم روبوت زحف محدد.
User-agent: *
\\
\\
2. السماح لروبوتات الزحف المحددة في الخطوة السابقة على زيارة كل أو بعض صفحات الموقع الإلكتروني.
User-agent: *
Allow: /
\\
من خلال كتابة التعليمات السابقة: قمتُ بالسماح لكل روبوتات الزحف بزيارة كل صفحات موقعي (/).
\\
\\
إشارة / تعني زيارة كل صفحات الموقع الإلكتروني.
\\
\\
3. منع روبوتات الزحف المحددة في الخطوة الأولى من زيارة كل أو بعض صفحات الموقع الإلكتروني.
\\
في التعليمات التالية: قمتُ بتحديد قواعد الزيارة لكل روبوتات الزحف، كما إنني منعتها جميعاً من زيارة كل صفحات موقعي (/). بالتأكيد ليس من الجيد فعل ذلك، لأنّ ذلك سيمنع روبوتات الزحف من زيارة صفحات الموقع ومن ثم عدم أرشفتها من قبل محركات البحث، وبالتالي لن يزور موقعك أحد.
User-agent: *
Disallow: /
===== أمثلة على ملف robots.txt =====
1- ملف robots.txt في أي موقع: في التعليمات التالية تم السماح لكل روبوتات الزحف بزيارة كل صفحات الموقع دون أي استثناء.
\\
\\
User-agent: *
Allow: /
\\
أيضاً يُمكن أن يتم التعليمات السابقة بالطريقة التالية عند وضع لا شيء بجانب تعليمة عدم السماح (Disallow):
\\
User-agent: *
Disallow:
\\
\\
2. مثال لملف robots.txt في موقع ووردبريس:
\\
\\
في التعليمات التالية: تم منع جميع روبوتات الزحف من زيارة كل ما بداخل مجلد ومسار wp-admin باستثناء ملف admin-ajax.php
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
===== أين أضع ملف robots.txt؟ =====
يتم وضع ملف robots.txt في نفس المجلد الذي توجد فيه ملفات الموقع الإلكتروني. غالباً ما يكون مجلد public_html أو www أو html.