در این فایل با چند دستور ساده مشخص می‌کنیم که ربات اجازه بررسی کدام صفحه‌ها را دارد و کدام صفحه‌ها را نباید بررسی کند. فایل Robots.txt در وبسایت‌ها نقش همین راهنماها و نگهبانان را دارد اما نه برای کاربرانی که وارد سایت می‌شوند، بلکه برای ربات‌هایی که برای بررسی سایت یا هر کار دیگری می‌خواهند در بخش‌های مختلف سایت سرک بکشند. این مسئله در اوایل کار وب سایتتان و زمانی که محتوای کمی دارید، چندان مهم نیست و به چشم نمی آید. اما زمانی که کارتان پیشرفت می کند و محتوای سایت زیادتری می شود؛ زمانی می رسد که ترجیح می دهید کنترل بیشتری روی نحوه crawl و ایندکس سایتتان داشته باشید.
- در هنگام طراحی سایت ممکن است از فایل robots.txt استفاده کنید.
- بلکه این فایل به صورت مجازی و خودکار توسط وردپرس ایجاد می‌شود.
- فایل robots.txt به مدیریت فعالیت‌های این خزنده‌های وب کمک می‌کند تا بر سرور وب میزبان وب‌سایت، یا فهرست‌بندی صفحاتی که برای نمایش عمومی نیستند، هزینه بار اضافه نکنند.
روش دیگر ساخت این فایل به این صورت است که روی FILE+ کلیک کرده و در پنجره باز شده نام فایل را در فیلد New File Nameوارد نمایید. سپس برای ساخته شدن فایل robots.txt روی دکمه Create New File کلیک کنید. یکی از ساده ترین فایل هایی که در سایت ها قرار داده می شود فایل Robots.txt است که اهمیت ویژه ای برای سئو سایت دارد.
فایل robots.txt چیست و چگونه عمل می کند؟
مثلا در مثال بالا ربات‌های خزنده از دسترسی به تمام فایل‌های پی دی اف و اکسل منع شده‌اند. مثلا در مثال بالا ربات‌های خزنده از دسترسی به تمام آدرس‌هایی که به autos. برای صدور دسترسی کامل به کل سایت برای ربات‌های خزنده دستور Disallow به شکل زیر خواهد بود. تغییرات اعمال شده توسط شما در فایل Robots.txt امکان آسیب جدی به سئو سایت شما دارد.
ویرایش فایل ربات سایت توسط افزونه سئو یواست (Yoast SEO)
به کمک دستورات فایل ربات، به راحتی می‌توانیم از ایندکس شدن و نمایش اینگونه فایل‌ها در نتایج موتورهای جستجو جلوگیری کنیم. اکثر خزنده‌های موتورهای جستجو بزرگ مانند گوگل، بینگ و یاهو به محدودیت‌های تعریف شده در فایل ربات سایت احترام می‌گذارند. این که ربات‌های خزنده هر چند وقت یک بار به سایت شما سر می‌زنند به چند فاکتور بستگی دارد.
دستور دیس الو (Disallow)
خیلی ممنونم ازپیگیری هایی که انجام دادید،مشخصه تیم حرفه ای وکارکشته ای پشت روداریدوخیلی پیگیر هستید،واقعاازخریدم راضیم.. بنده وظیفه خودرامیدانم به خاطرعملکردعالی ربات شماتشکروقدردانی کنم شمالطف داریدبه ما،ممنون ازانرژی مثبت تون… من از بسته ادمخاطب ازاکسل به تلگرام استفاده میکنم، بسیارکاربردیه،البته نمیدونم مشکل ازچیه ولی بعضی وقتاهنگام فیلتر … نرم افزارتلگرامو روی سیستم تست کردم واقعاقوی وراحت بود.خواستم تشکر کنم وهم بگم اگرممکنه راهنمایی کنیدروی سیستم رجیسترکنم.. خیلی کم پیش اومده که از سایت های ایرانی خرید کنم و راضی باشم.شما جز اون کسایی بودید که واقعا از کار باهاتون لذت بردم.