همه چی درباره متاتگ robots

سرفصل‌های پست

• 1 اهمیت متاتگ robots در سئو
• 2 انواع دستورات متاتگ robots
  • 2.1 دستور noindex
  • 2.2 دستور index
  • 2.3 دستور nofollow
  • 2.4 دستور follow
  • 2.5 دستور none
  • 2.6 دستور noimageindex
  • 2.7 دستور notranslate
  • 2.8 دستور noarchive
  • 2.9 دستور nocache
  • 2.10 دستور nosnippet
  • 2.11 دستور noodp
  • 2.12 دستور noydir
  • 2.13 کدام دستورات توسط موتورهای جستجو پشتیبانی می‌شود؟
• 3 چند مثال از متاتگ robots
  • 3.1 مثال یک – index, follow
  • 3.2 مثال دو – noindex, follow
  • 3.3 مثال سه – index, nofollow
  • 3.4 مثال چهار – noindex, nofollow
• 4 چند نکته مهم درباره  متاتگ ربات (Meta tag robots)
• 5 تنظیمات متاتگ در وردپرس به کمک افزونه یوآست سئو

اهمیت متاتگ robots در سئو

ما در این مقاله بسیار مفید قصد داریم درباره متا تگ robots که به شکل متا تگ روبوت هم خوانده می‌شود توضیحات مهم و کاربری به شما ارائه بدیم، حتما مقاله زیر را با دقت بخوانید.

هرروز در دنیای سئو روش‌های مختلفی برای بهینه سازی و افزایش رتبه سایت در موتورهای جستجو مخصوصاً گوگل استفاده می‌شود ولی یکی از روش‌های قدیمی که تأثیر خوبی بر دید موتورهای جستجو دارند، استفاده بهینه از متاتگ‌ها در صفحات طراحی سایت است. یکی از مهم‌ترین متاتگ ها در سئو سایت، متاتگ robots می‌باشد. با استفاده از متاتگ robots شما می‌توانید یک سری از دستورات مهم را به موتورهای جستجو بفهمانید و گاهی برای ارجاع  این دستورات باید برای هر موتور جستجو یک متاتگ اختصاصی درج کنید. متاتگ robots جزو سئو داخلی سایت محسوب می‌شود چرا که تغییرات و اعمال آن بر روی صفحات سایت به شکل کامل در دست مدیر و یا مهندس سئو آن طراحی سایت (طراحی سایت شرکتی، طراحی سایت فروشگاهی،قیمت طراحی سایت) می‌باشد.

با متاتگ robots شما می‌توانید به ربات‌های موتورهای جستجو اطلاع بدید که این صفحه یا سایت را ایندکس نکن یا لینک‌های این صفحه یا سایت را دنبال نکن، البته دستورات بیشتری می‌توان از طریق این متاتگ مورداستفاده قرارداد که در ادامه مقاله به جزئیات آن‌ها می‌پردازیم.

مثال از یک متاتگ robots

در این نوع متاتگ اصولاً دو نوع اتریبیوت مهم داریم. اتریبیوت اول که name نام دارد که اکثر مواقع مقدار  robots را می‌گیرد مگر برای یک ربات خاص که در ادامه بیشتر توضیح می‌دهیم. اتریبیوت Content هم مقادیر مختلفی برای دادن دستور به ربات‌های موتورهای جستجو می‌گیرد که این مقادیر (دستورات) به شرح زیر است.

انواع دستورات متاتگ robots

دستور noindex

با دستور noindex به ربات‌های موتورهای جستجو این ابلاغ را می‌کنیم که این صفحه خزش یا ایندکس نشود. توجه داشته باشید که اگر آگاهی کامل از ایندکس نشدن صفحات خوددارید از دستور noindex استفاده کنید مثلاً اگر محتوای تکراری دارید و موارد دیگر. در غیر این صورت استفاده نشود بهتر است.

دستور index

دستور index به معنی اجازه دسترسی برای ایندکس کردن رادارند. برعکس دستور noindex عمل می‌کند.

دستور nofollow

دستور nofollow شبیه اتریبیوت rel=”nofollow” در تگ‌ها a هستند که به این نوع لینک‌ها، لینک‌های نوفالو می‌گویند. حال دستور nofollow در متاتگ یک صفحه به آن معناست که هیچ‌یک از لینک‌ها را ربات‌های موتورهای جستجو دنبال نکنند ولی لینک نوفالو صرفاً برای یک لینک به‌کار برده می‌شود.

دستور follow

به موتورهای جستجو اعلام می‌کند که لینک‌های موجود در صفحه را دنبال کند برعکس دستور nofollow است.

دستور none

این دستور معادل دستورات noindex و nofollow است به این معنی که سایت را ایندکس و لینک‌هایش را دنبال نکن. شما می‌توانید برای چنین کاری یا از دو دستور noindex, nofollow استفاده کنید یا از دستور none. هرچند به شکل کلی توصیه نمی‌شود ولی با آگاهی کامل از این دستورات استفاده کنید.

دستور noimageindex

اسپایدرهای موتورهای جستجو (همان ربات‌ها) با این دستور اجازه دسترسی به عکس‌های صفحات را نخواهند داشت. البته اگر عکسی در جای دیگر لینک شده باشد موتور جستجو می‌تواند آن را ایندکس کند.

• Notranslate – prevents the page being translated in the Google SERPs

دستور notranslate

مخصوص ربات گوگل است و اجازه نمی‌دهد تا ربات گوگل در SERP ترجمه‌ای انجام دهد.

دستور noarchive

دستور noarchive برای این است که موتورهای جستجو نسخه‌ای از صفحات شمارا در کش خود قرار ندهند

دستور nocache

همان کار دستور noarchive را می‌کند ولی دستور nocache فقط برای موتور جستجوی MSN/Live اعمال می‌شود.

دستور nosnippet

اگر قصد دارید توضیحات نوشته یا همان تگ Description را در نتایج جستجو نمایش ندهید می‌توانید از دستور nosnippet برای آن صفحه استفاده کنید.

دستور noodp

کار این دستور عدم نمایش توضیحات سایت ما که در سایت‌های دایرکتوری مثل dmoz وجود دارند را در نتایج جستجو است. به این معنی که سایت dmoz از هر سایتی یک سری اطلاعات جمع‌آوری می‌کند و ممکن است موتورهای جستجو در نتایج از آن اطلاعات در زیر لینک‌های سایت ما استفاده کنند. هرچند دیگر سایت dmoz فعالیتی انجام نمی‌دهد. به سایت‌های دایرکتوری اصولا ODP گفته می‌شود.

دستور noydir

همانند دستور noodp است ولی به دایرکتوری سایت یاهو اشاره می‌کند. این دستور می‌گوید که هیچ موتورجستجویی از توضیحات سایت من که در دایرکتوری یاهو است در نتایج استفاده نکند. هر چند دایرکتوری یاهو خیلی وقت است دیگر فعالیت نمی‌کند و منسوخ شده است.

کدام دستورات توسط موتورهای جستجو پشتیبانی می‌شود؟

دستوراتی که توسط ربات‌های موتورهای جستجوی زیر پشتیبانی می‌شود را با عبارت “بله” به همراه منبع مشخص کرده‌ایم.

دستور	Ask	گوگل	مایکروسافت	یاهو
NOINDEX	بله	بله	بله	بله
NOFOLLOW	بله	بله	بله	بله
NOARCHIVE	بله	بله	بله	بله
NOODP	نه	بله	بله	بله
NOYDIR	نه	نه	نه	بله
NOSNIPPET	نه	بله	نه	نه
نام ربات	TEOMA	GOOGLEBOT	MSNBOT	SLURP

[gap]

چند مثال از متاتگ robots

برای درک بهتر ۴ سناریوی مختلف که ممکن است بیشتر از بقیه دستورات به کار رود را پیاده‌سازی کرده‌ایم و در ادامه می‌توانید با مشاهده این مثال‌ها و درک آنها، به شکل صحیح از دستورات در صفحات خود استفاده نمایید.

مثال یک – index, follow

اگر تمام صفحات دستور index و follow را داشته باشد. عکس کاملا گویا می‌باشد.

مثال دو – noindex, follow

اگر تمام صفحات دستور noindex و follow را داشته باشد. ربات‌ مثلا صفحه B را ایندکس نمی‌کند ولی آن صفحه را می‌خزد و به دنبال لینک‌های آن می‌رود.

مثال سه – index, nofollow

اگر تمام صفحات دستور index و nofollow را داشته باشد. در اینجا صفحه B ایندکس می‌شود و در نتایج موتور جستجو نمایان می‌شود ولی لینک‌های صفحه B دنبال نمی‌شوند ولی همان‌طور که مشاهده می‌کنید صفحه E ایندکس شده است چرا که ممکن است از طریق سایت دیگر یا از طریق صفحه‌ای از سایت شما ربات به آن دسترسی داشته باشد.

مثال چهار – noindex, nofollow

اگر تمام صفحات دستور noindex و nofollow را داشته باشد. عکس کاملا گویا می‌باشد.

چند نکته مهم درباره  متاتگ ربات (Meta tag robots)

1. اگر از دستور noindex استفاده نکنید به شکل پیش‌فرض برای موتورهای جستجو index است و یا اگر از دستور nofollow استفاده نکنید به شکل پیش‌فرض follow است. این موضوع برای تمام دستورات صدق می‌کند و اگر استفاده نشوند ربات‌ها دسترسی به همه موارد رادارند.
2. حروف بزرگ و کوچک در دستورات اهمیتی ندارد و به این معنی که هر سه دستور زیر یک معنا را برای ربات‌ها دارند. و این موضوع را گوگل اعلام کرده که برای Googlebot متاتگ‌های زیر فرقی ندارد.
3. ربات‌های خزنده و یا بعضی ربات‌های موتورهای جستجو ممکن است متاتگ درج‌شده در صفحات را نادیده بگیرند. مخصوصاً ربات‌های اسپم یا مالور (malware robots) که برای آسیب‌پذیری، سایت‌ها را بدون توجه به متاتگ‌ها اسکن می‌کنند. و به دنبال ایمیل کاربران یا موارد دیگر هستند.
4. فرض کنید لینک A در صفحه A وجود دارد و دستور nofollow در صفحه A درج‌شده است و در این صورت لینک A توسط ربات‌های استاندارد و موتورهای جستجو دنبال نمی‌شوند حال اگر صفحه B بدون دستور nofollow بود و دارای لینک A هم باشد آن موقع ربات‌ها به لینک A دسترسی دارند و می‌توانند آن را دنبال کنند. گاهی ممکن است به شکل ناخواسته لینک‌هایی از طریق صفحات دیگر توسط ربات‌ها دنبال شوند.
5. شما می‌توانید از این دستورات برای یک موتور جستجوی خاص استفاده نمایید. یعنی اگر قصد دارید فقط دستوراتی را برای موتور جستجوی گوگل اعمال کنید کافی است به‌جای عبارت robots در متاتگ عبارت googlebot را درج نمایید. یک متاتگ گوگل ساخته شد. نام بقیه ربات‌های موتورهای جستجو در جدول زیر آورده شده است.

   GOOGLEBOT	Google
   SLURP	Yahoo!
   MSNBOT	MSN / Live
   TEOMA	Ask

   به عنوان مثال:

6. اگر شما قصد دارید از چند دستور برای یک صفحه استفاده کنید لازم نیست برای هرکدام از دستورات یک متاتگ robots درج کنید. کافی است دستورات را با یک کاما از هم جدا کنید. همانند مثال زیر:
7. حتما شما هم در سایت خود چندین صفحه فرود نیز دارید. متاتگ robots این صفحات را حتما چک کرده و در صورتی که تمایل دارید صفحات فرود در نتایج جستجو دیده شوند به خزندگان اجازه خزیدن و ایندکس شدن را بدهید.

تنظیمات متاتگ در وردپرس به کمک افزونه یوآست سئو

شما به کمک افزونه Yoast سئو در وردپرس می‌توانید برای کل سایت و یا هر صفحه تنظیمات متاتگ robots را تغییر دهید. اگر در هنگام درج پست به قسمت پایین مربوط به افزونه یوآست توجه کرده باشید در قسمت تنظیمات می‌توانید تغییرات لازم را اعمال کنید.

تنظیمات بالا صرفا فقط برای یک صفحه از سایت اعمال می‌شود برای تغییر تنظیمات کلی متاتگ robots توسط این افزونه به قسمت عنوان‌ها & متاها رفته و در سربرگ‌های گونه‌های فرسته، طبقه‌بندی، بایگانی‌ها و دیگر می‌توانید تنظیمات روبات متا را index یا noindex کنید.

جهت اطلاع:

• در آینده آموزش کامل افزونه یوآست سئو را خواهیم داد.
• حتما مقاله تفاوت متاتگ robots با فایل robots.txt را بخوانید تا به خوبی بتوانید از متدهای مختلف برای تنظیم کردن ربات‌ها و نحوه برخورد آنها در مقابله با صفحات سایت شما، استفاده نمایید.
• اطلاعات درباره متاتگ robots در سایت گوگل در این لینک موجود است.
• اگر به دنبال آموزش سئو به‌روز و جامع هستید لینک مذکور را از دست ندید.