بازدید ربات های گوگل از سایت و ایندکس کردن تغییرات جدید

گوگل یک‌سری ربات به نام crawler دارد که وظیفه ایندکس‌کردن سایت‌ها را به عهده دارند. رتبه گرفتن سایت و صفحات و تغییراتی که در سایت داده‌اید به عملکرد این ربات‌ها وابسته است. باید توجه داشته باشید که حتی اگر از گوگل بخواهید صفحه‌ای را ایندکس نکند، ولی آن صفحه به‌صورت گسترده‌ در شبکه‌های مجازی به اشتراک گذاشته‌ شود و کاربران زیادی به‌صورت روزانه از کانال‌های بازاریابی محتوایی وارد آن صفحه شوند، گوگل به احتمال زیاد درخواست شما را نادیده گرفته و صفحه را ایندکس می‌کند.

نکته: ایندکس شدن یک صفحه به شدت به میزان بازاریابی محتوایی و مخاطب آن صفحه وابسته است. 

گوگل پیشنهاد می‌دهد تنها در صورتی به سراغ ایندکس دستی بروید که مشکل خاصی در آن صفحه رخ داده‌ باشد. مثلاً اگر شما در صفحه خود یک شماره تلفن را اشتباه نوشته باشید بعد از اصلاح می‌خواهید که گوگل بلافاصله صفحه را ایندکس کند و تغییرات جدید را ثبت کند. این موضوع در سایت‌هایی که به صورت AMP تولید شده‌اند بسیار حیاتی خواهد بود. دلیل آن هم روشن است سایت‌های AMP روی دو سرور ذخیره می‌شوند و ایندکس نشدن تغییرات به معنی ظاهر متفاوت سایت برای بازدیدکنندگان سایت از موبایل و Pc خواهد بود.

گوگل چگونه یک صفحه را ایندکس می کند؟

گفتیم که گوگل برای ایندکس کردن صفحات به تبلیغات آن صفحه وابسته است. اما اگر سایتی تازه ایجاد شده باشد و بخواهید سایت توسط گوگل به‌سرعت ایندکس شود می‌توانید در سرچ کنسول گوگل ثبت نام کنید و سپس آدرس نقشه سایت خود را به گوگل بدهید. اصولاً اگر نقشه سایت با نام Sitemap.xml در ریشه سایت ذخیره شده‌ باشد، گوگل با ثبت سایت در سرچ کنسول به‌راحتی می‌تواند نقشه سایت را پیدا کند. ولی اگر به هر دلیلی گوگل نتواند نقشه سایت شما را بیابد، می‌توانید در پنل کاربری سرچ کنسول به صورت دستی آدرس نقشه سایت را به گوگل اعلام کنید.

بعد از ایجاد و ساخت نقشه سایت در سرچ کنسول گوگل وارد قسمت Crawl و سپس Sitemaps شوید. سپس آدرس نقشه سایت را به‌صورت کامل همراه با آدرس سایت درج کنید و دکمه Submit را بزنید.

سرعت ایندکس شدن صفحات سایت به چه عواملی وابسته است؟

اگر سایت شما به تازگی ایجاد شده‌ باشد، می‌توانید با ثبت سایت در سرچ کنسول گوگل و همچنین ثبت نام در گوگل آنالیتیکس به افزایش سرعت ایندکس شدن صفحات جدید سایت خود کمک کنید.

همانطور که در بالا گفته شد وجود نقشه سایت و اطمینان از شناخته‌شدن نقشه سایت در سرچ کنسول گوگل نیز در افزایش سرعت ایندکس شدن صفحات موثر است. اختلالات گوگل در شناسایی تغییرات سایت اغلب به دلیل مشکلات موجود در نقشه سایت یا نحوه تعامل گوگل با نقشه است.

 نکته: تولید محتوای کاربر پسند و جذاب و تبلیغ آن در کانال‌های مختلف بازاریابی محتوایی از هر تکنیکی در افزایش سرعت ایندکس شدن صفحات توسط گوگل موثرتر است.

ایندکس دستی صفحات در شرایط اضطراری

گفتیم که گاهی لازم است یک صفحه خاص از سایت را به‌صورت دستی در گوگل ایندکس کنیم تا جدیدترین تغییرات در گوگل ثبت شود. در این بخش به نحوه انجام این کار می‌‌پردازیم.

در سرچ کنسول گوگل از ابزار Fetch as Google استفاده کنید:

همانطور که مشاهده می‌کنید این ابزار در زیر مجموعه ابزارهای Crawl قرار دارد. شما می‌توانید گزینه Fetch یا Fetch and render را استفاده کنید. اگر ایندکس صفحه سایت شما با مشکل روبه‌رو است و نمی‌توانید دلیل این مشکل را دریابید، Fetch and render به شما اطلاعات کاملی از قابلیت در دسترس بودن منابع صفحه برای گوگل می‌دهد. اگر صفحه شما در جستجو با کامپیوتر در صفحه نتایج گوگل هست ولی در موبایل و سایر ابزارها نمی‌توانید صفحه خود را در گوگل بیابید، می توانید Fetch and render را برای دستگاه مشخصی اعمال کنید. بنابراین می‌توانید از این گزینه برای بررسی تمام منابع صفحه و ایندکس‌شدن این منابع در Pc و گوشی‌های هوشمند استفاده‌ کنید. (منبع https://support.google.com/webmasters/answer/6066468?hl=en)

چه عواملی مانع ایندکس شدن صفحات سایت شما می شوند؟

اگر صفحات سایت به درستی ایندکس نمی‌شوند، نقشه سایت یکی از اولین عواملی است که باید بررسی شود. نحوه افزودن نقشه سایت و نحوه بررسی آن در سرچ کنسول را در بالا توضیح داده‌ایم. اما عوامل دیگری نیز وجود دارد که مانع ایندکس شدن صفحات سایت می‌شود. برخی صفحات سایت هستند که برای مخاطبان سایت بسیار جذاب هستند و باعث ماندگاری طولانی‌تر آنها در سایت می‌شوند، صفحاتی مانند صفحات جستجو و صفحات تگ‌ها (کلیک روی یک تگ مجموعه‌ای از صفحاتی که آن تگ در آنها به کار رفته را به نمایش می‌گذارد)، صفحات مرتبط با دسته‌بندی کالاها که مجموعه‌ای از کالاهای مرتبط به یک دسته‌بندی را به نمایش می‌گذارند.

اما این صفحات برای کاربران گوگل چندان جذاب نیستند. آنها مایلند که دقیقاً به صفحه‌ای منتقل شوند که حاوی اطلاعات مد نظر آنها است و نه آنکه صفحه‌ای با چندین لینک به صفحات دیگر برایشان ظاهر شود. بنابراین مدیران سایت‌ها از ایندکس شدن چنین صفحاتی توسط گوگل جلوگیری می‌کنند. گاهی در این فرایند ممکن است که در اثر یک اشتباه صفحاتی ناخواسته را از ایندکس شدن حذف کنید. بنابراین یکی از عواملی که هنگام مشکل ایندکس باید بررسی شود حذف دستی سایت از ایندکس شدن توسط گوگل است. برای انجام اینکار دو مرحله پیش روی شماست:

1-  فایل Robots.txt

یک فایل متنی با فرمت txt  است که می‌تواند ایندکس شدن صفحات سایت را با اختلال جدی روبرو کند. برای بررسی فایل Robots.txt مراحل زیر را انجام دهید.

• در مرورگر خود آدرس https://www.google.com/webmasters/tools/robots-testing-tool را کپی کنید.
• اگر در سرچ کنسول وارد نشده‌اید با اکانت خود وارد شوید.
• انتخاب نوع رباتی که می‌خواهید دسترسی آن را به منابع چک کنید مثلا Googlebot-Image به تصاویر سایت دسترسی دارد.
• درج آدرسی که ایندکس آن با مشکل روبه‌رو است در ابزار تست
• بررسی syntax warnings و logic errorsها در ابزار تست
• انتخاب user-agent و کلیک روی دکمه Test برای بررسی محدویت‌های مربوطه
• بررسی منابعی که به صورت BLOCKED هستند و برطرف کردن مشکل آنها

نکته شما باید تغییراتی که در این ویرایشگر می‌دهید را به صورت دستی بر فایل robots.txt در سرور اعمال کنید.

در تصویر زیر نمونه‌ای از کدهای فایل robots.txt را مشاهده می‌کنید

همان‌طور که می‌بینید می‌توان آدرس نقشه سایت را در این فایل نیز درج کرد.

کد

User-agent: *

مشخص می‌کند که محدودیت‌ها به کدام قسمت اعمال می‌شود. مثلاً User-agent: Googlebot محدودیت‌ها را برای ربات‌های گوگل اعمال می‌کند و User-agent: Bingbot این محدویت‌ها را برای ربات‌های موتور جستجوی بینگ اعمال می‌کند.

کد

Allow: /*

مشخص می‌کند که User-agent اجازه دسترسی به کدام قسمت ها را دارد.

کد

Disallow: /example-subfolder/

مشخص می‌کند که کدام آدرس‌ها قابل دسترس نیستند.

2- متا تگ Robots

همانطور که می‌دانید متاتگ ها روی نحوه مشاهده صفحات سایت توسط موتورهای جستجو موثر هستند. متا تگ Robots یکی از این متا تگ ها است که وظیفه آن تنظیم قابلیت ایندکس و فالو شدن صفحه توسط موتورهای جستجو است. اگر این تگ را در صفحات نگذارید به‌صورت پیشفرض گوگل صفحات را ایندکس و فالو فرض خواهد کرد.

نمونه ای از به کارگیری این تگ در صفحه :