بازدید ربات های گوگل از سایت و ایندکس کردن تغییرات جدید

میدانید که گوگل یکسری ربات به نام crawler دارد که وظیفه ایندکس کردن سایت ها را به عهده دارند. رتبه گرفتن سایت و صفحات و تغییراتی که در سایت داده اید به عمکرد این ربات ها وابسته است. باید توجه داشته باشید که حتی اگر از گوگل بخواهید صفحه ای را ایندکس نکند ولی آن صفحه بصورت گسترده ای در شبکه های مجازی به اشتراک گذارده شود و کاربران زیادی بصورت روزانه از کانال های بازریابی محتوا وارد آن صفحه شوند. گوگل به احتمال زیاد درخواست شما را نادیده گرفته و صفحه را ایندکس می کند.

نکته: ایندکس شدن یک صفحه به شدت به میزان بازاریابی محتوا و مخاطب آن صفحه وابسته است. 

گوگل پیشنهاد میدهد تنها درصورتی به سراغ ایندکس دستی بروید که مشکل خاصی در آن صفحه رخ داده باشد. مثلاً اگر شما در صفحه خود یک شماره تلفن را اشتباه نوشته باشید بعد از اصلاح میخواهید که گوگل بلافاصله صفحه را ایندکس کند و تغییرات جدید را ثبت کند. این موضوع در سایت هایی که به صورت AMP تولید شده اند بسیار حیاتی خواهد بود. دلیل آن هم روشن است سایت های AMP بر روی دو سرور ذخیره می شوند و ایندکس نشدن تغییرات به معنی ظاهر متفاوت سایت برای بازدیدکنندگان سایت از موبایل و Pc خواهد بود.

گوگل چگونه یک صفحه را ایندکس می کند

گفتیم که گوگل برای ایندکس کردن صفحات به تبلیغات آن صفحه وابسته است. اما اگر سایتی تازه ایجاد شده باشد. و شما بخواهید سایت توسط گوگل بسرعت ایندکس شود میتوانید در وبمستر گوگل ثبت نام کنید و سپس آدرس نقشه سایت خود را به گوگل بدهید. اصولاً اگر نقشه سایت با نام Sitemap.xml در ریشه سایت ذخیره شده باشد. گوگل با ثبت سایت در وبمستر براحتی میتواند نقشه سایت را بیابد. ولی اگر به هر دلیلی گوگل نتوانسته بود که نقشه سایت شما را بیابد میتوانید در پنل کاربری وبمستر به صورت دستی آدرس نقشه سایت را به گوگل اعلام کنید.

بعد از ایجاد و ساخت نقشه سایت در وبمستر گوگل وارد قسمت Crawl  و سپس Sitemaps شوید. سپس آدرس نقشه سایت را بصورت کامل همراه با آدرس سایت درج کنید، و دکمه Submit را بزنید.

سرعت ایندکس شدن صفحات سایت به چه عواملی وابسته است

اگر سایت شما به تازگی ایجاد شده باشد شما میتوانید با ثبت سایت در وبمستر گوگل و همچنین ثبت نام در گوگل آنالیتیکس به افزایش سرعت ایندکس شدن صفحات جدید سایت کمک خواهد کرد.

همانطور که در بالا گفته شد وجود نقشه سایت و اطمینان از شناخت شدن نقشه سایت در وبمستر گوگل نیز در افزایش سرعت ایندکس شدن صفحات موثر است. اختلالات گوگل در شناسایی تغییرات سایت اغلب به دلیل مشکلات موجود در نقشه سایت و یا نحوه تعامل گوگل با نقشه سایت است.

 نکته: تولید محتوای کاربر پسند و جذاب و تبلیغ آن در کانالهای مختلف بازاریابی محتوا از هر تکنیکی در افزایش سرعت ایندکس شدن صفحات توسط گوگل موثرتر است.

ایندکس دستی صفحات در شرایط اضطراری

گفتیم که گاهی لازم است یک صفحه خاص از سایت را بصورت دستی در گوگل ایندکس کنیم تا جدیدترین تغییرات در گوگل ثبت شود. در این بخش به نحوه انجام اینکار می پردازیم.

در وبمستر گوگل از ابزار Fetch as Google استفاده کنید:

همانطور که مشاهده میکنید این ابزار در زیر مجموعه ابزار های Crawl قرار دارد. شما میتوانید گزینه Fetch یا Fetch and render را استفاده کنید. اگر ایندکس صفحه سایت شما با مشکل روبرو است و نمی توانید دلیل این مشکل را دریابید Fetch and render به شما اطلاعات کاملی از قابلیت در دسترس بودن منابع صفحه برای گوگل را در اختیار شما می گذارد. اگر صفحه شما در جستجو با کامپیوتر در صفحه نتایج گوگل هست ولی در موبایل و سایر ابزارها نمی توانید صفحه خود را در گوگل بیابید، میتوانید Fetch and render را برای دستگاه مشخصی اعمال کنید. بنابراین میتوانید از این گزینه برای بررسی تمام منابع صفحه و ایندکس شدن این منابع در Pc و گوشی های هوشمند استفاده کنید. (منبع https://support.google.com/webmasters/answer/6066468?hl=en)

چه عواملی مانع ایندکس شدن صفحات سایت شما می شوند

اگر صفحات سایت به درستی ایندکس نمی شوند، نقشه سایت یکی از اولین عواملی است که باید بررسی شود نحوه افزودن نقشه سایت و نحوه بررسی آن در وبمستر را در بالا توضیح داده ایم. اما عوامل دیگری نیز وجود دارد که مانع ایندکس شدن صفحات سایت می شود. برخی صفحات سایت هستند که برای مخاطبان سایت بسیار جذاب هستند و باعث ماندگاری طولانی تر آنها در سایت می شوند، صفحاتی مانند صفحات جستجو و صفحات تگ ها (کلیک روی یک تگ مجموع ای از صفحاتی که آن تگ در آنها به کار رفته است را به نمایش می گذارد)، صفحات مرتبط با دسته بندی کالا ها که مجموع ای از کالاهای مرتبط به یک دسته بندی را به نمایش می گذارند. اما این صفحات برای کاربران گوگل چندان جذاب نیستند. آنها مایلند که دقیقاً به صفحه ای منتقل شوند که حاوی اطلاعات مد نظر آنها است و نه آنکه صفحه ای با چندین لینک به صفحات دیگر برایشان ظاهر شود. بنابراین مدیران سایت ها از ایندکس شدن چنین صفحاتی توسط گوگل جلوگیری می کنند. گاهی در این فرایند ممکن است که در اثر یک اشتباه صفحاتی ناخواسته را از ایندکس شدن حذف کنید. بنابراین یکی از عواملی که هنگام مشکل ایندکس باید بررسی شود حذف دستی سایت از ایندکس شدن توسط گوگل است. برای انجام اینکار دو مرحله پیش روی شماست:

1-  فایل Robots.txt

یک فایل متنی با فرمت txt  است که میتواند ایندکس شدن صفحات سایت را با اختلال جدی روبرو کند. برای بررسی فایل Robots.txt مراحل زیر را انجام دهید.

• در مرورگر خود آدرس https://www.google.com/webmasters/tools/robots-testing-tool را کپی کنید.
• اگر در وبمستر وارد نشده اید با اکانت خود وارد شوید.
• انتخاب نوع رباتی که میخواهید دسترسی آن را به منابع چک کنید مثلا Googlebot-Image به تصاویر سایت دسترسی دارد.
• درج آدرسی که ایندکس آن با مشکل روبرو است در ابزار تست
• بررسی syntax warnings و logic errors ها در ابزار تست
• انتخاب user-agent و کلیک روی دکمه Test برای بررسی محدویت های مربوطه
• بررسی منابعی که به صورت BLOCKED هستند و برطرف کردن مشکل آنها

نکته شما باید تغییراتی که در این ویرایشگر میدهید را به صورت دستی بر فایل robots.txt در سرور اعمال کنید.

در تصویر زیر نمونه ای از کدهای فایل robots.txt را مشاهده می کنید

همانطور که میبینید میتوان آدرس نقشه سایت را در این فایل نیز درج کرد.

کد

مشخص می کند که محدودیت ها به کدام قسمت اعمال می شود. مثلاً User-agent: Googlebot محدودیت ها را برای ربات های گوگل اعمال می کند و User-agent: Bingbot این محدویت ها را برای ربات های موتور جستجوی بینگ اعمال می کند.

کد

مشخص میکند که User-agent اجازه دسترسی به کدام قسمت ها را دارد.

کد

مشخص میکند که کدام آدرس ها قابل دسترس نیستند.

2- متا تگ Robots

همانطور که میدانید متاتگ ها بر روی نحوه مشاهده صفحات سایت توسط موتورهای جستجو موثر هستند. متا تگ Robots یکی از این متا تگ ها است که وظیفه آن تنظیم قابلیت ایندکس و فالو شدن صفحه توسط موتورهای جستجو است. اگر این تگ را در صفحات نگذارید بصورت پیشفرض گوگل صفحات را ایندکس و فالو فرض خواهد کرد.

نمونه ای از به کارگیری این تگ در صفحه :

مقالات مرتبط

• آموزش افزایش سرعت ایندکس مطالب جدید سایت
• وضعیت ایندکس صفحات در گوگل را با وبمستر تولز بررسی کنید
• آیا باید به سمت سایت های AMP حرکت کرد