Сканирование и индексирование обновлённого файла robots.txt можно ускорить. Об этом рассказал специалист службы качества поиска Google Джон Мюллер (John Mueller) на форуме Google Webmaster Help.
«Вы можете ускорить обработку Google последней версии robots.txt (обычно, мы делаем это раз в день в зависимости от конкретного сайта). Для этого нужно использовать Инструмент проверки файла robots.txt в Search Console. Здесь вы увидите текущую, уже проиндексированную версию, и сможете отправить в Google изменённы...
-
Google: как ускорить индексирование новой версии файла robots.txt
searchengines.ru