В Search Console от Google появился новый отчет по файлу robots.txt
Отчет включает в себя все основные сведения о процессе индексации страниц. В обновленном отчете представлены следующие данные из файла robots.txt:
1. Топ-20 лучших файлов robots.txt согласно оценке Google;
2. Последняя дата индексации Google;
3. Все выявленные предупреждения и ошибки.
Доступ к новому отчету можно получить в разделе настроек Search Console. С учетом появления этого обновленного отчета Google принял решение прекратить использование тестера файла robots.txt.

Более подробную информацию о новом инструменте можно найти в справочном материале.