Robots.txt - редактор стандартных файлов управления пауками поисковиков. Программа для контроля над тем, как поисковые агенты-пауки просматривают Ваш веб-сайт и добавляют информацию о нем в базы данных поисковых систем. В этой программе есть все необходимое Вам для того, чтобы управлять и контролировать визиты пауков поисковых систем, индексирующих ваш веб-сайт. В отличие от других продуктов, данная программа содержит редактор стандартизированных файлов для контроля пауков Robots.txt.
С помощью программы Robots.txt вы можете:
Визуально генерировать стандартные файлы robots.txt;
Идентифицировать нежелательных роботов и запрещать им доступ к Вашему сайту;
Направлять поисковых роботов к соответственным страницам многоязычных сайтов;
Использовать файлы Robots.txt для управления doorway-страницами;
Не допускать роботов в системные области Вашего сайта;
Загружать правильно отформатированный файл robots.txt прямо на ваш FTP-сервер прямо из редактора Robots.txt;
Отслеживать посещения роботов;
Создавать отчеты о посещениях роботов в форматах HTML, Microsoft Excel CSV и XML.