САЙТЫ ПОД КЛЮЧ
ГЛАВНАЯ
НАШИ ПРОЕКТЫ
МАГАЗИН СКРИПТОВ
НАШИ ВИДЖЕТЫ
ОНЛАЙН-СЕРВИСЫ
СПРАВОЧНИКИ
SEO-ИНСТРУМЕНТЫ
РАЗВЛЕЧЕНИЯ
Массовая проверка доменов на занятость
Массовая проверка скорости сайта
Проверка перенаправлений сайта
Просмотр заголовков сайта
Доступность сайта Ping-Tracerout
Конвертер кирилл. домена (Punycode)
Массовая проверка PR,ТиЦ
Проверка Google PageRank по датацентрам
Оценка стоимости ссылки с сайта
Анализ контента сайта
WHOIS владельца домена сайта
WHOIS IP сайта
Анализ сайта
Генератор ключевых слов с сайта
Генератор ключевых слов из текста
Зашифровка HTML в код JavaScript
Процентное сравнение текста
Генератор статических URL
Извлечение E-Mail адресов
Извлечение ссылок сайта
Проверка обратной ссылки
Генератор иконки FavIcon
Нанесение текста на изображение
Информер IP адреса
Информер PR и ТиЦ
Скорость соединения с интернет
Информация о Вашем IP, браузере
Анализ внешних и внутренних ссылок
Сайт глазами поискового робота
Получение IP сайта
Получение сервера сайта
Генератор META тэгов
Генератор уникальных ссылок
Генератор заголовков (title)
Генератор файлов robots.txt
Анализ текста (длина, стоп-слова и т.д.)
Кодирование и декодирование URL
Шифрование строк
Генератор паролей
Удаление дубликатов строк
[Де-] экранирование спец. символов
Транслит переводчик текста
Упаковка кода JavaScript
Упаковка кода CSS
Массовая проверка посещаемости по LI
Генератор опечаток слепой печати
CSS Sprites - объединение изображений
Информеры апдейтов поисковых машин
Base64 кодирование текста
Генератор файлов robots.txt
Популярные
Инструменты
Генератор файлов robots.txt
Данный инструмент поможет Вам сгенерировать файл
robots.txt
для Вашего сайта.
Адрес сайта (без http://, только домен)
User-agent:
Строка User-agent определяет робота поисковой машины. (значение * - дает определение всех роботов)
Любой поисковик
Yandex
Google
MSN
Rambler
AltaVista
Disallow:
Определяет каталог\страницу, закрытую от индексации поисковым роботом. (при указании каталога - запрещается для индексации все содержимое каталога - пример Disallow: /images - запрещает для индексации полностью каталог /images). В каждой группе строки User-agent должна быть хоть одна конструкция Disallow. Директиву Allow: понимает только Яндекс - пример: Allow: /data. Все пути к каталогам или файлам пишутся от корня сайта.
Индексировать всё
Запретить всё
/cgi-bin
/css
/js
/images
/img
Вставить свой каталог
Записать свой каталог
Host:
Директива Host: указывает на зеркало вашего сайта. Адрес сайта должен быть указан без протокола - пример: www.site.ru - верно, http://www.site.ru - не верно.
SiteMap:
Директива Sitemap: указывает на расположение файла карты вашего сайта. Директива указывает на отдельный XML или gz файл или на индексный SiteMap файл. Файл SiteMap может быть в форматах как в .XML, так и в .GZ (архивная копия файла SiteMap).
Вставить комментарий
|
Вставить пустую строку
Результат, содержимое файла robots.txt
[
выделить
]
Наши реквизиты
WMID:
309688839848
WMR:
R325885159214
BL:
17.10-10:27
12.10-11:27
Разработка и дизайн
MRS
© 2014-2024