Sitemap, robots.txt и canonical: в чём различия?

Три разные задачи

Sitemap представляет адреса, robots.txt задаёт некоторые правила обхода, canonical указывает предпочтительный URL для похожих вариантов. Общий ярлык SEO-файла скрывает различия. В исследовании сначала определяется решаемая проблема.

Нежелательный обход адреса отличается от нежелательного появления в поиске. Несколько параметрических вариантов одного товара — третья ситуация. Механизм выбирается исходя из того, какой адрес должен видеть пользователь и поисковая система. Иначе технически правильная запись может отвечать не тому намерению, которое было у владельца сайта.

Sitemap: карта содержания

В карте полезны подходящие опубликованные основные адреса. Черновики, панель и старые перенаправления способны смешивать представление. Формат объясняет руководство Google по sitemap. Передача карты не гарантирует индексации всех записей.

Lastmod должен соответствовать существенному фактическому изменению материала. Сегодняшняя дата на каждом запросе не означает ежедневное обновление содержания. Обновление карты после публикации, изменения и удаления планируется совместно с административными действиями, чтобы адресная карта отражала действующее состояние, а не отдельный ручной список.

Robots.txt: обход не равен индексу

Правило robots.txt используется для ограничения обхода подходящим роботом. Файл не является защитой личных сведений: закрытой странице требуется контроль доступа. Границы объясняются в документации Google.

Если обход заблокирован, робот может не увидеть noindex внутри страницы. Поэтому решение об ограничении обхода отличается от намерения убрать результат из индекса. Скрытие одного сигнала в процессе исправления другого способно дать поведение, отличное от ожидаемого. Такие условия стоит проверять вместе на конкретном URL.

Canonical: сигнал основного URL

Для похожих адресов canonical является сигналом основной версии. Это не перенаправление самого посетителя. Различие описано в документе Google о canonical. Другие URL во внутренних ссылках и карте могут создавать противоречие.

Для настоящих переводов учитывается собственный адрес содержания каждого языка. Canonical всех русских страниц на азербайджанскую главную не является простым решением многоязычности. Материал о двуязычном сайте развивает связи языков и сохранение контекста того же материала для посетителя.

Таблица проверки

Выберите главную, категорию, товар или проект, статью и поиск. Для каждого запишите HTTP, индексное правило, canonical, карту и внутреннюю ссылку. Таблица помогает увидеть согласованность сигналов одной страницы, а не только наличие отдельных тегов.

Контекст документационного проекта Elang PHP показывает организацию множества адресов. Пример не заявляет измеренное состояние его индекса. Для любого многостраничного сайта полезнее брать образец каждого типа, чем ограничиться главной: у разных шаблонов возможны разные правила и источники данных.

Приёмка изменения

В техническом SEO после изменения правила проверяется фактический ответ. Входит ли новая статья в карту, открывается ли черновик публично, ведёт ли старый URL к соответствующей замене? Испытание должно давать ответы на такие вопросы.

За индексом можно наблюдать через Search Console. Но его состояние с задержкой нельзя приравнивать к текущему серверному ответу. Источник, дата и пример делают расследование яснее. Без записанного изменения дальнейшее сравнение легче превращается в предположение о причинах, не подтверждённое хронологией работ.

Практический пример и приёмка

Для примера возьмите новую статью. Она публикуется в панели, открывается публично, указывает собственный основной адрес и находится из списка блога. Та же цель попадает в карту. Последовательность показывает согласование нескольких сигналов одного материала.

Затем запись становится черновиком. Проверяется новое поведение публичного адреса и карты, тогда как изменение в панели остаётся доступно администратору. Если прежний текст случайно открывается из кеша, одно обновление sitemap проблему не обязательно решит. Пример объясняет совместное рассмотрение правил индекса, публикации и кеша. Таблица приёмки сохраняет ожидаемое поведение по шагам. В ней важно записать не только адрес, но и состояние записи: одинаковый URL при черновике и публикации должен оцениваться с разными ожиданиями, иначе проверка потеряет смысл рабочего процесса.

Проверка перед началом

  • Карта содержит подходящие опубликованные адреса.
  • Lastmod связан с фактическим изменением.
  • Robots не заменяет приватность и контроль доступа.
  • Согласованы canonical, ссылки и карта.
  • Отдельно проверены языки и параметры.

Частые вопросы

Карта обязательно индексирует страницу?

Нет. Это представление адреса; оцениваются также доступность и содержание.

Canonical равен 301?

Нет. 301 перенаправляет посетителя, canonical сигнализирует основную версию.

Продолжите изучение темы

Оценивайте правила вместе с примерами аудита и ролями торговых страниц.