Параллельный обход страниц поисковым роботом по протоколу HTTP/2

Корпорация Google перешла на использование новейшего протокола HTTP/2 для своего поискового робота Googlebot. До этого использовался протокол HTTP/1, теперь же большая часть работы по автоматическому сканированию сайтов с целью индексации будет проходить через сверхбыстрый HTTP/2.

Напомним, что HTTP – это протокол передачи данных, используемый в том числе в виде веб-страниц, именно он влияет на скорость загрузки сайта, формируя запросы на получение данных. Это очень важно для сео-продвижения сайтов и вывода в топ. Сейчас остро стоит проблема большой нагрузки на каналы связи и серверы, в связи с возросшим размером сайтов и общим их количеством в сети интернет. Все это принуждает разработчиков искать новые пути улучшения давно известных протоколов. Одним из решений и стал HTTP/2.

Преимущества HTTP/2 для обхода

В случае с Googlebot усовершенствованный HTTP/2 позволит поисковому роботу значительно ускорить сканирование за счет своих особенностей:

  • Многопоточная загрузка отдельных страниц. Алгоритм не создает множество отдельных соединений для сайта, что приводит к значительному повышению производительности поисковой системы, а загружает их отдельным потоком параллельно. Это значительно снижает нагрузку на серверы с сайтами.
  • Сжатие HTTP заголовков. Пересмотренная структура и размер заголовков также служит цели ускорить обмен данными и экономить ресурсы серверов.

Как отказаться от нового протокола

В целях совместимости Google оставил возможность пользователям управлять выбором протокола для сканирования своего сайта. Для отказа от работы с HTTP/2 нужно указать серверу, чтобы он отвечал кодом 421 на попытку HTTP/2 запроса.