Компания Google не понаслышке знает о серверах и сетевом трафике. У компании десятки если не сотни тысяч серверов, постоянно испытывающих большую нагрузку. Специалисты Google в постоянном поиске решений по оптимизации трафика и снижению задержек, и они уверены, что существующие сетевые технологии не могут справиться с вызовами времени.

На конференции Hot Interconnects 2017 ведущий разработчик Google, Нандита Дуккипати (Nandita Dukkipati), призвала сообщество "очистить заторы" на пути сетевого трафика в центрах по обработке данных. В компании найдены решения, которые могут воплотиться в аппаратных ускорителях и значительно снизить задержки и расходы на обработку сетевых потоков (пакетов). Примечательно, что компания Google не единственная, кто в этом кровно заинтересован. В кулуарах конференции инженер компании Mellanox признался, что похожие предложения по рекомендациям Microsoft они реализовали в сетевых Ethernet-картах ConnectX 3 Pro.

Но вернёмся к предложениям Google. Сегодня большинство центров по обработке данных управляют трафиком с помощью создания очередей. В Google предлагают другой подход. Для предотвращения коллизий предложена технология синхронизируемой или управляемой по времени изоляции пакетов. Преимущества нового подхода будут значительными, если его реализовать в сетевых картах, коммутаторах и гипервизорах. Очереди чрезмерно загружают центральные процессоры и память, что может вести к задержкам до секунд, а это недопустимо.

Предложение Google состоит из двух технологий, которые постепенно будут сливаться в одну: Carousel и Timely. Технология (программа, алгоритм) Carousel — это свежее решение, которое управляет трафиком на единичном сервере. Технология Timely не нова и подробно описана Google в 2015 году. Она позволяет значительно снизить задержки при обмене трафика в ЦОД. При проверке на тысячах серверов сервиса YouTube использование Carousel показало рост трафика на 8,2 % по сравнению с обычными технологиями управления очередями. Это означает, что из каждых 72 процессорных ядер в серверах освобождается от работы 5,9 ядер. Хороший результат!

Что касается технологии Timely, то, как в компании уже не раз утверждали, она при отслеживании нагрузок на сеть показывает на порядок лучший результат, чем широко используемый алгоритм DCTCP. Следует ожидать, что реализация предложений Google в "железе" будет даже лучше, чем в виде программных надстроек.