Перегрузка линии связи ЦОД Uplink saturation

ID причины dc-uplink · Основной ответственный Команда инфраструктуры · Сетевая инфраструктура · Совместно Команда инфраструктуры · Серверная инфраструктура

Открыть карточку в основной версии с иллюстрациями и экспериментами →

Если раздача патчей, отправка логов и бэкапы идут по той же линии, что и игра, линия забивается.

Почему Крупные передачи данных занимают ту же линию → Следствие Растут очередь на линии и потери → На экране Рост пинга и телепортация на всём сервере

Симптомы: Задержка ввода, Телепортация
Факторы: Задержка, Потери
У кого: Весь сервер
Когда: С постоянным периодом, При наплыве игроков
Ответственные: Основной ответственный Команда инфраструктуры · Сетевая инфраструктура · Совместно Команда инфраструктуры · Серверная инфраструктура
Команда инфраструктуры: задачи: Сеть: приоритет игровому трафику (QoS), отдельная линия для крупных передач, алерт на загрузку линии. Серверы и ОС: ограничить скорость бэкапов, отправки логов и деплоя и запускать их в часы низкой нагрузки.
На графике: Упор в лимит (плато) · загрузка линии, RTT (пинг)
Где смотреть: Наложить на одну временную шкалу загрузку интерфейса внешней линии ЦОД (аплинка), рассчитанную по SNMP ifHCInOctets и ifHCOutOctets, выходные отбрасывания (ifOutDiscards) и расписание бэкапов, деплоя и отправки логов
Подтверждает: Загрузка линии упирается в предел пропускной способности и выходит на плато, в это время растут RTT и отбрасывания на всём сервере, и это время совпадает с крупными передачами данных
Опровергает: Если поминутная загрузка намного ниже предела, а отбрасывания есть, это «Микробёрсты на коммутаторе»
Чем проверить: Инструменты инфраструктуры (игровой код не нужен)

Источники

RFC 4594: Configuration Guidelines for DiffServ Service Classes IETF
Интерактивный трафик реального времени вроде игрового и крупные передачи вроде бэкапов обрабатываются в разных классах обслуживания
RFC 7567: IETF Recommendations Regarding Active Queue Management IETF
Если в устройство приходит больше данных, чем оно успевает отправить, растёт очередь, а слишком длинные очереди становятся главной причиной задержки
RFC 2863: The Interfaces Group MIB IETF
ifHCInOctets и ifHCOutOctets: число байт, принятых и отправленных через интерфейс (64-битные счётчики), ifOutDiscards: число пакетов, отброшенных без отправки

Смотрите также

Тот же слой: L5 Сетевое оборудование ЦОД

Причины с тем же симптомом (Задержка ввода) на других слоях

Нагрузка на рендеринг при большом скоплении игроков L1 Процесс игрового клиента
Узкое место: обработка пакетов в главном потоке L1 Процесс игрового клиента
V-Sync и очередь рендеринга L1 Процесс игрового клиента
Энергосбережение и тепловой троттлинг L2 ОС и устройство клиента
Другие приложения на устройстве забирают пропускную способность L2 ОС и устройство клиента
Задержка дисплея, устройств ввода и генерации кадров L2 ОС и устройство клиента
Перегруженный радиоканал Wi-Fi L3 Домашняя сеть
Bufferbloat (очередь в роутере) L3 Домашняя сеть

Карточка в основной версии с иллюстрациями и экспериментами