Что такое nvlink простыми словами

NVLink это фирменная шина NVIDIA, которая соединяет несколько ускорителей в одном сервере напрямую, в обход медленной шины PCIe. Обмен между картами идёт в несколько раз быстрее, и сервер начинает работать как единая машина с общей памятью: модель, которая не влезает в одну карту, распределяется по нескольким и всё равно отвечает быстро.

Зачем это нужно на практике: большие модели живут в памяти нескольких карт, и во время ответа этим картам постоянно приходится обмениваться промежуточными результатами. Через обычную шину этот обмен становится узким местом: карты простаивают в ожидании данных. С NVLink связка из четырёх или восьми карт держит скорость, близкую к одной большой карте. Уникальный десктопный случай это десктопная RTX 3090: последняя игровая карта с поддержкой моста, которую до сих пор берут парами под локальные модели именно ради быстрого обмена.

Где NVLink встречается

• Серверные платформы: типичные связки из четырёх и восьми карт под обучение и тяжёлый инференс.
• Мост между двумя картами: компактный вариант для рабочих станций, где нужен объём больше одной карты.
• Десктопная классика: пары старых карт, связанные мостом, как бюджетная альтернатива серверу.

Не нужна шина там, где каждая карта работает сама по себе: поток независимых запросов, генерация изображений без общих весов, распознавание документов. В таких сборках честнее сэкономить на платформе и взять карты без NVLink. Что выгоднее под конкретную задачу, своя машина или облако, разобрано в сравнении аренда GPU и покупка своего сервера, где связки карт и одиночные конфигурации сравниваются по стоимости владения, простоте обслуживания и цене ошибки при выходе одной карты из строя посреди рабочего дня, а пример сервера с быстрым обменом между картами описан в карточке H100.