RTX 5090 для нейросетей: что она даёт на практике
Почему 5090 интересна именно сейчас
Игровые карты верхнего сегмента давно используются для нейросетей: разработчики берут то, что даёт максимум вычислений за вменяемые деньги. RTX 5090 продолжает линейку 3090 и 4090 и делает шаг, важный для локального ИИ: 32 ГБ видеопамяти нового поколения GDDR7 с широкой шиной.
Для языковых моделей память решает больше, чем скорость чипа. В 32 ГБ помещается квантованная модель на 30 с лишним миллиардов параметров, а это уже уровень, который раньше требовал пары карт. Если вы только выбираете карту и не уверены, сколько памяти нужно под вашу задачу, начните с разбора как выбирать видеокарту для нейросетей: там показано, как считать потребность по размеру модели и типу нагрузки, от чат-бота до видеогенерации.
Что реально запускается
Начнём с самого частого сценария, локальных ассистентов. Чат-боты на открытых моделях работают комфортно: Llama, Qwen и DeepSeek в подходящих размерах дают быстрый ответ десяткам сотрудников одновременно, а длинная история диалога помещается в память без урезания. На одну карту ставят и внутренний поиск по документам, и помощника для отдела. Подробнее о том, какие семейства моделей держат на своём железе и чем они отличаются, написано в обзоре какие открытые модели подходят для локального запуска.
Генерация изображений и видео тоже входит в зону комфорта 5090. Диффузионные модели прожорливы на старте и легки в работе, поэтому карта с большой памятью ускоряет пакетную обработку: сотни картинок для каталога или ролики для соцсетей перестают быть проектом на ночь. Отдельный бонус для команд, которые только приучают сотрудников к ИИ: локальная генерация не зависит от лимитов внешних сервисов и не отправляет материалы наружу.
Дообучение методом QLoRA для моделей среднего размера идёт на одной 5090 без плясок. Полноценное обучение с нуля остаётся за серверным классом: там нужны карты уровня A100 и H100 с тензорными ядрами и памятью под сотни гигабайт на карту.
575 Вт и другие скучные подробности
Карта длинная, тяжёлая и горячая: блок питания от 1000 Вт, просторный корпус, продуманное охлаждение. В офисный системник её ставить можно, но сложно; в рабочий рендер-сервер или станцию отдела данных она встаёт естественно. Если в компании несколько задач на ИИ, разумнее не сажать карту в чужой компьютер, а собрать отдельную машину: так она будет работать на все отделы, а не на того, кто первый занял GPU.
Здесь и развилка, знакомая каждой команде: купить своё железо или арендовать мощнее. Цены, амортизация и сценарии, в которых каждый вариант выгоден, разобраны в материале об аренде GPU против покупки железа. Полезно вернуться к нему после того, как определитесь с задачами: конфигурация под инференс и конфигурация под обучение отличаются сильнее, чем кажется по прайсам.
Кому какая альтернатива
Если бюджет ограничен, предыдущие поколения с 24 ГБ памяти всё ещё решают большинство задач инференса и генерации картинок. Если же задачи упираются в обучение или в очень большие модели, потребительская карта не спасёт: нужен сервер с профессиональными GPU, и его не обязательно покупать. Как устроен такой сервер и что в нём важнее пиковой производительности, рассказано в статье о сборке сервера под ИИ-нагрузки.