карточка справочника · всего в справочнике 8
NVIDIA RTX 4090 для нейросетей
Десктопная карта Ada Lovelace: 24 ГБ GDDR6X и 450 Вт. Почему RTX 4090 остаётся рабочей лошадкой локальных нейросетей.
NVIDIA RTX 4090 это десктопная карта на архитектуре Ada Lovelace, выпущенная в 2022 году. Несколько лет она была дефолтом для локального ИИ, и на вторичном рынке это по-прежнему самый разумный способ получить 24 ГБ памяти дешевле нового флагмана.
Какие задачи тянет RTX 4090
- Локальные языковые модели: с сжатием модели через квантование на 24 ГБ живут модели класса 30B, для большинства офисных задач этого достаточно.
- Генерация изображений: модель, ControlNet и апскейл одновременно помещаются в память без танцев, а длинные конвейеры из нескольких моделей не требуют перезагрузки весов между шагами.
- Файнтюнинг маленьких моделей и адаптеров: плотности Ada хватает на типовые задачи студии.
Характеристики RTX 4090
- Память: 24 ГБ GDDR6X, пропускная способность 1008 ГБ/с.
- Энергопотребление: до 450 Вт, нужен блок питания от 850 Вт и вентилируемый корпус.
- PCIe 4.0: обмен с процессором и накопителем без узких мест для локальных задач.
- Вычислительный массив: 16 384 ядра CUDA, четвёртое поколение тензорных ядер.
Чем RTX 4090 отличается от соседей по справочнику
Против новой RTX 5090 у 4090 меньше памяти и пропускная способность старее, зато вторичка заметно дешевле: если задача укладывается в 24 ГБ, переплачивать за GDDR7 необязательно. Для сжатых моделей разница в скорости между поколениями ощущается слабее, чем разница в цене, поэтому многие сборщики сознательно берут карту прошлого поколения и вкладывают сэкономленное в память или вторую карту. Против ровесницы RTX 4080 у 4090 на треть больше памяти, и для LLM это решающая разница: 16 ГБ упираются в стену, 24 ГБ остаются рабочим объёмом.
Классический сценарий 4090: домашне-офисный сервер под локальные модели, где карта крутится круглосуточно. Для круглосуточной нагрузки важны питание и охлаждение: сколько тепла выделяет карта при 450 Вт это не мелочь, а корпус с продуманным обдувом часть конфигурации. Почти весь локальный ИИ-стек при этом живёт на платформе CUDA, и понимать её логику полезно каждому, кто собирает такую машину.