A100 в 2026: устарела или всё ещё рабочая лошадка

Шесть лет для видеокарты это возраст, после которого обычно пишут эпитафию. С A100 история другая: карта выпущена в 2020, а в 2026 остаётся массовой рабочей лошадкой инференса, и час её аренды стоит заметно дешевле часа флагманов. Разберём, где она всё ещё сильна и где честнее взять новое.

Почему A100 жива

Секрет долголетия в памяти и зрелости. У карты 40 или 80 ГБ быстрой HBM: объёма хватает на средние и большие модели в сжатом виде, а скорость памяти не даёт картам простаивать на длинных ответах. Под поколение обкатаны платформы, драйверы и связки из нескольких карт: сервер собирается без экспериментов, что для бизнеса дороже паспортных террафлопсов.

Инференс это её стихия: поток запросов к модели среднего размера, работа ассистентов, распознавание документов и речи. Квантование сжимает модель в разы, и после сжатия разница между поколениями карт на готовых ответах почти не видна, зато разница в цене часа видна сразу. Полные характеристики и логика выбора собраны в карточке A100.

Где потолок

Обучение больших моделей и тяжёлые трансформерные нагрузки: здесь у новых карт быстрые восьмибитные режимы и свежая архитектура, и A100 отстаёт ощутимо. Длинные контексты на больших моделях тоже зоной комфорта не назовёшь: память заканчивается раньше, чем хочется. Если в планах регулярное дообучение моделей на больших данных или клиентский сервис с сотнями одновременных запросов, смотрите в сторону H100: разница в цене окупится скоростью. Для регулярного файнтюнинга это особенно заметно: каждая итерация обучения съедает часы, а часы на карте это деньги, и терять их на медленном железе обидно вдвойне.

Границу между «хватит» и «мало» проводит расчёт: сколько памяти занимает модель, какой поток запросов в пиковые часы, какой контекст и сколько пользователей сидит одновременно. Методика с примерами дана в расчёте VRAM под задачи, а полную конфигурацию под задачу собирает подбор видеокарты для нейросетей: карта, память платформы и блок питания под нагрузку.