Qwen: обзор семейства моделей и что оно умеет

Что это за семейство

Qwen разрабатывает облачное подразделение Alibaba, и название давно у всех на слуху в мире локальных нейросетей. Философия семейства: одна база, много исполнений. Есть крошечные модели для телефонов и ноутбуков, средние для игровых карт, тяжёлые для серверов. Есть специализации: модели для кода, для зрения, для рассуждений, для конкретных языков, включая русский.

Открытость весов решила судьбу семейства: его взяли сообщества инструментов локального запуска, и сегодня Qwen в списке первых кандидатов, когда компания собирает свой ассистент или пайплайн обработки документов. Чем открытые модели отличаются от закрытых и почему это важно для бизнеса, разобрано в обзоре какие нейросети компании держат на своём железе.

Как ориентироваться в версиях

Линейка обновляется, но логика имён устойчива. Цифра в имени обычно говорит о поколении, дальше идёт размер в миллиардах параметров: чем больше, тем умнее и прожорливее. Пометки указывают на специализацию: версии для быстрых ответов против версий с длинным рассуждением, текстовые против зрительных, сжатые для слабого железа против полноразмерных.

Практическое правило выбора: берите максимальный размер, который влезает в вашу видеопамять с запасом на контекст, а не тот, что новее по дате. Модель на 14 миллиардов прошлого поколения часто полезнее модели на 7 миллиардов нового: размер стабильно побеждает моду. Как посчитать потребление памяти под размер модели и длину диалога, рассказано в статье подбор видеокарты под нейросети и рабочие нагрузки.

Где Qwen выигрывает

Сильные стороны семейства устойчивы от версии к версии, и знать их полезно до выбора конкретной модели.

Языки. Семейство изначально строилось многоязычным, и русский у него в первом эшелоне: суммаризация, переписка, поддержка клиентов. Для внутренних ассистентов русскоязычных компаний это снимает боль кривых ответов на языке запроса.

Код. Специализированные версии семейства держатся в верхних строчках открытых рейтингов программирования и стали выбором сред разработки и корпоративных помощников программиста.

Зрение. Зрительные версии принимают картинки: скриншоты, документы, фотографии. В связке с языковой базой это готовый блок для распознавания входящих документов, о применении таких связок в бизнесе есть материал про распознавание документов.

Слабые места и честные оговорки

Тяжёлые версии требуют серверного железа: сотни миллиардов параметров не скачаешь на ноутбук, хотя сжатые исполнения частично закрывают этот спрос. Отдельная оговорка про качество: на узких профессиональных задачах семейство иногда проигрывает нишевым решениям, поэтому перед финальным выбором стоит прогнать свои тесты на своих данных. И как любая открытая модель, Qwen из коробки не знает ваших регламентов и базы знаний: их подключают отдельным слоем, и о том, как устроена эта схема, написано в статье RAG: поиск по своим документам для языковой модели. Слой этот переносим: смените завтра семейство на конкурента, и база знаний, эмбеддинги и поиск останутся на месте, менять придётся только саму модель. Это резко удешевляет эксперименты: сравнить два семейства на своих данных можно за день, не перестраивая всю систему вокруг.

Наконец, зависимость от одного семейства это риск: держите запасной вариант, открытых конкурентов достаточно. Порядок выбора между ними, цена ошибки и способ уйти от привязки к одному производителю, когда это стало политикой компании, разобраны в отдельном материале как поднять собственный ChatGPT на своём сервере.