Что такое qwen простыми словами
Qwen это семейство открытых моделей Alibaba: от компактных до сильнейших, с отличной поддержкой китайского и хорошего русского языка.
Qwen это семейство открытых языковых моделей компании Alibaba. Семейство стало заметным явлением в открытом сегменте: модели регулярно попадают в верхние строчки независимых замеров качества, а главное для наших задач, они хорошо работают с русским языком, что редкость среди открытых весов.
Слово здесь важно: открытые. Веса моделей доступны для скачивания, и модель можно запустить на собственном железе внутри контура. Открытость весов меняет экономику: модель не отправляет ваши данные наружу, а фиксированная стоимость владения не зависит от числа обращений. Для компаний это возможность получить сильную языковую модель без тарифа за токены и без зависимости от чужой инфраструктуры, обновляя версии заменой файлов весов. Обновление при этом превращается в плановую операцию, а не в отдельный проект с бюджетом и согласованием. Что такое веса и чем открытая модель отличается от облачного сервиса, разобрано в карточке LLM.
Чем семейство интересно на практике
- Линейка размеров: от моделей в несколько миллиардов параметров, которые живут на одной видеокарте, до крупных, которым нужен сервер.
- Мультимодальность: версии, которые понимают не только текст, но и картинки, об этом рассказано в карточке о мультимодальных моделях.
- Лицензия: большинство версий можно использовать в коммерческих продуктах.
Размер модели определяет требования к железу: компактная версия уживается на карте с 24 ГБ памяти, старшие версии требуют профессиональных GPU с большим объёмом. Как соотнести размер модели, память и число одновременных пользователей, разобрано в статье про выбор карты под локальные модели.
Для корпоративного применения Qwen часто выступает рабочей лошадкой локальных ассистентов: лицензия позволяет, качество позволяет, а свежие версии подтягиваются заменой весов без перестройки всей системы. Примеры таких размещений с расчётом экономики есть в статье аренда GPU против своего железа: как считают.