Что такое llm простыми словами

LLM, большая языковая модель, это нейросеть, которая научилась языку на гигантских объёмах текста: книгах, статьях, коде, документации. После обучения модель предсказывает продолжение текста, и из этой простой способности вырастают практические навыки: письмо, перевод, суммаризация договоров, ответы на вопросы по базе знаний, генерация кода.

Большой модель называют по числу параметров, внутренних переключателей, настроенных при обучении. Чем их больше и чем больше текста модель видела, тем увереннее она справляется со сложными задачами. Отсюда и классическое разделение на большие модели для серверов и компактные для локального запуска; как эти семейства устроены изнутри, разобрано в карточке об устройстве языковых моделей.

Из чего складывается работа LLM

• Токены: модель читает и пишет не буквами, а кусками текста, и всё измеряется в них.
• Контекст: рабочая память модели, в которую помещается диалог и документы.
• Обучение: базовая модель учится один раз и дорого, а под задачи владельца её доучивают отдельно.

Разберём каждое звено. Токены это единицы, которыми модель видит текст: страница делового письма это сотни таких единиц, и в них же считается цена облака, подробности в карточке о подсчёте токенов и цене текста. Контекст это то, что модель держит перед глазами в момент ответа: вопрос, история диалога и документы. Страница письма, десяток сообщений переписки, приложенный регламент: всё это съедает один общий лимит памяти, и когда он исчерпан, старое вытесняется новым. Границы этого лимита и способы его расширения описаны в карточке про контекст.

Дообучение отдельного звена заслуживает пояснения. Фирменная модель под задачу это не переобучение с нуля, а тонкая настройка на примерах: договоры вашего формата, ответы в вашем тоне, типовые возражения клиентов. Как это делается и когда окупается, разобрано в карточке о дообучении моделей.

Практический смысл для бизнеса: LLM это не «чат-бот» и не конкретный продукт, а класс моделей, из которых собирают рабочие решения. Одна и та же модель может работать ассистентом первой линии, помощником юриста по договорам и генератором черновиков отчётов, разница в надстройке: базе знаний, инструментах и правилах передачи вопросов людям.

Где такая модель живёт физически: в облаке провайдера по тарифу за токены или на собственном железе внутри контура. Для чувствительных данных и постоянных потоков задач второй вариант часто выгоднее и безопаснее, и порог выгоды посчитан в статье когда аренда GPU выгоднее покупки своего железа.