Что такое файнтюнинг простыми словами
Файнтюнинг это дообучение готовой модели на своих примерах: стиль, формат ответов, профессиональный язык компании.
Файнтюнинг это дообучение готовой модели на своих примерах. Модель уже умеет говорить и рассуждать, а файнтюнинг доводит её под задачу: отвечает в стиле компании, соблюдает формат документа, знает профессиональный жаргон отрасли, которого нет в общих корпусах.
Файнтюнинг часто путают с базой знаний, а это разные инструменты. База знаний через RAG подкладывает модели нужные документы в момент вопроса, и её можно обновить за минуту: как устроена эта схема и почему её пробуют первой, разобрано в материале про как устроен RAG. Файнтюнинг меняет само поведение модели и делается один раз под стабильную задачу, например строгие юридические формулировки или фирменный тон переписки.
Когда файнтюнинг оправдан
- Нужен стабильный формат: акты, ответы клиенту, отчёты по единому шаблону, без напоминаний в каждом запросе.
- Отраслевой язык: терминология, которой нет в открытых корпусах, и где общая модель постоянно ошибается в терминах.
- Тон и стиль: фирменная манера переписки, которую нельзя описать инструкцией, но можно показать на примерах.
- Малые модели: дообученная младшая модель на узкой задаче часто обгоняет старшую облачную и работает на своём железе.
Для ответов по документам сначала пробуют базу знаний: она проще, дешевле и обновляется мгновенно. Дообучение подключают, когда поведение модели надо закрепить в ней самой, потому что база знаний растёт, а правила тона и формата остаются прежними. Какие открытые модели дообучают под задачи и когда это оправдано, разобрано в обзоре локальных моделей.