Что такое эмбеддинг простыми словами
Эмбеддинг это числовой отпечаток текста: близкие по смыслу фразы получают близкие векторы. Основа поиска по документам.
Эмбеддинг это числовой отпечаток текста: фраза превращается в длинный список чисел, и по смыслу близкие тексты получают близкие наборы. Сравнивать числа машина умеет хорошо, поэтому эмбеддинг превращает поиск по смыслу в арифметику: чтобы найти документ по вопросу, достаточно посчитать эмбеддинг вопроса и найти ближайшие отпечатки.
На эмбеддингах построен семантический поиск, рекомендации и умная фильтрация дублей. В корпоративных системах это главное оружие: поиск находит документ по смыслу вопроса, даже если ни одного слова из вопроса в документе нет.
Где эмбеддинги работают на бизнес
- Поиск по базе знаний: сотрудник спрашивает своими словами, а языковая модель получает на вход найденные по смыслу регламенты.
- Сортировка обращений: похожие заявки собираются в одну кучу по смыслу, а не по совпадению слов.
- Дедупликация: находятся повторяющиеся договоры и статьи, даже если они переформулированы.
- Рекомендации: пользователь получает похожие по смыслу позиции, а не пересечение по тегам.
Эмбеддинги снимаются не с языковой модели для диалогов, а отдельной небольшой моделью: она быстрая и дешёвая, поэтому отпечатки можно пересчитывать хоть каждый день. Схема «эмбеддинги плюс генерация» и есть RAG простыми словами: сначала поиск находит нужные куски документов, затем большая модель формулирует по ним ответ.
Как из отпечатков-чисел собирается полноценный поиск по базе знаний компании, где эти векторы хранятся и как по ним ищут соседей, разобрано в материале про векторную базу данных.