Что такое RAG?
RAG (Retrieval-Augmented Generation) — архитектура, в которой модель перед формированием ответа сначала ищет релевантные фрагменты во внешнем источнике данных (базе документов, глоссарии, памяти переводов), а затем подставляет найденное в свой контекст и отвечает уже с учётом этих данных. Это решает фундаментальное ограничение любой языковой модели: она не может знать то, чего не было в её обучающей выборке, и не помнит того, что случилось после обучения.
Зачем RAG нужен в переводе
Применительно к переводу RAG — это способ подставить в запрос к модели именно те термины, соответствия и примеры, которые relevant конкретному документу, вместо того чтобы полагаться на то, что модель «помнит» из обучения. Практический пример: перед переводом сегмента система ищет в памяти переводов похожие ранее переведённые фрагменты и в глоссарии — обязательные термины для этого документа, и добавляет всё найденное в промпт модели.
Как работает поиск в RAG
Наиболее распространённый способ — векторный поиск: и запрос, и хранимые данные превращаются в числовые векторы (эмбеддинги), похожие по смыслу тексты оказываются близко друг к другу в этом пространстве, и система находит ближайшие к запросу векторы. Часто это комбинируется с классическим полнотекстовым поиском по ключевым словам — гибридный подход обычно надёжнее, чем любой из методов по отдельности.
RAG и память переводов — знакомая идея под новым именем
Для переводческой индустрии сама идея RAG не нова: TM делала ровно то же самое десятилетиями — искала похожие ранее переведённые сегменты и подставляла их переводчику. Разница в том, куда идёт найденное: в TM-редакторе совпадение показывается человеку как подсказка, а в RAG-архитектуре найденный текст идёт прямо в контекст модели, и модель сама решает, как его использовать при генерации ответа.
Где RAG полезен, а где рискован
RAG хорошо решает задачу актуальности и специфичности данных — модель отвечает с учётом свежей и предметно-специфичной информации, а не только общих знаний из обучения. Риск в том, что RAG не гарантирует, что модель действительно и правильно использует найденный контекст: она может проигнорировать подставленный термин или сослаться на нерелевантный найденный фрагмент, если поиск сработал неточно. Качество RAG-системы определяется в равной мере качеством поиска и умением модели правильно применить найденное.
FAQ
RAG — это то же самое, что дообучение модели?
Нет. Дообучение меняет саму модель на постоянной основе. RAG ничего не меняет в модели — он подставляет данные в конкретный запрос, и в следующем запросе можно использовать уже другой источник данных.
Обязательно ли RAG использует векторный поиск?
Нет, это самый распространённый, но не единственный способ поиска — можно использовать и классический полнотекстовый поиск, и их комбинацию.
Чем RAG отличается от простой памяти переводов?
Механика поиска похожа, но в TM найденное совпадение видит и оценивает человек-переводчик, а в RAG найденный текст уходит напрямую в контекст модели без обязательного участия человека на этом шаге.
Может ли RAG-система дать неверный ответ, даже если нашла правильные данные?
Да — найти релевантный фрагмент не значит правильно его использовать; модель может проигнорировать найденную информацию или интерпретировать её неверно.
Где в переводческом конвейере обычно применяется RAG-подобный подход?
При подстановке терминологии из глоссария и совпадений из памяти переводов в промпт модели перед генерацией перевода конкретного сегмента.