Что такое NMT?
NMT (Neural Machine Translation) — подход к машинному переводу, при котором нейронная сеть обучается переводить предложение целиком, опираясь на весь его контекст, а не собирать перевод из отдельных слов и фраз по статистическим таблицам соответствий. NMT пришёл на смену более раннему статистическому машинному переводу (SMT) в середине 2010-х и стал основой для всех современных систем перевода, включая перевод через большие языковые модели.
Чем NMT лучше статистического перевода
Статистические системы переводили текст фрагментами, подбирая наиболее вероятный перевод для каждого куска на основе частотных таблиц, а затем склеивали куски вместе — из-за этого перевод часто получался грамматически рассогласованным между фрагментами. NMT обучается целиком на парах «предложение — предложение» и учитывает контекст всего предложения при выборе каждого слова перевода, что даёт заметно более естественный и связный результат.
От NMT к переводу через LLM
Современные большие языковые модели, используемые для перевода, — это, по сути, развитие идей NMT в гораздо большем масштабе: те же принципы (внимание к контексту всего предложения через архитектуру трансформера), но обученные на несравнимо большем объёме текста и способные учитывать контекст не только предложения, но и всего документа, а иногда и инструкции пользователя о стиле и терминологии.
Как оценивают качество NMT
Для оценки NMT-систем используются те же метрики, что и для перевода в целом: исторически BLEU, сейчас — прежде всего COMET и подходы на основе LLM-судьи. Сравнение разных NMT-систем на одном тестовом наборе — стандартный способ выбрать движок перевода для конкретной языковой пары.
Ограничения NMT
NMT-системы, включая LLM, могут звучать уверенно и гладко даже тогда, когда переводят неверно — в отличие от более старых систем, которые чаще давали заметно ломаный, но реже вводящий в заблуждение результат. Это одна из причин, по которой автоматическая оценка качества (QE) и проверка человеком остаются нужны даже при высоком общем качестве NMT.
FAQ
NMT и перевод через LLM — это одно и то же?
Не совсем: NMT — более широкий термин, охватывающий любые нейросетевые системы перевода, включая специализированные модели, обученные только для перевода. Перевод через LLM — частный случай NMT, где используется универсальная модель, способная и на многое другое, помимо перевода.
Почему NMT заменил статистический перевод?
Потому что переводит связнее и естественнее: статистические системы плохо справлялись с согласованием между кусками текста, а NMT учитывает контекст всего предложения сразу.
Какая метрика лучше всего показывает качество NMT?
Единой лучшей метрики нет — актуальный подход комбинирует COMET с оценкой через LLM-судью, а не полагается на одно число.
Нужна ли для NMT специальная инфраструктура?
Да, обучение и запуск NMT-моделей требует значительных вычислительных ресурсов, поэтому большинство компаний используют готовые модели через API, а не обучают собственные.
Может ли NMT переводить редкие языковые пары так же хорошо, как распространённые?
Как правило, нет — качество NMT сильно зависит от объёма обучающих данных для конкретной языковой пары, и редкие пары получают заметно менее качественный перевод.