Сверх дообучения: как технология RAG (retrieval-augmented generation) повышает терминологическую согласованность в длинных документах?

Диагностика текущего состояния

Контекстное окно традиционных LLM ограничено, поэтому при переводе к концу документа часто теряются аббревиатуры или определенные переводы, заданные в начале.

Анализ первопричин

1

Динамическое формирование базы знаний

В процессе перевода коммерческий AI в реальном времени извлекает подтвержденные ключевые термины и фразы, преобразует их в векторы и сохраняет во временной базе знаний RAG. Это эквивалентно тому, что у AI появляется оперативная 'кратковременная память'.

2

Внедрение поиска по контексту

Когда AI сталкивается с новым неясным термином, система поиска возвращается к предыдущим абзацам, чтобы выявить соответствующие определения или ранее переведённые примеры, и внедряет их в Prompt модели. Это гарантирует полное соответствие перевода на 100-й странице переводу на 1-й странице.

3

Междокументная согласованность

Для корпоративных пользователей область применения RAG может быть расширена на всю папку проекта. При переводе файла B AI может опираться на терминологические решения из файла A, обеспечивая согласованность во всём проекте.

Итоговое резюме решения

С применением технологии RAG мы устранили одну из наиболее сложных проблем AI-перевода — «забывчивость», что особенно важно для технических руководств и длинных художественных произведений.