Как предотвратить «уверенное искажение фактов» ИИ при переводе?
“ИИ может в процессе перевода самовольно добавлять, удалять информацию или изменять числовые значения; подобные «галлюцинации» критичны для качества перевода.”
Анализ первопричин
Защита длинным окном контекста
Профессиональные AI-системы перевода применяют технологию сверхдлинного Context Window (окна контекста). При переводе каждого абзаца ИИ способен «видеть» несколько тысяч символов до и после рассматриваемого фрагмента, что гарантирует корректную идентификацию местоимений (например, He/She/It) и предотвращает ошибки, вызванные выпадением из контекста.
Стратегия валидационных prompt (подсказок)
При использовании базовых моделей (таких как GPT-4o) мы применяем собственную систему prompt-ов, строго предписывающую ИИ сохранять достоверность перевода и недопустимость творческих интерпретаций, особенно в отношении данных, дат и собственных имён.
Итоговое резюме решения
Благодаря многоуровневым техническим ограничениям, коммерческий ИИ для перевода снизил частоту ИИ-галлюцинаций до минимального уровня в отрасли.