Как предотвратить «уверенное искажение фактов» ИИ при переводе?
“ИИ может в процессе перевода самовольно добавлять, удалять информацию или изменять числовые значения; подобные «галлюцинации» критичны для качества перевода.”
Анализ первопричин
Защита длинным окном контекста
Shangyi AI применяет технологию сверхдлинного Context Window (окна контекста). При переводе каждого абзаца ИИ способен «видеть» несколько тысяч символов до и после рассматриваемого фрагмента, что гарантирует корректную идентификацию местоимений (например, He/She/It) и предотвращает ошибки, вызванные выпадением из контекста.
Стратегия валидационных prompt (подсказок)
При использовании базовых моделей (таких как GPT-6-Sol) мы применяем собственную систему prompt-ов, строго предписывающую ИИ сохранять достоверность перевода и недопустимость творческих интерпретаций, особенно в отношении данных, дат и собственных имён.
Итоговое резюме решения
Благодаря многоуровневым техническим ограничениям, Shangyi AI снизил частоту ИИ-галлюцинаций до минимального уровня в отрасли.