Как да предотвратим AI от това да „убедително говори неистини“ по време на превод?
“AI може да добавя, премахва информация или да изменя числа по време на превода без основание; този вид „халюцинации“ са особено критични при преводите.”
Анализ на основната причина
Защита с дълъг контекстов прозорец
Преводаческият AI използва технология за ултра-дълъг Context Window (контекстов прозорец). При превод на всеки абзац AI може да „вижда“ няколко хиляди знака преди и след текста, което осигурява коректна референция на местоимения като He/She/It и предотвратява изваждането им от контекста.
Стратегия за верифициращи подсказки (prompt-ове)
При извикване на базови модели (като GPT-4o) използваме собствена рамка за подсказки, с която изрично изискваме AI да поддържа вярност при превода и забраняваме творческите интерпретации, особено по отношение на данни, дати и собствени имена.
Обобщение на крайното решение
Чрез многостепенни технически ограничения 商译 AI свежда честотата на AI халюцинациите до най-ниското ниво в индустрията.