Як запобігти тому, щоб ШІ під час перекладу «серйозно вигадував нісенітниці»?
“Під час перекладу ШІ може безпідставно додавати, видаляти інформацію або змінювати числа. Подібні «галюцинації» у перекладі є критично небезпечними.”
Аналіз основних причин
Захист із використанням довгого вікна контексту
Комерційний ШІ для перекладу застосовує технологію наддовгого Context Window (вікна контексту). Під час перекладу кожного фрагмента ШІ може «бачити» тисячі слів до й після, що забезпечує точне розпізнавання референтів (наприклад, He/She/It) та запобігає некоректним домислам поза контекстом.
Стратегія верифікаційних підказок (Prompt)
Під час використання базових моделей (таких як GPT-4o) ми застосовуємо власну систему підказок, яка чітко вимагає від ШІ точно зберігати зміст перекладу, забороняючи будь-які прояви креативності, особливо щодо даних, дат та власних назв.
Підсумок остаточного рішення
Завдяки технічному багаторівневому обмеженню, комерційний ШІ-перекладач зводить рівень ШІ-галюцинацій до мінімуму в галузі.