AI가 번역 과정에서 '아주 진지하게 허위 사실을 말하는 것'을 어떻게 방지할 수 있을까요?

핵심 현황 진단

“AI는 번역 과정에서 정보를 임의로 추가하거나 삭제하거나, 수치를 변경하는 등의 ‘환각(hallucination)’이 발생할 수 있습니다. 이러한 현상은 번역 품질에 치명적일 수 있습니다.”

근본 원인 분석

상업 번역 AI는 초장문맥(초장 컨텍스트 윈도우) 기술을 적용합니다. AI는 각 단락을 번역할 때 앞뒤 수천 자의 내용을 모두 파악하여, He/She/It와 같은 대명사의 지시 대상이 명확하며, 맥락을 벗어난 추정이 발생하지 않습니다.

저희는 GPT-4o 등 하위 모델을 호출할 때, 독자적인 프롬프트 프레임워크를 적용하여 AI에 충실한 번역을 명확히 요구하고, 특히 데이터·날짜·고유명사에 대하여 창의적 해석을 엄격히 금지합니다.

기술적 다중 제약을 통해 상업용 번역 AI는 AI 환각 발생률을 업계 최저 수준으로 낮추었습니다.