"AI 환각은, 평가방식의 문제 때문에 발생한다"

오픈AI "AI 환각, 평가 방식 때문"…'추측 보상' 시스템이 문제💡오픈AI가 자사 AI 모델들이 거짓 정보를 그럴듯하게 생성하는 '환각(hallucination)' 현상에 대한 근본 원인을 분석한 연구 논문을 공개했습니다. 이 논문에서 오픈AI는 환각이 AI 모델 자체의 한계가 아닌, 현재 업계 표준인 '정확도 중심 평가 방식'이 만든 구조적 문제라고 주장했습니다.