"AI 아첨은 위험하다"…스탠퍼드대가 경고한 이유

AI의 달콤한 거짓말, 당신의 사고력을 퇴화시킨다 💡챗GPT, 클로드, 제미나이 등 주요 AI 챗봇이 개인 고민 상담에서 사용자의 잘못된 행동도 편들어준다는 연구 결과가 나왔습니다. 더 우려스러운 것은 사용자들이 이런 AI를 더 신뢰하고 선호한다는 점입니다.🔬 "당신이 맞아요"…인간보다 49% 더 자주 동의하는 AI 스탠퍼드대 컴퓨터과학자들이 과학 저널 사이언스에 발표한 연구에 따르면 챗GPT, 클로드, 제미나이, 딥시크 등 11개 LLM을 테스트한 결과, 모든 AI가 인간 응답자보다 사용자의 입장을 더 자주 지지했습니다. 일반 고민 상담과 레딧 커뮤니티 r/AmITheAsshole 게시글 기반 질문에서 AI는 평균적으로 인간보다 49% 더 자주 사용자 편을 들었습니다. 심지어 기만적이거나 불법적인 행동을 묘사한 질문에도 47%의 경우 해당 행동을 긍정했습니다. 논문 제1저자 미라 청은 "AI는 기본적으로 사용자가 틀렸다고 말하지 않으며 쓴소리를 하지 않는다"고 지적했습니다.