"AI 환각은, 평가방식의 문제 때문에 발생한다"
오픈AI "AI 환각, 평가 방식 때문"…'추측 보상' 시스템이 문제💡오픈AI가 자사 AI 모델들이 거짓 정보를 그럴듯하게 생성하는 '환각(hallucination)' 현상에 대한 근본 원인을 분석한 연구 논문을 공개했습니다. 이 논문에서 오픈AI는 환각이 AI 모델 자체의 한계가 아닌, 현재 업계 표준인 '정확도 중심 평가 방식'이 만든 구조적 문제라고 주장했습니다.
오픈AI "AI 환각, 평가 방식 때문"…'추측 보상' 시스템이 문제💡오픈AI가 자사 AI 모델들이 거짓 정보를 그럴듯하게 생성하는 '환각(hallucination)' 현상에 대한 근본 원인을 분석한 연구 논문을 공개했습니다. 이 논문에서 오픈AI는 환각이 AI 모델 자체의 한계가 아닌, 현재 업계 표준인 '정확도 중심 평가 방식'이 만든 구조적 문제라고 주장했습니다.
[1] AI 검색, 언론 콘텐츠 27% 인용하지만 트래픽 기여는 '제로'- 시의성 정보에선 49%까지 올라, 하지만 실제 웹사이트 방문은 거의 없어 AI 시스템이 답변을 생성할 때 언론 기사를 적극 활용하고 있지만, 정작 언론사 웹사이트로의 트래픽 유입은 거의 없는 것으로 나타났다. AI 기반 PR 플랫폼 'Generative Pulse'의 최신 보고서에 따르면, ChatGPT
월마트 vs 타겟, 엇갈린 운명…관세 충격 속 소매업계 양극화💡미국 소매업계 양대 대기업인 월마트와 타겟이 2분기 실적 발표를 통해 극명하게 대비되는 모습을 보이며, 관세와 소비 위축이 가져온 업계 내 양극화 현상을 선명하게 드러냈습니다. 월마트는 일부 아쉬운 부분이 있었지만 여전히 견고한 성장세를 보인 반면, 타겟은 11분기 연속 매출 부진을 기록하며
디지털 시대, "뉴스란 무엇인가"💡디지털 미디어의 폭발적인 증가와 정보, 오락, 의견의 경계가 모호해진 환경 속에서, 뉴스는 여전히 유효할까요? Pew Research Center가 이러한 질문에 답하기 위해 "당신에게 뉴스란 무엇인가?"를 물었습니다.✅ 사실성, 최신성, 중요성이 뉴스의 핵심 기준 Pew Research Center의 보고서에 따르면, 미국 성인의 대다수는 뉴스를 판단하는 세 가지 핵심 기준으로
노벨상의 조건💡세상에서 가장 권위 있는 상(특히 과학 분야에서)을 하나만 꼽으라고 투표를 한다면 아마 노벨상이 1등을 차지할 것입니다. 따라서 과학 분야 노벨상 수상자의 역사를 살펴본다면 과학 발전의 역사를 흥미롭게 엿볼 수 있습니다. 과학 연구의 선두가 어디인지, 어떤 사람과 기관이 그 연구를 수행하고 있는지 알 수 있습니다. Brian Potter가
[1] 올해 1분기 시장 분석 by Redpoint💡벌써 3월의 절반을 지나며 올해 1분기가 끝나갑니다. 다사다난했던 올 1분기, 시장에선 어떤 일이 있었는지 미국의 벤처캐피탈 Redpoint의 분석 중 흥미로운 지점들을 훑어보겠습니다. 전체 분석 자료는 아래 구글 드라이브 링크를 참고하시면 됩니다.🔓Public Markets(공적시장) 거시적으로는 부정적 전망이 가득합니다. 실제로 트럼프 리스크가 커지며 시장
💡네이버, 다음 등 국내 포털의 뉴스 서비스를 둘러싼 논란이 다시금 주목받고 있습니다. 20여년전 포털의 뉴스서비스가 시작된 이래 '편집권력' 논쟁을 비롯, '추천서비스의 알고리즘 편향성 논란' 등 잡음이 이어져 왔는데요. 지난 12월 다음이 뉴스 검색 기본 값을 ‘콘텐츠 제휴사’로 개편하겠다고 밝히면서 또다시 논쟁에 불이 붙는 양상입니다. 그만큼 포털뉴스의 중요성이 높아져온 환경
PickSNS - OTT까지, “광고 보기 싫으면 돈 더 내!”“광고 없이 즐기세요.” 한번 구독하면 끊을 수 없는 유튜브 프리미엄, 광고가 없다는 것이 구독을 유지하는 가장 큰 이유가 아닐까 싶은데요. 티빙과 페이스북, 인스타그램이 나란히 광고와 관련된 유료 요금제를 도입하겠다고 밝혔습니다. ⓒCJ ENM 티빙의 적자 탈출 전략은 ‘광고형 요금제’? 티빙이 계속된 적자의
앞선 글에서 멀티모달 AI를 왜 뉴스 산업이 관심을 가져야 하는가를 설명했습니다. 오늘은 실제 어떻게 사용할 수 있는가를 가볍게 스케치 해 보려고 합니다. 여러 사례들을 바탕으로 뉴스 산업의 활용 가능성을 확인해 보겠습니다. 여기엔 약간의 상상력도 동원됐다는 점을 미리 알려드립니다. 뉴스-저널리즘 산업이 ‘멀티모달 AI’ 더 주목해야 하는 이유Prompt : A screen depicting the
2022년, 삶의 질을 높여준 ‘테크’ 트렌드는?블룸버그에서 ‘2022년, 삶의 질을 높여준 5가지 기술 트렌드’를 발표했습니다. 하나씩 살펴보도록 하겠습니다. 1. 페어링 (The new pairing) 지난 10월 구글은 가까운 이어폰과 스마트워치 등의 액세서리를 픽셀폰과 즉시 연결시키는 ‘패스트 페어링’을 소개했습니다. 이는 애플의 시스템을 모방했단 비판을 받기도 했지만, 더 많은 소비자가 더
‘2023년 절대 사지 말아야!’ - 테슬라 전기차·메타 VR헤드셋 등마켓워치에서 ‘2023년에 절대 사지 말아야 할 5가지’를 발표했습니다. 바로 △테슬라 전기차 △메타 VR 헤드셋 △가상화폐 △SPAC △밈 주식 인데요. 2023년의 시장 변동과 고금리 상황이 고려된 결과라 합니다. 우선 테슬라 전기차는 더 이상 타사의 전기차에 대비, 비교우위를 갖기 어려울 것이란 예측입니다.
Quality for news is mostly about solving the reputation issue짧은 코멘트고품질 뉴스를 선별하는 방식에 대한 필루의 글인데요. 실제 작업을 진행 중인 모양입니다. 풀이하면, 언론사 품질 지수와 저자 품질 지수를 나누어 세부 변수를 구성합니다. 그리고 일부 변인이 각각의 지수에 부정적 영향을 미칠 수 있는 부분도 확인해냅니다. 이렇게 현재 40개 정도의 변인을