오늘 글을 시작하면서 베단트 미스라(Vedant Misra)의 1월 7일 X 포스트를 소개합니다. 베단트 미스라는 OpenAI에서 일했었고 현재 DeepMind에서 AI 연구자로 활동하고 있습니다. 샘 알트만(Sam Altman)는 1월 6일 자신의 블로그에서 “AGI를 구축하는 방법을 알고 있다고 확신”한다고 주장합니다. 이 블로그 포스트에 대해 베단트 미스라는 아래와 같이 코멘트하고 있습니다.

“앞으로 다가올 미래를 본능적으로 이해하는 사람은 전 세계에 수백 명에 불과합니다. 그들 대부분은 딥마인드, 오픈AI, 안트로픽, x.AI에 있지만 일부는 외부에 있습니다. 미래를 이해하기 위해서는 다음의 개별 효과가 만들어 낼 수 있는 총체적 효과를 이해할 수 있어야 합니다: ① 빠른 알고리즘 개선, ② 반복적인 자기 개선을 맡고 있는 강화학습(RL)에 대한 공격적인 투자, ③ 그리고 이미 데이터센터 건설에 투입된 수백억 달러! 우리 모두 틀렸거나 아니면 모든 것이 곧 바뀔 겁니다.
(There are maybe a few hundred people in the world who viscerally understand what's coming. Most are at DeepMind / OpenAI / Anthropic / X but some are on the outside. You have to be able to forecast the aggregate effect of rapid algorithmic improvement, aggressive investment in building RL environments for iterative self-improvement, and many tens of billions already committed to building data centers. Either we're all wrong, or everything is about to change.)”

“우리 모두가 틀렸거나 아니면 모든 것이 곧 바뀔 겁니다!” 멋진 표현입니다. The Core에서는 2024년 AI 거품에 대한 다양한 의견을 소개했습니다. 그러나 저는 이 논쟁이 타당하다고 생각하지 않습니다. 우리는 매우 강력한 기술이 전속력으로 개발되고 있고 동시에 차별화되고 있으며 동시에 가장 낮은 수준의 AI 모델에서도 큰 도약이 계속되고 있는 현실을 목격하고 있습니다.

곳곳에서 AI가 이야기되다보니, 이제 AI 주제에 짜증이 나는 분도 계실 겁니다. 진심으로 이해합니다. 그러나 AI 주제는 우리 시대의 가장 큰 기술 진보에 대한 것입니다. 인터넷보다 더 큰 규모입니다. 인터넷과 데이터는 어쩌면 인공지능의 첫 번째 발전 단계를 위한 전제 조건일 뿐이었습니다. 인터넷은 콘텐츠, 재화 및 서비스 유통을 디지털화했습니다. 이제 AI는 거의 모든 것을 단계적으로 디지털화할 것입니다. AI 혁신은 이제 시작일 뿐입니다.

  • OpenAI의 o1과 o3는 추론 시간에 엄청난 잠재력이 있다는 것을 보여주고 있습니다.
  • AI 기술 역량이 생성 AI에서 AI 에이전트로 천천히 이동하고 있으며, AI 에이전트는 업무 자율성의 증가를 의미합니다(참조: AI 에이전트 시대, 경제의 주인이 바뀐다).
  • 컴퓨팅 및 데이터센터에 대한 투자는 기록적인 속도로 확장되고 있습니다. 2025년 마이크로소프트는 AI 관련 데이터센터에 800억 달러를 투자할 계획입니다.
  • 엔비디아는 월드 모델에 진심입니다. 과도한 자신감과 야망으로 인해 결국 파멸을 초래하는 현상인 이카로스 증후군(Icarus Syndrome)이 떠오릅니다. 그러나 엔비디아는 태양과 바다 사이에서 적절한 거리를 유지하며 크레타섬을 탈출할 수도 있습니다. 이 때 세상은 자율주행과 로봇 산업에서 큰 변화를 경험하게 될 것입니다. 월드 모델에 대해서는 지난 글 AI 브라우저, 웹과 앱의 새로운 권력 투쟁을 참조하세요.
  • 이번 글의 주제는 Deepseek와 엔비디아 코스모스에 사용된 '합성 데이터'입니다. Deepseek는 AI의 테무(Temu)입니다. 아래에서 그 이유를 설명하겠습니다.