'더 싼 AI'로 갈아타기 시작한 기업들

💡
LLM 시장은 지금껏 오픈AI와 앤스로픽이 사실상 양분해왔는데요. 하지만 기업들의 AI 사용 방식이 빠르게 바뀌며 '대 AI 쇼핑 시대'가 열릴 기미가 보입니다.
그동안은 가장 성능이 뛰어난 오픈AI와 앤트로픽의 최신 모델을 쓰는 것이 경쟁력이었지만, 이제는 업무에 맞춰 여러 AI를 골라 쓰는 'AI 믹스 전략'이 확산되고 있습니다. 간단한 업무에는 저렴한 오픈소스 AI나 중국 AI를 활용하고, 정말 어려운 작업에만 최고급 AI를 투입하는 방식입니다.

💰 AI도 '가성비' 시대

  • AI 코딩 플랫폼 커서(Cursor)의 마이크 색스 최고기술책임자(Field CTO)는 "우유를 사러 마트에 가는데 람보르기니를 탈 필요는 없다"고 말합니다. 단순한 업무까지 가장 비싸고 강력한 AI 모델을 사용할 이유는 없다는 뜻입니다.
  • 불과 몇 달 전만 해도 기업들은 AI를 많이 사용할수록 경쟁력이 높다고 생각했습니다. 직원들이 얼마나 많은 AI 토큰을 사용했는지 순위를 공개하는 '토큰맥싱(Tokenmaxxing)' 문화까지 등장했을 정도입니다.
  • 하지만 지금은 분위기가 완전히 달라졌습니다. 기업들은 AI 비용을 얼마나 절감했는지를 더 중요하게 평가하는 '절약 경쟁(Thrift-maxxing)'에 들어갔습니다.