AI 브리핑: 페라리만큼 무거운 AI 칩

강정수

2024년 3월 25일

엔비디아는 다양한 AI 생태계를 만들어 새로운 슈퍼칩 시장을 열고자 합니다

새로운 슈퍼칩 GB200의 발표는 3월 18일부터 열린 엔비디아 GTC 컨퍼런스 하이라이트 중 하나였습니다. 기술적 세부 사항은 여기서 생략하겠습니다. 간단히 말해 엔비디아는 Blackwell(GPU)이라는 두 개의 그래픽 칩과 Grace(CPU)라는 메인 프로세서를 결합합니다.

이것이 중요한 이유: AI를 위한 새로운 애플리케이션의 성능을 더욱 향상시키기 위해 기업들은 더 많은 에너지가 필요한 더 큰 모델을 경쟁적으로 구축하고 있습니다. 젠슨 황에 따르면 이 문제에 대한 해결책은 하나입니다. "더 큰 그래픽 칩이 필요합니다. 훨씬 더 큰 그래픽 칩이 필요합니다."

AI 칩이라고 하면 애플 워치에 들어가는 작은 금속판을 떠올릴 수 있습니다. 젠슨 황이 이것이 걱정되었는지 직접 GB200 프로토타입을 선보였습니다. GB200이 들어간 NVL72라 불리는 랙은 600,000개의 부품으로 구성되어 있고, 36개의 Grace CUP와 72개의 Blackwell GPU가 들어가 있습니다. 무게가 무려 1,360kg에 달합니다. 이는 탄소 섬유로 만든 페라리만큼이나 무겁습니다.

90일 이내에 ChatGPT의 기반이 되는 GPT-4 크기의 거대언어모델(LLM)을 만들려면 이전에는 H100 그래픽 칩 8,000개와 15메가와트의 전력이 필요했습니다. 이제 Blackwell을 사용하면 2,000개의 그래픽 칩과 4메가와트만 필요합니다.

GR00T

엔비디아 젠슨 황은 차세대 휴머노이드 로봇을 위한 LLM AI 모델인 프로젝트 GR00T도 소개했습니다. 이 멀티모달 AI 모델은 음성 입력, 동영상 그리고 사람이 시연하는 것을 통해 학습합니다. 휴머노이드 로봇 또는 AI 로봇에 대한 이야기는 아래 글에 매우 자세하게 설명되어 있습니다.

기타 소식 1: 새로운 채팅 기능이 추가된 허깅 페이스

허깅 페이스를 주목해 주세요. 오픈소스 모델을 위한 허브인 허깅 페이스가 현재 로봇 허브를 설정 중입니다(VentureBeat 참조).

또한 새로운 채팅 기능인 HuggingChat도 출시했습니다(LinkedIn 참조).

거대함(Huge): 최신 HuggingChat 기능으로 나만의 "내 모든 콘텐츠와 채팅"을 구축할 수 있습니다.
사용 가능한 7가지 모델(미스트랄, 젬마, 라마-2-70b, ...) 중 하나에서 허깅챗 어시스턴트를 만들 수 있습니다.

기타 소식 2: AI 인재 끌어모으는 MS

마이크로소프트가 Inflection AI의 공동 창업자 무스타파 술레이만(Mustafa Suleyman)을 고용합니다. 무스타파 술레이만은 Deepmind의 공동 창업자이기도 합니다. 찐 AI 전문가라 평가할 수 있습니다. 마이크로소프트는 무스타파 술레이만에게 새로운 만들어지는 Microsoft 소비자 AI 부서를 맡길 예정입니다(The Guardina 참조).

오웰을 통한 요약: 다양한 배경을 가진 인재의 중요성
무스타파 술레이만의 배경과 경력 과정은 다양성의 가치와 다양한 배경을 가진 인재들이 혁신에 기여할 수 있는 잠재력을 보여줍니다. 독자들은 술레이만이 어떻게 자신의 고유한 배경과 경험을 바탕으로 인공지능 분야에서 중요한 역할을 하게 되었는지에 대해 읽음으로써, 인재의 다양성이 기술 발전에 얼마나 중요한지를 이해할 수 있습니다. 이러한 관점은 기술 산업, 특히 인공지능 분야에서 더 많은 다양성과 포용성을 추구해야 할 필요성을 강조합니다.

이번 주 읽은 AI 관련 글

애플은 조용히 AI에 관한 연구 논문을 발표했습니다. MM1 모델은 ChatGPT에 대한 충분한 경쟁력을 가지고 있다합니다. 애플과 구글 Gemini 협력은 오래가지 않을 것 같습니다(Wired).
OpenAI의 GPTs를 위한 스토어인 GTP Store가 엉망이라고 합니다. OpenAI는 관리 책임을 방기하고 있습니다(Techcrunch).
인공지능은 골을 넣을 수 있습니다. 리버풀 FC는 구글 딥마인드 연구진과 협력하여 코너킥 성공률을 높이기 위한 TacticAI라는 인공지능을 개발했습니다. TacticAI는 2020년부터 2023년까지 잉글랜드 프리미어 리그에서 있었던 7,176개의 코너킥으로 구성된 데이터 세트를 학습에 이용했습니다. 코너킥은 전체 골의 약 30%를 차지할 정도로 공격 팀에게 중요한 기회입니다(FT 기사, Nature 논문).
Stable Diffusion 모델 개발에 결정적인 역할을 한 Stability AI의 과학자 로빈 롬바흐(Robin Rombach)가 회사를 떠났습니다. 2023과 2024년 이미 많은 주요 개발자가 Stability AI를 떠났는데요, 로빈 롬바흐마저 떠나게 되면서 Stability AI는 핵심 역량의 많은 부분을 상실했습니다(Sifted).