OpenAI o1: 새로운 패러다임의 시작 (AI 브리핑 #23)
거대언어모델은 GPU로 대표되는 컴퓨팅 파워를 필요로 하는 두 가지 시기를 가지고 있다. 첫 번째 시기는 일반적으로 모델 학습이라고 알려진 모델 구축 시기다. 이 기간동안 대량의 데이터를 처리하여 거대언어모델 내부 토큰-단어 또는 단어 덩어리- 구조가 만들어진다. 이 토큰 구조는 거대언어모델이 언어의 패턴과 상관관계를 인식하고 언어를 생성할 수 있는 기반을 형성한다. 두
거대언어모델은 GPU로 대표되는 컴퓨팅 파워를 필요로 하는 두 가지 시기를 가지고 있다. 첫 번째 시기는 일반적으로 모델 학습이라고 알려진 모델 구축 시기다. 이 기간동안 대량의 데이터를 처리하여 거대언어모델 내부 토큰-단어 또는 단어 덩어리- 구조가 만들어진다. 이 토큰 구조는 거대언어모델이 언어의 패턴과 상관관계를 인식하고 언어를 생성할 수 있는 기반을 형성한다. 두
자연어 처리는 한 언어에서 다른 언어로 번역하는 등 자연어를 처리하는 인공지능의 (하위) 유형입니다. 그렇다면 NLP가 계속 발전한다면 인간은 언젠가 반려동물과 대화할 수 있을까요? 고양이 집사로서 큰 관심이 가는 질문입니다. 23년 8월 8일 Engadget은 위 질문과 관련 심층 기사를 선보였습니다. 이 글은 자연어 처리가 동물의 소리를 사람의 음성으로 번역하거나 그 반대로
2022년 11월 30일 오픈AI가 챗GPT를 공개한 이후 8개월의 시간이 흘렀습니다. 이 글은 지난 8개월 동안 거대언어모델 흐름을 정리하고 있습니다. 블랙박스: LLM은 블랙박스라는 구조성을 가지고 있습니다. 이 특성은 인터페이스에서 강화될 수도 있고 약화될 때도 있습니다(인터페이스에 대해서는 글 마지막에서 설명하겠습니다). 챗GPT는 채팅 출력/결과에 추론 및 합성의 단서를 제공하지 않습니다. 이는
아래 글은 "챗GPT와 오픈AI가 촉발한 생성AI혁명" 책의 일부분입니다. 다음 주 발행할 글을 이해하기 위해서 필요한 글입니다. 책 구매를 원하시는 분은 여기서 구매 가능합니다.상상을 해보자. 메타버스 내부 가상 법정이다. 인간 판사 아바타 앞에 아바타 2개가 있다. 그중 하나는 인간 아바타로, 당신이다. 그리고 나머지 하나는 인간 아바타와 똑같이 생겼고 목소리도 비슷하다.
메타는 지난 주 거대언어모델의 새로운 버전 라마2(Llama2)를 공개했습니다. 학술 전용 오픈소스인 라마1가 달리 라마2는 상용 오픈소스 모델입니다. 상용 오픈소스라는 라이센스 방식을 선택한 가장 큰 이유는 오픈AI 등 경쟁사의 해자(moat)를 약화시키는데 있습니다. 라마2를 활용한 다양한 AI 서비스는 무료 또는 매우 낮은 가격에 제공될 가능성이 높습니다. 이때 라마2
아래 글은 미디어스피어/블루닷 내부 구성원을 위한 연구 보고서입니다. 생성 AI 또는 파운데이션 모델 그리고 이에 기초한 응용 애플리케이션에 관심 있는 분들을 위한 글입니다.인공지능이 사회메 미치는 영향에 대한 이야기가 곳곳에서 들려오고 있습니다. 생성 AI, 대규모 언어모델(LLM) 그리고 이를 기반으로 하는 시스템을 직접 이해하지는 못하지만, 이 도구들의 유용한 도움을
최근 가장 자주 받는 질문 중 하나는 (직장 생활이 아닌) "일상에서 챗GPT를 어떻게 잘 사용할 수 있을까요?"입니다. 이 글은 이 질문에 대한 답을 시도하고 있습니다. 지금까지 위 질문에 대한 저만의 답을 찾지 못했습니다. 그러나 저 외의 많은 분들은 답을 찾은 것 같습니다. 유튜브, 트위터 등에서 "생산성을 미친듯이 올려주는 챗GPT
이 글은 AI로 인한 인류 문명 종말 가능성 경고가 위선적인 이유를 밝히고 있습니다. 점점 더 강력한 인공지능을 개발하는 사람들이 인공지능은 인류 문명의 종말을 의미할 수 있다고 말하고 있습니다. 이러한 경고를 얼마나 심각하게 받아들여야 할까요? ChatGPT가 세상이 나온지 6개월이 지나가고 있습니다. ChatGPT는 세계적인 문화 현상으로 자리잡고 있습니다. 그 인기가 이제 문명
인터넷 그리고 월드와이웹의 시작 이후 아마도 가장 큰 기술 변화가 시작되고 있습니다. 인공지능에 의한 혁명은 (가까운) 미래 주제가 아닙니다. 인공지능은 현재형입니다. AI 혁명을 가장 잘 비유할 수 있는 것은 (개인적으로 동의하지 않지만) 새로운 생물 종의 침략일 것입니다. 인간 경제와 사회의 섬세한 생태계에 새로운 생물 종이 갑자이 유입되면 어떤 일이 벌어질지
80년대 중학교에 들어가면서 음악의 즐거움을 알게되었습니다. 좋은 친구들 덕분이었죠. 라디오 방송을 즐겨듣고 꿈에 그리던 LP 오디오를 부모님이 구매해 주었고 용돈을 아껴 LP를 모으는 취미를 가지게 되었습니다. 마이마이(ㅎㅎㅎ)도 선물로 받았습니다. 당시 중학교 친구들 다수가 가지고 있던 아이와 또는 소니 워크맨 보다는 못했지만 제겐 몹시 귀한 것이었습니다. 친구와 라디오를 통해
인공지능은 세계를 정복하지 않습니다. 인공지능은 세계를 바꿀 것입니다. 그 변화는 지금 현재 일어나고 있습니다. 3월에 있었던 몇가지 주요 발표를 나열해 보겠습니다. 구글은 Gmail, Doc 그리고 Meet에 생성 AI 도구를 통합한다고 밝혔습니다(구글 블로그).구글은 자사 챗봇 바드(Bard)를 공개했습니다. 일단 미국과 영국에 거주하는 사람만 이용할 수 있습니다(구글 트위터)
지난 주 인공지능 관련 다양한 발표가 이어졌습니다. 이미지를 이해할 수 있고 웹사이트를 몇 분만에 코딩할 수 있는 GPT-4가 발표되었고, Anthropic에서는 Claude라는 GPT 경쟁 서비스를 발표했습니다. Claude는 이미 Notion 등에 적용되고 있습니다. 구글은 자사 거대언어모델(LLM) PaLM을 API를 통해 공개하였고, Gmail, Google Docs 등에 생성 AI를 적용한다고 공표했습니다. 이러한 일렬의 발표
딥 러닝(Deep Learning)의 대부(Godfather)로 통하는 제프리 힌턴(Geoffrey Hinton)은 2016년 "우리는 방사선 전문의(radiologist) 교육을 지금 중단해야 합니다. 앞으로 5년 안에 딥 러닝이 방사선 전문의보다 뛰어난게 일을 처리할 것은 너무나 명확하기 때문입니다"라고 (매우 용기있는) 선언을 합니다. 딥 러닝이 MRI와 CT 이미지를 읽고 판독하는데 최적화된