광고 ad
광고 ad
[기획] 40인이 보내온, AI 미래 보고서

[기획] 40인이 보내온, AI 미래 보고서

💡
기획의 취지

최근 AI 관련 40인의 선각자들을 다룬 책 'AI 인물열전'을 펴냈습니다. 원고작업을 마무리하면서 '더코어'에 유관한 연재를 준비했습니다. 'AI 미래 보고서'라는 컨셉의 기획입니다.

AI(Artificial Intelligence)는 하나의 기술이 아니라 연구와 자본, 데이터와 반도체, 플랫폼이 결합해 만드는 새로운 질서입니다. 각 분야에서 AI시대를 설계하며 만들고 있는 선각자들의 목소리를 통해 미래를 조망해보자는 취지입니다. 검색과 미디어, 일자리와 저작권 등 현장과 맞닿은 여러 이슈들을 10가지로 정렬해, 하나씩 짚어 나가면서 새로운 질서가 어디로 향하는지 추적해보려 합니다.

오늘은 그 출발점에서, 먼저 오늘의 AI를 가능하게 한 생각은 어디에서 왔는지를 다뤄봤습니다. 즉, 우리가 ‘발명자’로 기억하는 몇몇 인물들의 이야기라고 할 수도 있는데요. 좀 더 엄밀하게 보자면, ‘학습하는 기계’에 대한 연구 계보와 그 기술을 현실의 권력으로 바꾼 조건에 대한 탐구라 하겠습니다.

[0] 프롤로그 : 미래는 어디서 먼저 시작되는가 - AI 혁명의 선도자

AI 혁명은 어떻게 만들어졌는가

- 학습하는 기계를 만든 네 개의 연구 계보와 딥러닝의 지형도

2024년 12월 10일, 제프리 힌턴은 스톡홀름에서 노벨 물리학상을 받았습니다. 스웨덴 왕립과학원은 힌턴과 존 홉필드가 인공신경망을 이용한 머신러닝의 토대를 마련했다고 평가했습니다.[1] 한때 시대에 뒤처진 발상으로 외면받던 신경망 기술이 과학 분야 최고 권위의 상을 받으며 비로소 주류로 인정받는 순간이었습니다.

공동 수상자인 홉필드는 물리학의 에너지 개념을 활용해, 정보를 저장하고 다시 떠올리는 ‘연상기억 신경망’을 제시했습니다. 힌턴은 테런스 세지노스키와 함께 이 모델을 발전시켜, 단순 기억을 넘어 새로운 패턴을 스스로 학습하고 만들어내는 ‘볼츠만 머신’을 완성했습니다.[2]

이 성과는 신경망 연구의 위대한 이정표였지만, 그렇다고 이 장면 하나만을 'AI 혁명의 완성'으로 기록하면 중요한 사실을 놓치게 됩니다. 오늘날의 AI는 한 사람의 천재나 단 하나의 기술로 완성된 것이 아니기 때문입니다.

힌턴이 기계 스스로 '개념과 표현'을 학습하는 길을 열었다면, 얀 르쿤은 이미지의 공간 구조를 읽어내는 신경망을 발전시켰습니다. 요슈아 벤지오는 단어 사이의 관계와 문장의 확률을 학습하는 언어모델의 기초를 다졌고, 위르겐 슈미트후버와 제프 호흐라이터는 신경망이 긴 시간의 정보를 잊지 않고 기억하는 방법을 고안해 냈습니다.

이 글에서 다루는 AI 혁명은 인공지능의 전체 역사가 아닙니다. 오늘날 생성 AI의 기반이 된 '학습 기반 신경망'과 '딥러닝'의 부상을 가리킵니다. 인공지능에는 기호주의와 탐색, 강화학습, 로보틱스 등 수많은 연구 줄기가 존재합니다. 그러나 지금의 AI 산업을 움직이는 진짜 핵심 동력은 하나였습니다. 인간이 규칙을 일일이 입력하던 방식에서, 기계가 데이터로부터 스스로 패턴을 배워나가는 방식으로의 패러다임 전환이었습니다.

이 모든 혁명은 결국 하나의 질문에서 출발했습니다.

“지능은 인간이 규칙을 일일이 가르쳐서 만들어야 하는가, 아니면 기계가 데이터 속에서 스스로 배울 수 있는가?”


질문 1. 아무도 믿지 않던 신경망은 어떻게 살아남았는가?

초기 인공지능 연구자들은 ‘인간의 지식을 규칙으로 만들어 컴퓨터에 입력하는 방식’에 집중했습니다. 예컨대 의사가 질병을 진단하는 과정을 "A 증상이 있고 B 수치가 높으면 C 질병이다"라는 조건문으로 만들어 컴퓨터에 일일이 입력하는 식이었죠. 이 방식에서 AI의 능력은 사람이 얼마나 꼼꼼하게 규칙을 적어주느냐에 전적으로 달려 있었습니다.

제프리 힌턴이 선택한 길은 완전히 달랐습니다. 그는 사람이 규칙을 일일이 정해줄 필요 없이, 컴퓨터가 데이터 속에서 필요한 특징을 스스로 찾아내야 한다고 믿었습니다. 고양이 사진을 알아채게 만들기 위해 ‘뾰족한 귀’나 ‘수염’ 같은 특징을 미리 정의해 주는 대신, 수많은 고양이 사진을 보여주며 "어떤 특징의 조합이 고양이인지" 기계가 직접 학습하게 하자는 발상이었습니다.

1986년, 제프리 힌턴은 동료 연구자들(데이비드 루멜하트, 로널드 윌리엄스)과 함께 AI 역사에 획을 그은 핵심 학습법인 '역전파(Backpropagation)' 알고리즘을 발표합니다.

쉽게 말해, AI가 낸 틀린 답(오류)을 뒤에서부터 앞으로 거슬러 올라가며 정답에 맞춰 스스로 정밀하게 교정하는 방식이었습니다. 이 방식을 통해 AI 내부의 은닉층(중간 단계)은 인간이 가르쳐주지 않아도 문제 해결에 필요한 핵심 개념, 즉 데이터의 '내부 표현(특징)'을 스스로 만들어내는 능력을 갖추게 되었습니다.[3]

하지만 뛰어난 아이디어가 곧바로 성공으로 이어지지는 않았습니다. 당시 컴퓨터 성능은 여러 층으로 이루어진 신경망을 훈련하기에 턱없이 부족했고, 학습시킬 대규모 데이터도 없었습니다. 결국 신경망은 한동안 '현실성 없는 아이디어'로 밀려나며 길고 어두운 비주류의 시기를 보내야 했습니다.

그럼에도 힌턴은 포기하지 않았습니다. 그의 가장 결정적인 기여는 완벽한 기술을 혼자 힘으로 다 만들어냈다는 데 있지 않습니다. 아무런 성과가 보이지 않고 모두가 외면하던 시절에도 “기계는 데이터로부터 세상을 이해하는 법을 스스로 배울 수 있다”는 믿음을 끝까지 지켜냈다는 점에 있습니다.

[그림 1] 규칙 기반 AI와 학습 기반 AI

힌턴이 바꾼 것은 단순한 알고리즘만이 아니었습니다. 지능을 설계하는 주체가 '규칙을 짜는 인간'에서 '데이터와 학습 시스템'으로 이동할 수 있다는 거대한 가능성을 세상에 제시한 것입니다.


질문 2. 네 개의 연구 계보는 기계에 무엇을 가르쳤는가?

신경망이 하나의 ‘뇌’라면, 네 개의 연구 계보는 서로 다른 감각과 지능의 조각을 그 안에 집어넣었습니다. 힌턴의 질문이 “기계는 세상(표현)을 어떻게 배울 수 있는가”였다면, 다른 연구자들은 이를 시각, 언어, 그리고 시간과 기억으로 확장했습니다.

1. 얀 르쿤: 시각 — “위치가 바뀌어도 같은 대상임을 알아보는 눈”

사진 속 물체는 위치가 조금 옮겨지거나 크기가 바뀌어도 똑같은 물체입니다. 하지만 초기 신경망(완전연결 신경망)은 이미지의 모든 점(픽셀)을 하나하나 따로 처리했기에, 위치가 조금만 달라져도 완전히 다른 이미지로 판단했습니다. 계산해야 할 양도 폭발적으로 증가했죠.

얀 르쿤은 이미지 전체를 한 번에 보는 대신 '가까운 영역을 돋보기로 훑어보며 특징을 찾아내는' 합성곱 신경망(CNN, Convolutional Neural Network)을 발전시켰습니다. 1989년, 그는 이 기술을 손글씨 우편번호 인식에 적용했습니다. 복잡한 특징을 사람이 일일이 지정해 주지 않아도, 기계가 스스로 숫자를 구별하는 법을 배울 수 있음을 증명해 낸 것입니다.[4]

2. 요슈아 벤지오: 언어 — “단어 사이의 관계와 맥락을 읽는 입과 귀”

컴퓨터에게 단어는 아무 뜻도 없는 기호에 불과했습니다. 기존 방식은 '앞에 나온 몇 개의 단어 조합이 얼마나 자주 등장했나' 숫자를 세어 다음 단어를 예측했기 때문에, 한 번도 본 적 없는 생소한 문장은 제대로 처리하지 못했습니다.

요슈아 벤지오는 2003년, 단어를 고차원 공간 속의 좌표(분산표현)로 배치하고 문맥에 따라 다음 단어가 나올 확률을 계산하는 신경망 언어모델을 제시했습니다. 이제 비슷한 맥락에서 쓰이는 단어들(예: '사과'와 '바나나')은 컴퓨터 내부의 숫자 공간에서도 서로 가까운 거리에 위치하게 되었습니다.[5] 이 접근은 언어를 고정된 문법 규칙이 아니라 '문맥 속 관계와 확률'로 다루는 길을 열었습니다. 오늘날 거대언어모델(LLM) 역시 사전 정의된 의미표를 찾는 대신, 방대한 텍스트 속 관계를 바탕으로 다음에 올 표현을 자연스럽게 예측합니다.

3. 슈미트후버 & 호흐라이터: 시간과 기억 — “긴 흐름 속에서 무엇을 남길지 판단하는 뇌”

이미지 한 장을 알아채는 것과, 문장이나 음성처럼 '순서가 있는 정보'를 이해하는 것은 차원이 다른 문제입니다. 말의 뜻을 파악하려면 앞서 나온 정보를 잊지 않고 기억해야 하기 때문입니다. 하지만 초기 순환신경망은 정보가 여러 단계를 거치는 동안 신호가 점점 약해져, 문장이 길어지면 앞부분의 내용을 까맣게 잊어버렸습니다.

1997년, 슈미트후버와 호흐라이터는 긴 시간 간격 속에서도 신호를 잃지 않는 장단기기억(LSTM, Long Short-Term Memory) 구조를 발표했습니다.[6] 초기 LSTM은 정해진 대로 기억을 유지했지만, 2000년 펠릭스 게르스, 위르겐 슈미트후버, 프레드 커민스의 후속 연구에서 '망각 게이트'가 도입되면서 유연함이 더해졌습니다. 쌓인 정보 중 무엇을 기억하고 언제 초기화할지 기계가 스스로 판단할 수 있게 된 것입니다.[7]

💡
[잠깐] LSTM에서 트랜스포머로: AI 기억법의 대전환

LSTM은 음성 인식과 기계번역 등'시간의 흐름'을 다루는 데 큰 족적을 남겼습니다. 그러나 오늘날 거대언어모델의 핵심 기반은 2017년에 등장한 트랜스포머(Transformer)입니다.

* LSTM: 정보를 순서대로 하나씩 차례차례 전달하며 기억합니다.

* 트랜스포머: 문장 전체를 한 번에 펼쳐놓고, 단어들이 서로 어디에 집중(Attention)해야 하는지 동시에 계산합니다.[8]

LSTM이 '긴 기억을 유지하는 법'을 가르쳐준 전환점이었다면, 트랜스포머는 그 기억과 관계를 병렬적으로, 대규모로 한 번에 처리하는 길을 열어준 셈입니다.

[그림 2] 네 개의 연구 계보

네 계보는 각각 독립된 발명이 아니었습니다. "기계가 스스로 배운다"는 표현학습이라는 하나의 공통 뿌리 위에, 시각과 언어, 그리고 시간과 기억이라는 인간의 핵심 지능을 차곡차곡 연결해 낸 위대한 협동의 역사였습니다.


질문 3. 오래된 아이디어는 왜 2012년에 폭발했는가?

딥러닝의 역사는 아무리 뛰어난 아이디어라도 그 자체만으로는 기술 혁명을 일으킬 수 없다는 사실을 잘 보여줍니다. 신경망의 핵심 개념들은 이미 수십 년 전에 세상에 나왔지만, 이를 실제로 거대한 규모로 돌려볼 '데이터'와 '연산 능력'이 턱없이 부족했기 때문입니다.

결정적인 전환점은 2012년 이미지넷(ImageNet) 경연 대회였습니다. 제프리 힌턴과 그의 제자들(알렉스 크리제브스키, 일리야 수츠케버)이 개발한 '알렉스넷(AlexNet)'은 약 120만 장의 대규모 이미지 데이터를 이용해 합성곱 신경망(CNN)을 학습시켰습니다. 특히 이들은 방대한 계산을 처리하기 위해 그래픽처리장치, 즉 GPU를 본격적으로 활용했습니다.

알렉스넷의 성과는 압도적이었습니다. 이미지 분류 상위 5개 오류율에서 15.3%를 기록하며, 기존 방식으로 2위를 한 모델(26.2%)을 압도적인 차이로 제쳐버린 것입니다.[9] 이 사건은 신경망이 더 이상 정밀하게 통제된 실험실용 장난감이 아니라, 현실 세계의 복잡하고 무질서한 데이터도 완벽하게 처리할 수 있음을 세상에 증명해 냈습니다.

하지만 알렉스넷의 승리가 세 사람만의 성취는 아니었습니다. 그 배경에는 페이페이 리 교수가 이끈 대규모 데이터셋 프로젝트, '이미지넷'이 있었습니다. 연구진은 인터넷에서 수백만 장의 이미지를 모은 뒤, 온라인 크라우드소싱 플랫폼(아마존 메커니컬 터크)을 통해 수많은 사람들의 손을 거쳐 일일이 라벨(정답)을 붙였습니다.[10]

이미지넷(데이터) + GPU(연산 장치) + 합성곱 신경망(알고리즘)

이 세 가지 요소가 마침내 하나로 결합하면서, 오랫동안 잠들어 있던 아이디어는 폭발적인 산업적 잠재력을 드러냈습니다.

알렉스넷의 성공은 신경망을 바라보는 세상의 시선을 완전히 바꾸어 놓았습니다. 과거에는 신경망의 성과가 안 나오면 "알고리즘 자체에 한계가 있다"고 의심했습니다. 그러나 2012년 이후부터는 "충분한 데이터와 연산 자원(GPU)을 쏟아붓고 모델의 크기를 키우면 성능은 계속 올라간다"는 새로운 믿음이 확산되기 시작했습니다.

[그림 3] 딥러닝 전환의 세 조건

여기서 AI 권력의 첫 번째 거대한 이동이 발생합니다. 연구자의 머릿속에서 나오는 가설만큼이나, '얼마나 거대한 데이터를 쥐고 있는가'와 '얼마나 강력한 반도체를 동원할 수 있는가'가 핵심 요소로 부상한 것입니다.

AI 연구는 순수한 이론과 알고리즘 경쟁을 넘어 '알고리즘·데이터·컴퓨팅 인프라'라는 3대 요소의 결합 싸움으로 변모했습니다. 이후 AI 시대를 지배하는 힘은 단순히 뛰어난 논문을 쓰는 능력을 넘어, 더 많은 데이터를 쓸어 모으고 더 거대한 슈퍼컴퓨터를 가동할 수 있는 능력으로 옮겨가게 되었습니다.


질문 4. 그렇다면 AI 혁명의 발명자는 누구인가?

2018년 컴퓨터 과학 분야의 노벨상이라 불리는 'ACM 튜링상'은 제프리 힌턴, 얀 르쿤, 요슈아 벤지오 삼인방에게 공동 수여됐습니다. (공식 발표는 2019년 3월). ACM은 세 사람이 심층신경망을 현대 컴퓨팅의 핵심 기술로 올려놓은 개념적·공학적 돌파구를 마련했다고 평가했습니다.[11] 이들은 이후 '딥러닝의 대부들'로 불리며 AI 혁명의 대표적인 얼굴이 되었습니다.

그러나 이 세 명의 이름만으로 역사를 정리해 버리면, 그 뒤에 숨은 수많은 거장들의 계보가 지워지고 맙니다.

장단기기억(LSTM)을 만든 호흐라이터와 슈미트후버, 역전파 핵심 논문을 함께 쓴 루멜하트와 윌리엄스, 볼츠만 머신 연구의 동반자 세지노스키, 그리고 알렉스넷을 실제로 구현해 낸 크리제브스키와 수츠케버를 빼놓고는 딥러닝의 발전을 결코 설명할 수 없습니다.

어디 이들뿐일까요? 대규모 데이터셋을 구축한 연구자들과 라벨링 작업을 수행한 수많은 데이터 노동자, GPU와 전용 소프트웨어를 개발한 엔지니어, 그리고 연구에 자금을 대고 이를 서비스로 확장한 기업들 역시 이 역사의 주인공으로 포함되어야 합니다.

LSTM의 창시자 슈미트후버가 딥러닝의 역사와 '발명의 우선권'을 두고 지속적으로 강력하게 문제를 제기해 온 이유도 바로 여기에 있습니다. 공식적인 AI 역사가 자신과 동료 연구자들의 선행 연구를 충분히 조명하지 않았다는 주장입니다.[12]

물론 그의 모든 주장에 100% 동의할 필요는 없을지 모릅니다. 기술적 아이디어는 서로 다른 시기와 공간에서 독립적으로 우연히 탄생하기도 하며, '최초의 이론적 아이디어'와 이를'실제로 작동하게 만든 공학적 성취' 사이의 경계가 늘 명확한 것은 아니기 때문입니다.

다만 이 격렬한 논쟁은 우리에게 중요한 사실 하나를 일깨워 줍니다. 기술의 역사는 단순히 '연구 성과의 목록'만으로 적히지 않는다는 점입니다. 학회와 기업, 언론과 시상 기관이 수많은 기여 중 어떤 성과를 표준으로 채택하고 누구를 조명하느냐에 따라 '공식적인 발명자'의 이름표가 정해지는 것입니다.

결론: AI의 미래는 어디로 향하는가

따라서 “AI 혁명은 누가 발명했는가?”라는 질문의 답은 결코 한 사람의 이름일 수 없습니다.

  • 힌턴은 기계가 세상을 이해하는 내부 표현을 배우는 길을 넓혔습니다.
  • 르쿤은 기계가 이미지의 공간 구조를 읽어내도록 만들었습니다.
  • 벤지오는 단어의 표현과 언어의 확률을 함께 학습하는 방법을 발전시켰습니다.
  • 슈미트후버와 호흐라이터는 신경망이 긴 시간의 흐름을 견디는 기억 구조를 선사했습니다.

그리고 홉필드, 세지노스키, 루멜하트, 윌리엄스, 크리제브스키, 수츠케버를 비롯한 수많은 연구자들이 이 위대한 사슬을 연결했습니다. 여기에 이미지넷과 데이터 노동자들이 기계가 학습할 세상을 만들어 주었고, GPU와 대규모 컴퓨팅 인프라가 머릿속 아이디어를 현실의 파괴적인 힘으로 바꾸어 놓았습니다.

AI 혁명은 어느 외로운 천재 한 명이 만들어 낸 단독 발명품이 아닙니다. 오랫동안 치열하게 치열하게 치열하게 경쟁하고 서로 연결되어 온 연구 계보, 그리고 이를 폭발시킨 '데이터·연산·자본'의 결합이 만들어 낸 집대성입니다. 동시에, 누구의 기술이 표준이 되고 누구의 이름이 역사에 기록되는가를 둘러싼 '지식 권력의 결과물'이기도 합니다.

AI의 역사가 보여주는 메시지는 명확합니다. 기술의 미래는 결코 단순한 알고리즘 하나만으로 결정되지 않는다는 사실입니다.

"무엇을 학습시키는지, 누가 연산 자원을 소유하는지, 어떤 기업이 기술과 시장을 연결하는지에 따라AI의 방향과 권력이 완전히 달라집니다."

이어질 열 편의 ‘AI 미래보고서’는 이 질문을 가지고 데이터와 검색, 미디어와 노동, 저작권과 교육, 반도체와 에너지의 치열한 현장으로 들어갑니다.


[기획시리즈 목차] 40인이 보내온 미래 보고서


[0] 프롤로그 | 미래는 어디서 먼저 시작되는가 - AI 혁명의 선도자

[Part 1] AI는 무엇이 되고 있는가 (인터페이스와 노동의 재정의)

[보고서 01] AI는 답변하는 도구에서 '행동하는 노동자'로 바뀐다

[보고서 02] 검색의 종말: 정보 찾기에서 '의사결정 대행'으로

[보고서 03] 소프트웨어의 대중화: 사용자가 곧 개발자가 되는 시대


[Part 2] AI는 무엇을 생산하는가 (기술 경제학과 생산성의 확장)

[보고서 04] 과학의 가속: 인간의 독해 속도를 넘어서는 발견의 AI

[보고서 05] 피지컬 AI: 기계에서 '몸을 가진 지능'으로의 진화

[보고서 06] 추론 경제학: 가장 똑똑한 모델보다 '가장 싼 정답'이 이긴다

[보고서 07] 데이터의 재정의: 긁어모으는 자산에서 '가르치고 평가하는 능력'으로


[Part 3] AI는 사회의 구조를 어떻게 바꾸는가 (조직, 미디어, 지정학)

[보고서 08] 조직의 재설계: 일자리 소멸이 아니라 '팀과 의사결정의 해체'

[보고서 09] 미디어의 생존법: 트래픽 장사에서 '신뢰와 인용권' 판매로

[보고서 10] AI 기술 블록화: 가장 세계적인 기술이 만든 '가장 지정학적인 국경'


미주

[1] The Royal Swedish Academy of Sciences, “The Nobel Prize in Physics 2024: Press Release,” NobelPrize.org, October 8, 2024.
2024년 노벨 물리학상이 인공신경망을 이용한 머신러닝의 기반을 마련한 존 홉필드와 제프리 힌턴에게 수여됐음을 밝힌 공식 발표문. (nobelprize.org)

[2] The Royal Swedish Academy of Sciences, “The Nobel Prize in Physics 2024: Popular Science Background,” NobelPrize.org, October 8, 2024.
홉필드의 연상기억 신경망과 힌턴·테런스 세지노스키의 볼츠만 머신이 오늘날 머신러닝의 기반을 형성한 과정을 설명한 노벨위원회의 해설 자료. (nobelprize.org)

[3] David E. Rumelhart, Geoffrey E. Hinton, and Ronald J. Williams, “Learning Representations by Back-Propagating Errors,” Nature, Vol. 323, 1986, pp. 533–536.
출력 오류를 신경망의 앞쪽 층으로 전달해 연결 가중치를 조정하고, 은닉층이 문제 해결에 필요한 내부 표현을 학습하도록 한 역전파 연구의 대표 논문. (nature.com)

[4] Yann LeCun et al., “Handwritten Digit Recognition with a Back-Propagation Network,” Advances in Neural Information Processing Systems 2, 1989.
공간적 구조를 반영한 신경망을 손글씨 우편번호 인식에 적용해, 복잡한 수작업 전처리 없이 이미지의 특징을 학습할 수 있음을 보여준 연구. (proceedings.neurips.cc)

[5] Yoshua Bengio, Réjean Ducharme, Pascal Vincent, and Christian Jauvin, “A Neural Probabilistic Language Model,” Journal of Machine Learning Research, Vol. 3, 2003, pp. 1137–1155.
단어의 분산표현과 단어 시퀀스의 확률을 하나의 신경망 안에서 동시에 학습하는 방법을 제시한 초기 신경망 언어모델 연구. (jmlr.org)

[6] Sepp Hochreiter and Jürgen Schmidhuber, “Long Short-Term Memory,” Neural Computation, Vol. 9, No. 8, 1997, pp. 1735–1780.
기존 순환신경망에서 장기 의존성을 학습하기 어려웠던 문제를 해결하기 위해 LSTM 구조를 제시한 논문. (direct.mit.edu)

[7] Felix A. Gers, Jürgen Schmidhuber, and Fred Cummins, “Learning to Forget: Continual Prediction with LSTM,” Neural Computation, Vol. 12, No. 10, 2000, pp. 2451–2471.
초기 LSTM에 망각 게이트를 추가해 내부 상태를 적절한 시점에 초기화하고 불필요한 정보를 지울 수 있도록 한 후속 연구. (direct.mit.edu)

[8] Ashish Vaswani et al., “Attention Is All You Need,” Advances in Neural Information Processing Systems 30, 2017.
순환 구조를 사용하지 않고 어텐션을 중심으로 문맥의 관계를 계산하는 트랜스포머를 제안한, 오늘날 거대언어모델의 핵심 구조적 기반이 된 논문. (arxiv.org)

[9] Alex Krizhevsky, Ilya Sutskever, and Geoffrey E. Hinton, “ImageNet Classification with Deep Convolutional Neural Networks,” Advances in Neural Information Processing Systems 25, 2012.
대규모 이미지 데이터와 GPU를 이용해 심층 합성곱 신경망을 학습하고 이미지넷 경연에서 큰 성능 격차로 우승한 알렉스넷 논문. (proceedings.neurips.cc)

[10] Jia Deng et al., “ImageNet: A Large-Scale Hierarchical Image Database,” Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2009.
인터넷에서 이미지를 수집하고 아마존 메커니컬 터크의 참여자들이 이를 검증하는 방식으로 대규모 이미지 데이터셋을 구축한 과정을 설명한 논문. (image-net.org)

[11] Association for Computing Machinery, “Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award,” March 27, 2019.
제프리 힌턴·얀 르쿤·요슈아 벤지오를 심층신경망을 컴퓨팅의 핵심 기술로 만든 공로로 2018년 튜링상 공동 수상자로 선정한 ACM의 공식 발표문. (awards.acm.org)

[12] Jürgen Schmidhuber, “How 3 Turing Awardees Republished Key Methods and Ideas Whose Creators They Failed to Credit,” IDSIA Technical Report, 2023, subsequently revised.
딥러닝의 공식 역사와 튜링상 수상자들의 공로 배분에 대해 슈미트후버가 직접 제기한 우선권 논쟁을 확인할 수 있는 1차 자료. 다만 이는 논쟁 당사자의 주장으로, 그 정당성 전체를 입증하는 중립적 자료는 아니다. (people.idsia.ch)


[참고] AI 인물열전

AI 인물 열전 1 | 김경달 | 이은북 - 예스24
한때 학계의 이단아였던 여섯 사람그들이 그린 청사진에서 오늘의 AI가 시작됐다2022년 11월 30일, 샌프란시스코의 한 스타트업이 회사 블로그에 짧은 글을 올렸다.“챗GPT(ChatGPT)라는 대화형 모델을 리서치 프리뷰로 공개합니다.”그다음에 일어난 일?…
Newsletter
디지털 시대, 새로운 정보를 받아보세요!

미디어와 비즈니스, AI를 다루는 구독 기반 경제미디어 더코어(The Core)의 대표이자 스타트업 BluedotAI의 공동 창립자이다. 고려대 미디어대학원에서 ‘AI와 저널리즘’을 강의하는 겸임교수로도 활동중이다.

'Neo Touchpoint'를 창업했었다. 창업 전, 동아일보 기자를 거쳐 네이버 등 인터넷 포털에서 전략기획 및 동영상 서비스 업무를 담당했다.

KBS 이사를 역임했고 현재 한겨레신문 사외이사를 맡고 있다. ‘유튜브 트렌드’와 ‘디지털 미디어 인사이트’ 등 6권의 책을 단독 혹은 공동으로 출간했다.
문의 : heenby@gmail.com

더코어 스토어