이세돌을 이긴 AI의 아버지가 경고하는, AGI의 두 가지 위험

딥마인드의 CEO로서 AI 연구를 이끌어온 데미스 하사비스(Demis Hassabis)의 인터뷰입니다. 렉스 프리드먼(Lex Fridman)라는 미국의 과학자 겸 팟캐스터의 유튜브에서 컴퓨터와 AI는 물론 게임, 프로그래밍, 모델링 등 온갖 종류에 대한 자신의 인사이트를 공유했습니다.

아래는 내용의 요약본입니다. 시간이 되신다면 영상 전체를 보시는 것을 추천드립니다.

• AI는 기술을 넘어 철학과 우주에 관한 답을 줄 수 있음. 하사비스는 AI를 이 시대의 '망원경' 또는 '현미경'이라 표현하기도.
• 컴퓨터 시뮬레이팅이 가장 어려운 영역 중 하나는 유체역학(특히 나비에-스토크스 방정식)이라고. 기상 예측 등 우리 생활에 엄청난 영향을 주는 유체역학 문제는 지금까지의 방식으로는 해결하기 어려웠음. 하지만 AI, 특히 비디오 생성 AI 모델의 발전으로 이 영역에서의 급진전이 일어날 수도 있다고.
• 딥마인드 비디오 생성 모델인 V3를 예로 들면, 이것은 단순히 픽셀을 흉내내는 정도가 아니라 물리학에 대한 높은 이해도를 담고 있음. 단순히 기존 비디오 데이터를 학슴함으로써 물리 현실을 역설계하는 것.
• 예컨대 질병과 관련된 '단백질 접힘 문제'를 알파폴드가 해결한 것을 보라. 단백질이 접히는 경우의 수는 엄청나게 많음. 그것이 가진 물리, 화학적 제약 조건이라는 구조를 AI가 학습하고 파헤쳐 효율적인 대입 방식을 찾아서 단백질 접힘 문제가 해결됨. 이처럼 자연을 무작위로만 받아들이지 않고 자연이 가진 패턴을 학습해 문제를 해결하는 게 AI의 핵심.
• 비슷하게 'P=NP' 문제(어떤 문제의 답을 검증하기 쉽다면, 그 답을 찾는 것도 쉬운가)가 있음. 이는 우주의 본질에 대한 질문이기도 함. 우주는 에너지나 물질따위가 아닌 더 근본적인 정보로 이뤄진 거대한 정보처리시스템임.
• 즉, P=NP는 우주는 무엇이든 효율적으로 계산할 수 있는가에 관한 물리학적 질문이기도 함. AI가 우주의 복잡한 문제들을 효율적으로 풀어내는 '계산기' 역할을 한다면 우주의 특성을 파악할 가능성이 생김.
• AI의 창의성은 "모델 + 검색"에서 비롯됨. 딥러닝 모델이 어느 영역에 대한 직관과 이해를 가진다면 검색 알고리즘은 그것을 바탕으로 데이터를 쌓고 분해해 인간 지식을 뛰어넘는 식.
• 알파고 vs 이세돌의 대국을 보자. 그 대국은 AI 창의성을 보여주는 완벽한 예시. 그때 알파고가 보여준 신의 한 수들이 다른 영역에서도 재현하고 싶음.
• 다만 AI도 뚜렷한 한계를 가짐. "이세돌을 이겨!" 같은 구체적인 목표에 대해서는 효율적이지만 "바둑 같은 게임을 새로 만들어" 같은 열린 목표를 스스로 추구하고 설정하는 능력은 부족.
• 하사비스의 꿈은 세포를 원자 수준에서 완벽히 시뮬레이팅하는 '가상 세포(Virtual Cell)' 프로젝트. 이게 성공할 경우 신약 등 과학의 패러다임이 완전히 바뀔 것.
• AI는 게임을 예술의 경지로 이끌 것. 게임 속 세계를 선형적인 세계가 아닌, 플레이어마다 다른 세계 속에 살 수 있는 '리얼 월드'로 만들 것.
• AI 혁명은 과거 산업 혁명보다 최소 10배는 빠르고 10배는 영향력이 클 것. 너무 급진적이라 사회 시스템이 감당하기도 힘들 것이기에 이에 대비한 사회적 합의 등 노력이 필수.
• AI로 인한 일자리 소멸도 있긴 하겠으나 완전히 새로운 형태의 직업들이 대량으로 새로 창출될 것임. 중요한 건 적응과 재교육. 보편적 기본 소득(UBI)처럼 AI가 만들어내는 부를 소수가 독점하지 않고 모든 사회에 분배해야 한다고 강조.
• AGI는 두 가지 위험을 가짐. 첫째는 악인(惡人)이 AI를 무기로 사용하는 것. 둘째는 인간이 AI를 통제하지 못하는 것. 이 위협들은 충분히 현실적이기에 AGI에 대한 전방위적인 협력과 신중한 접근이 필수다.