메타(Meta)의 AI 총책임자인 얀 르쿤(Yann LeCun)은 최근 트위터(X)에서 "기계의 창의성"에 대한 트윗을 올렸습니다. 이 트윗은 AI와 창의성에 대한 논쟁에서 매우 빈번하게 인용되고 있습니다.

얀 르쿤의 주장은 창의성에 대한 게으른 기술주의적 관점입니다. 인공지능은 창조적이라는 주장을 (슬쩍) 담고 있고 있습니다. 이는 철학적 주장을 가장한 법적 주장입니다. 얀 르쿤의 주장은 수십만 명의 창작물을 착취했다는 비난에 대한 방어 수단이기 때문입니다.

이 글은 AI가 본질적으로 창의적이지 않다는 점을 주장할 것입니다. 나아가 얀 르쿤의 주장이 왜 법적 (회피)논거로 읽힐 수 있는지 설명하고 있습니다.

창의성에 대해 논하기 앞서 앞선 얀 르쿤의 트윗 주장에서 눈에 띄는 오류는 메타(Meta)는 인간이 아니라 기업입니다. 기업이 예술가의 영감을 운운하며 ‘의인화'를 시도하고 있습니다.

얀 르쿤만이 창의성에 대한 잘못된 생각을 가지고 있는 것은 아닙니다.  창의성 관련 널리 인용되는 논문은 Jennifer Haase와 Paul H.P. Hanel의 ‘인공 뮤즈: 생성 AI 챗봇이 인간 수준의 창의력을 발휘하다’입니다.

이 논문에는 아래와 같은 표현이 담겨 있습니다.

‘새로움'과 ‘유용함'이라는 창의성 정의와 인간의 평가라는 측정 방식이 타당할까요? AI는 지시를 받지 않고 스스로 무언가를 생산하지 않습니다. 기계 자체는 아무것도 생산하지 않습니다. 인간이 AI를 도구삼아 결과물을 생산합니다. 그런 다음 (다른) 인간이 그 결과물에 창의성이 있다고 판단한다면 그 기계 자체가 창의적이라고요? 저로서는 수용할 수 없는 창의성 정의와 창의성 측정 방식입니다.

마찬가지로 에단 몰릭(Ethan Mollick)은 창의성 자동화란 글에서 "AI는 실제로 창의적"이라고 주장합니다. 널리 공유된 그의 글은 GPT 4.0이 어떻게 창의성 테스트를 능가할 수 있는지를 보여주고 있습니다. 에단 몰릭의 ‘창의성 테스트'라는 창의성 측정 방식은 세 편의 논문을 기반으로 합니다. 이 세 논문은 인간 심사위원들이 인간의 결과물보다 AI의 결과물을 더 창의적인 것으로 간주하고 있는 점을 보여 줍니다. 위의 창의성은 “결과물을 접하는 사람들에 의해 평가될 수 있다"는 주장과 유사한 논리 구조입니다.

그러나 이러한 창의성 테스트라는 측정 방식은 AI가 창의적이라는 것을 전혀 보여주지 않습니다. 위 세 개의 논문들은 AI가 창의성이 요구되는 테스트를 통과할 수 있는 아이디어(!)를 생성할 수 있을 만큼 충분히 발전했다는 것을 보여줄 뿐입니다. 이를 AI가 창의성을 사용하여 테스트를 통과했다고 말하는 것은 논리적 비약입니다.

알고리즘에 의해 생성된 모든 것이 그렇듯이 그 안에서 의미를 발견하는 것은 판단자인 우리 인간입니다. "창의적인 AI"의 경우, 그 안에서 창의성을 보는 것은 바로 우리입니다. 하지만 AI가 시를 쓰고 있고 많은 사람들이 그 차이를 구분하지 못한다고 해서 AI가 감동을 주는 시를 만들어내는 창의적인 결정을 내릴 수 있는 감정적 추진력을 가지고 있다는 의미는 아닙니다. 단지 사람들이 그 결과물을 창의적이라고 생각하는 수준에서 시를 모방할 수 있다는 의미일 뿐입니다.

"AI는 창의적이다"라는 주장의 또 다른 근거는 휴 하울리(Hugh Howley)의 블로그에서 찾을 수 있습니다.

‘행동'이라는 단어가 눈길을 끕니다.

행동주의의 한계

행동주의(Behaviorism)는 1920년대에 유행했던 심리학의 한 분야입니다. 행동주의를 간단하게 설명하겠습니다. 행동주의에 따르면 인간 내적 경험에 대한 보고서는 신뢰할 수 없습니다. 따라서 심리학이 과학적으로 신뢰할 수 있는 것은 행동 관찰뿐이며 심리학에서 중요한 것은 행동뿐입니다.

AI가 창의적이거나, 이해력이 있거나, 의식이 있거나, 다른 정신적 과정을 가지고 있다고 주장하는 사람들도 행동주의의 논리를 따르고 있습니다: AI의 출력(=행동)이 이렇다거나 저렇기 때문에 기계는 이렇다거나 저렇다는 식의 의인화가 요즘 AI 행동주의의 주요 논리입니다.

그러나 행동주의는 인지 혁명으로 무너졌습니다. 인지 과학 및 신경 과학의 발전으로 인간 뇌를 들여다보고 실제 정신 과정을 관찰 할 수 있게되었기 때문입니다. AI가 우리가 창의적이라고 생각하는 방식으로 행동한다고해서 AI에 내부 창의성이 있다는 것을 의미하지는 않습니다. 창의성은 결과물이 아니라 그 결과물을 이끌어내는 정신적 과정이며, 그 정신적 과정이 '창의적'이라는 속성을 지니게 됩니다.

얀 르쿤과 에단 몰릭을 비롯한 행동주의자들이 저지르는 실수는 결과물을 과정으로 착각하는 것입니다. AI가 새로운 것을 만들어내는 것은 창의성을 사용하는 것이 아니라 가중치 데이터베이스의 데이터 포인트를 보간(interpolation)하는 것입니다. 이것은 창의적이지 않습니다. AI는 여기서 아무것도 결정하지 않습니다. 인간이 지시한 것 외에 다른 것을 하려는 의도가 없습니다.

창의성에 대한 정의는 무수히 많지만, 그 정의가 모두 맞는 것 같지는 않습니다. 기본적으로 창의성은 탐색적, 변형적, 조합적 세 가지 방식으로 발휘될 수 있습니다. 탐색적이란 일련의 규칙을 탐색하여 새로운 것을 찾는 것을 의미하고, 변형적이란 규칙을 구부리거나 깨는 것을 의미하며, 조합적이란 이전에 보았던 규칙을 결합하는 것을 의미합니다. 제가 생각하는 창의성의 기준은 주로 규칙을 깨거나 규칙을 구부리는 것, 주어진 맥락에서 다소 엉뚱하게 놀라움을 주고 관심을 끄는 것입니다.

Daniel Dennett은 창의성에 대해 이렇게 말합니다:

여기서 ‘튀어나옴(jumping)’은 '시스템을 뛰어넘다'라는 뜻입니다. 시스템을 뛰어넘다의 뜻은, 자신이 관여하고 있는 시스템을 심층적으로 이해하고 그 시스템의 규칙을 깨고 새로운 해결책을 찾아야 한다는 말입니다.

인간은 그렇게 할 수 있습니다. 누군가 저에게 산책을 가자고 제안합니다. 저는 기분이 좋다면 광대 복장을 할 수도 있습니다. 저는 '산책'이라는 시스템에서 벗어나 그저 웃음을 위해, 장난을 치기 위해 새로운 농담을 만들어냅니다. ‘산책'이라는 메시지가 표시되면 AI는 본질적으로 광대 코스튬을 제안할 생각이 떠오르지 않습니다. AI는 때때로 참신함을 만들어낼 수는 있지만, 기계이기 때문에 완전히 틀을 벗어나서 야생적인 것을 통합할 수는 없습니다. 하지만 인간인 저는 할 수 있습니다.

모든 것은 복잡하다

창의성의 한 가지 핵심은 정신적 표상을 의식적으로 조작하는 것입니다: 저는 고양이의 야옹 소리를 떠올리고 그것을 짖는 소리로 바꾸어 (개처럼) 짖는 고양이라는 참신한 아이템을 만들어냅니다. 이것은 AI가 할 수 없는 의식적인 과정입니다. 프롬프트 없이 짖는 고양이를 발명한 AI는 없습니다. AI는 프롬프트라는 메시지의 노예입니다. 짖는 고양이를 생성하는 인공지능의 창의성은 생성 과정 자체가 아니라 프롬프트에 의해 조정을 받습니다.

형식적으로 모든 것이 리믹스(Everything is a Remix)라는 말이 맞을지 모르지만 이 말은 너무 오랫동안 사용 및 남용되어 왔으므로 해체되어야 합니다. 모든 창의적인 사고는 우리의 내면에 있습니다. 그렇다고 해서 화가의 그림이 화가가 이전에 보았던 예술 작품에서만 영감을 받았다는 의미는 아닙니다. 모든 창의적인 결과물은 특정한 순서 없이 예술가의 의식 속에 들어오고 나간 수백만 가지의 사물과 과정들이 모여서 만들어졌다는 의미입니다: 물론 다른 예술가들의 작품도 있지만, 우유와 꿀의 맛, 아픈 친구를 병원에 면회하러 갔다가 지나가는 자동차 소리, 고통스러운 이혼 과정에서 겪은 감정, 어둠 속에 숨어 있는 성적 변태, 다른 사람을 만졌을 때의 느낌, 가을 비 오는 날의 나무의 모양과 소리 등. 이 모든 것들은 작가의 의식 속에 숨어 있습니다. 이 외에도 10억 개 이상의 아이디어가 영감의 원천입니다. 영감과 창의성에 대한 값싸고 얄팍하며 기술주의적인 이해에 대한 변명으로 '모든 것이 리믹스다'라는 말이 계속해서 반복되는 것은 모욕입니다.

Roland Meyer는 다음과 같이 말하고 있습니다.

우리는 연구 환경에서 생성된 데이터베이스로 작동하는 상용 제품에 대해 이야기하고 있으며, 따라서 공정 사용 규정을 악용하고 있습니다.

인공지능이 '창조적'이라는 얀 르쿤과 앞서 살펴본 다른 사람들의 주장은 철학적 주장을 가장한 법적 주장이며, 법률 시스템과 수십만 명의 창작물을 착취했다는 비난에 대한 방어 수단이라고 해도 과언이 아닙니다. 그들의 논리는 다음과 같습니다.

AI는 인간과 매우 닮았고, 인간처럼 예술과 글에서 영감을 받았을 뿐이며, 창의성과 같은 인간의 특성을 보여주고 있고, 심지어 의식까지 가지고 있다면 이것이 어떻게 불법이 될 수 있을까요, 재판장님?

ChatGPT는 상상력을 기계화하고 있습니다. 이는 창작 행위에 대한 우리의 참여를 무가치하고 불필요한 것으로 만듭니다. ChatGPT의 의도는 창작 과정과 그에 수반되는 어려움을 시간 낭비이며 불편함에 지나지 않는다고 보는 것입니다. 왜 노력하느냐고 반문합니다. 예술적 과정과 그에 수반되는 시련이 귀찮지 않냐고 묻고 있습니다. 왜 '더 빠르고 쉽게' 만들면 안 될까요라고 질문하고 있습니다.

그러나 다른 시대의 다른 사람의 말을 빌리자면, "우리가 창의성을 선택하는 것은 쉽기 때문이 아니라 어렵기 때문"입니다.

AI가 의도적으로 프롬프트의 규칙을 위반할 수 있을 때까지 AI는 창의적이지 않습니다. 그때까지 얀 르쿤의 주장은 틀린 것입니다.

AI와 저작권 논의(2): 우리가 알고 있던 저작권의 종말

거대언어모델은 덧붙이고 첨삭이 가능한 확률론적 라이브러리입니다. 텍스트 프롬프트를 통해 데이터베이스에 존재하는 모든 패턴을 다른 패턴과 결합하여 새로운 리믹스를 만들 수 있습니다. 때문에 저작권법의 근본적인 방향 전환이 필요합니다. 생성 AI 시대에 전통적 지적 재산과 저작권 개념은 급격한 변화에 직면해 있습니다. 생성 AI 시스템을 제공하는 AI 기업을 상대로 한 첫 번째 소송은

더코어(The Core)강정수

AI와 저작권 논의(1): 인공지능의 정의를 찾다

인공지능 관련 저작권 침해 소송이 줄을 잇고 있습니다. 23년 6월 캘리포니아 소재 한 로펌은 인터넷 이용자의 저작권과 개인정보를 OpenAI가 대규모로 침해했다는 이유로 OpenAI를 상대로 집단 소송을 제기했습니다. 이 집단 소송장은 OpenAI의 데이터 사용에 대한 보상을 요구합니다. 소송장에 따르면 위키페디아 게시글, 소셜 미디어 게시물, 블로그 포스트 및 기타 여러 텍스트를 포함한

더코어(The Core)강정수