강정수의 주간 추천 1(23년 5월 29일): 실리콘 벨리의 진영 대립, 인공지능 윤리학의 문제

강정수

2023년 5월 29일

전통 엘리트와 테크 엘리트의 대결

첫 번째 글은 Silicon Valley’s Civil War. 제목이 표현하듯 실리콘 벨리에 커대한 싸움이 전개되고 있습니다. 한쪽은 Andreessen Horowitz, Elon Musk 그리고 Peter Thiel이 있고 다른 편에는 Bill Gates와 피에르 오미디야르(Pierre Omidyar)가 있습니다. 편의상 전자를 1그룹, 후자를 2그룹이라 부르겠습니다.

1그룹 또한 엘리트 집단이지만 2그룹 집단에 반기를 들며 anti-elite 운동을 전개하고 있습니다. 1그룹은 2그룹을 "현 지배 세력의 견고한 과두제 구조(entrenched oligarchic structur of the present regime)"이라고 부릅니다. 2그룹의 뒷배는 미국 국무부와 뉴욕타임스입니다.
링크드인과 이베이의 창업자 리드 호프만(Reid Hoffman)과 피에르 오미디야르는 인공지능이 "공정과 정의라는 사회 가치를 옹호할 수 있도록" 270만 달러를 기부했습니다.
반면 안드레센은 인공지능 훈련이 "깨어있는 정신 바이러스"에 악영향을 미친다고 주장합니다.
1그룹을 공화당, 2그룹을 민주당 지지자로 구별할 순 없습니다.
1그룹에 속하는 Y Combinator의 대표 개리 탄(Garry Tan)은 "항상 민주당원이었고 앞으로도 민주당원일 것"이라고 단언하면서도 학벌주의보다 능력주의 중시, 제도를 우회하여 문제 해결, 기술 산업의 성공을 뒷받침하는 특정 원칙 수용을 1그룹의 원칙이라고 말합니다. 2그룹은 반대라는 이야기겠죠.
1그룹과 2그룹은 각각 상대방이 미국 문제 나아가 세계 문제의 근원이라고 간주하고 있습니다. 진영 싸움같습니다.
2그룹은 이른바 다보스 맨(Davos Man)이라 불리는 엘리트 세력으로 1990년대 후반부터 2010년대 후반까지 미국을 넘어 세계 경제를 지배하는 엘리트 그룹입니다. 상호 연결될 글로벌 시민의식을 강조합니다. 사회적 기업가 정신, 임팩트 투자, ESG와 같은 트렌드에 찬사를 보냅니다. 클린턴 재단, 빌&멜린다 게이츠 재단, 조지 소로스의 열린 사회 재단 등이 이 그룹의 철학을 확산시키는데 주요 역할을 담당하고 있습니다.
2그룹 다시말해 다보스 엘리트는 글로벌 이슈에 집중함으로써 미국에 대한 관심에 거리를 두게 됩니다. 2그룹은 다국적 기업과 비영리 단체의 집단적 힘을 강조합니다.
1그룹 입장에서 볼 때 미국의 주요 가치인 기업가 정신, 자유, 능력주의, 야망 등이 2그룹에 의해 크게 약화되었습니다.
2그룹과 미국의 전통 지배층은 인터넷에 제동을 걸기 시작했습니다. 필요에 따라 검열이 강화됩니다.
1그룹은 여기에 반발하고 있습니다. 안드레센과 그 동료들은 인터넷으로 대변되는 창의성과 탐험 정심을 중요하게 여기고 있습니다.
1그룹은 개인의 야망을 인류 번영의 열쇠로 여깁니다. 2그룹의 '잘난 척하는 안일함'을 경계합니다. (미국) 공공 서비스의 비전 부족을 비판합니다. 안드레센은 경제적 잠재력이 큰 대도시에 주택을 건설하기 어려운 상황, 초중고 교육 개혁이 1960년대를 끝으로 진행되지 못하고 있는 점을 사례로 듭니다. 1그룹은 문샷(Moon Shot)을 옹호합니다. 큰 혁신이 성공하면 인류에게 광범위한 혜택이 가능하다고 믿기 때문입니다.
1그룹은 실리콘 벨리에서 재산을 모은 억만장자가 중심입니다.
페이스북-지금은 메타-의 모토는 "Move fast and break things(빨리 움직여 낡은 틀을 깨자)"입니다. 1그룹의 정신을 대변합니다.
1그룹은 뉴욕타임스보다는 Hacker News를 즐겨읽고 트위터, 블로그 그리고 substack을 매개로 대화하고 토론합니다.
1그룹은 대학교 또는 싱트탱크의 정책 보고서보다는 스콧 알렉산더(Scott Alexander), 폴 그리이엄(Paul Graham)의 저서를 읽으면서 사회에 대한 견해를 얻었습니다.
1그룹에게 있어 (대학교 졸업 등으로) 인간의 자격을 증명하는 것보다 (스타트업) 인재가 더 중요합니다. 재능있고 야심찬 사람만이 불합리한 규제에 가로막히지 않는 한 모든 것을 성취할 수 있기 때문입니다.
실리콘 벨리에서 큰 성공을 거둔 사람 중에는 2그룹에 합류하는 사람도 있습니다. 대표적으로 Salesforce의 공동 창립자 Marc Benioff, Slack의 공동 창업자 스튜어트 버터필드가 대표적 예입니다. 이들은 게이츠와 버핏 스타일의 기부에 기꺼이 나서고 있습니다.
1그룹은 기부가 아니라 자신의 직업적 성공이 인류의 숙제를 해결하는데 도움이 된다고 생각합니다. 1그룹은 기술의 진정한 혁신이야말로 진보를 가속화할 수 있으며 사회를 개선할 수 있는 새로운 가치 체계를 자신의 비즈니스에 투영할 수 있다고 생각합니다.
페터 틸은 Thiel 펠로우십을 운영합니다. 학교를 중퇴하고 자신의 아이디어 실현하기 위해 노력하는 사람에게 10만 달러를 지원하는 프로그램입니다. 이 프로그램 졸업생은 수십억 달러의 가치를 창출했으며 아이비리그 학력보다 더 존경받을 만한 길을 만들고 있습니다.
전통 미디어는 기술이 세상에 많은 문제를 일으켰다고 비판하고 있습니다. 다른 한 편에는 여전히 기술과 그 가지차가 세상을 개선할 수 있다고 주장하고 있습니다. 후자는 오해를 받고 있다고 생각하고 있습니다. 기술의 작동 방식을 이해하지 못하는 외부인의 공격을 받고 있다고 생각합니다. 이들이 1그룹의 시초입니다.
2016년 대선 이후 저커버그를 비롯한 테크 진영은 주류 언론의 공격을 받습니다. (다양한 사례가 소개됩니다.) 민주당 패배의 원인이 자신들이라는 주류 언론에 테크 진영이 등을 돌리는 계기가 됩니다.
코인베이스 공동 창업자 브라이언 암스트롱은 "모든 테크 기업이 대중에게 직접 다가가 미디어 기업이 되어야 한다"고 주장합니다. 저커버그도 사명을 메타로 변경한 직후 주류 언론과 인터뷰를 거부하고 Stratechery의 벤 톰슨과 같은 독립 크리에이터와 인터뷰를 진행했습니다.
1그룹은 제도가 아닌 개인을 변화의 주체로 봅니다. 때문에 제도를 우회하는데 더 관심이 있습니다.
1그룹 신흥 엘리트가 앞으로 L.A.의 엔터테인먼트 엘리트, 워싱턴의 정치 엘리트, 보스턴의 학계와 관계를 어떻게 맺어 나갈 수 있을까요?
1그룹은 스스로를 엘리트라 부르는데 주저하고 있습니다. 여전히 스크린 뒤 은둔의 은신처에 머물고 있습니다.
저자(Nadia Asparouhova)의 입장: 1그룹은 개인주의, 진보, 자유로운 기회 추구라는 고상한 비전에 부응하기 위해서 자신들뿐 아니라 국가 전체에 지속적인 이익을 가져다줄 수 있는 것을 구축하는 것으로 평가 받아야 합니다.

AI 윤리학의 자기 반성

두 번째 글은 AI 윤릭학자 Alberto Romero의 Why No One Wants AI Ethics Anymore입니다. AI 윤리에 관심 있으신 분은 전문을 읽어 보시길 추천합니다. 글의 핵심은 AI 윤리학의 가치는 매우 중요하나 ChatGPT 등 거대언어모델 비판에서 등장한 AI 윤리학의 논리는 대중과 커뮤니케이션을 거부하려는 극단적인 모습이라는 겁니다. 대중이 일상에서 접하고 있는 거대언어모델의 능력을 폄하하고 있는 AI 윤리학 진영은 대중과 대화를 시작하지 못하는 결함을 가지게 됩니다. 인정할 것은 인정해야 문제를 문제로서 대중이 바라볼 수 있게 된다는 이야기입니다. 다시한번 강조하지만 위 글의 저자는 AI 윤리학의 가치를 극찬하는 AI 윤리학자입니다. 글 전체에 대한 요약보다는 제게 울림이 되었단 문단을 번역하겠습니다.

하지만 AI 윤리학자의 목표가 명예롭기는 하지만 시간이 지남에 따라 그들의 태도가 나빠졌습니다. 자신과 조금이라도 의견이 다른 사람에게 보이는 적대감이 저를 불안하게 만들기 때문에 이들을 더 이상 이용하지 않으려 합니다. ...
몇 년 전에는 이런 느낌을 받은 적이 없는데, 왜 더 공격적으로 변한 것일까요? 세상은 계속 돌아가고 사람들은 점점 더 이러한 시스템을 과대포장하고 또는 과대포장 당하고 있기 때문일까요? 허공에 소리치고 있다고 느끼기 때문일까요? 그럴 수도 있겠지만, 분명 그런 일이 일어나고 있으며 이는 분노를 불러 일으킵니다. 자신이 옳다고 해도 이길 수 없는 전쟁을 치르는데 지쳐서 그런 것일까요? ...
어쩌면 그들이 자신들의 주장을 뒷받침하기 위해 제시했던 핵심 논거 중 일부가 ChatGPT와 같은 부인할 수 없는 실질적인 개선에 직면하여 무너지기 시작했기 때문일 수도 있습니다.

기업과 탐욕스러운 경영진 그리고 그들이 내리는 결정이 알고리즘의 진정한 위협이라는 논지를 유지하려면, 먼저 인공지능 시스템이 지능 또는 지성을 갖고 있거나 갖기 직전이라는 환상을 해체할 필요가 있습니다. 이를 위한 가장 쉬운 길, 즉 그들-AI 윤리학자-이 택한 길은 명백한 진전을 폄하하고 ChatGPT와 그 사촌들의 능력을 노골적으로 경멸에 가까운 최악의 시각으로 바라보며 조롱하는 것입니다(저는 동의하지 않습니다).

'확률적 앵무새(stochastic parrot)'는 윤리학자들이 일반 대중에게 전달하고자 했던 많은 조롱의 은유 중 가장 유명한 것이 되었습니다. 이 용어를 만든 논문은 지지지와 비방하는 사람들 모두에게 널리 읽혔습니다. 이 논문의 저자인 언어학자 에밀리 벤더(Emily M. Bender) 등은 이후 모든 GPT와 유사한 시스템에서 여전히 유효한 중요한 점을 제기했습니다. 그러나 거대언어모델의 한계에 대한 이 흥미로운 비유는 곧 인공지능의 비진보에 대한 믿음을 알리는 무기가 되었습니다. 사람들은 곧 "확률적 앵무새, 그래서 뭐?"라고 말하기 시작했고, OpenAI의 대표 샘 알트먼은 이 개념을 조롱했습니다. '확률적 앵무새'는 의미없는 이념 깃발이 되어버렸습니다.

(확률적 앵무새는) 더 이상 사용할 수 없습니다. 손상되었기 때문입니다. 대부분의 사람들은 이를 인공지능의 발전에 대한 거부감으로 해석했지만, 인공지능은 존재하지 않는 것이 아닙니다. 다른 은유도 뒤따랐습니다. 마치 ChatGPT에 대한 완벽한 환원주의적 설명을 찾기 위한 경연대회처럼 보였습니다.
"스테로이드 자동 완성", "슈퍼 자동 완성", "흐릿한 JPEG", "정보 모양의 문장" 생성기, 심지어 "'대답처럼 들리는 말하기' 기계"라는 표현도 있습니다.

저는 실제로 위 은유를 좋아합니다. 어떤 면에서 유용하죠. 이 은유들은 너무 새롭기 때문에 거대언어모델의 문제점에 대한 친숙한 예를 제공합니다. 거대언어모델의 한계, 단점, 그래요 단점을 잘 포착하고 있습니다. 그러나 인공지능 윤리학자들은 상상력을 발휘하여 단 한 번도 ChatGPT, Bing, Bard, Claude 또는 오픈소스 버전과 같은 제품에서 일반 사람이 발견하는 유용성을 반영하는 비유를 대중화하려고 시도하지 않았습니다.

강조는 제가 했습니다. 저는 저의의 주장에 동의합니다. 이는 거대언어모델 및 기타 생성 AI뿐만 아니라 기술 전반에 대한 저의 접근 방식을 아주 잘 요약하고 있습니다.

저는 신기술의 실패 모드를 평가할 필요는 있지만, 그 장점과 미덕을 인정하지 않고는 안된다고 생각합니다.

기술의 단점 및 실패뿐 아니라 기술의 유용성과 장점도 함께 언급해야만 기술을 올바르게 분류할 수 있다는 위의 표현이 존재한다는 것만으로도 인공지능 윤리학의 불균형이 얼마나 극단적인지 알 수 있습니다.

위 글의 저자 Alberto Romero는 비판 담론에 대한 조언으로 글을 맺고 있습니다

인공지능 성능과 '지능'에 대한 공격적인 담론을 포기하세요. 그럴 가치가 없습니다. 설령 당신이 대부분 옳다고 해도 수백만 명의 인식에 맞서 싸울 수는 없습니다. 이길 수 없습니다.
거대언어모델은 결점이 있긴 하지만 "엄청나게 강력"하며, 한계가 있긴 하지만 매우 유용할 수 있습니다. 대신 거버넌스, 데이터 출처, 알고리즘 차별, 유해한 배포, 기타 사회적 및 윤리적 영향 등 여러분이 반복적으로 그리고 올바르게 제기해 온 다른 모든 사항에 집중하세요.

저 또한 (한국에도) 인공지능의 모든 측면을 진지하게 고민해온 사람들이 오래전부터 존재하고 있음을 알고 있고 고맙게 생각합니다. 그러나 이분들이 반드시 가장 큰 목소리를 내는 것은 아닙니다.

오늘은 두 개의 글을 소개했습니다. 다음 주에 뵙겠습니다.