Intro

인공지능(AI)이 중국 정부의 '규제 1호'가 됐습니다. 전 세계 모든 국가가 AI의 효용에 주목하면서도 악용 가능성을 줄이려 노력 중인데요. 중국 정부는 AI를 통제하지 않으면 AI에 의해 체제가 흔들릴 수 있단 걱정에 사로잡혔습니다. 그 탓에 중국 정부는 빠르게 AI를 정부의 통제 범위 내에 집어 넣고 있습니다.

1. 규제의 역사

모든 독재 정권은 성장과 통제 사이의 균형을 찾습니다. 중국 정부 역시 중국을 미국 이상의 강대국으로 만들기 위해 전기차, 반도체 등 첨단 기술에 막대한 투자를 하며 자국의 시장 경쟁력을 키우고 있습니다. 그러면서도 일당 독재 체제에 균열을 낼 수 있는 첨단 기술엔 가차 없는 규제를 가합니다. '금순(金盾, 황금방패)'이라 불리는 인터넷 검열 정책으로 인터넷 보급과 그에 따른 자유로운 콘텐츠 향유를 방해했으며, 강력한 '게임 규제'로 텐센트, 넷이즈 등 자국의 게임 산업 발전을 늦췄습니다.

2. 올바른 혁신

금순 정책이 한창이던 2000년경 미국에선 중국 정부의 인터넷 검열이 무의미하고 불가능한 일이란 평가가 주류였습니다. 하지만 금순 정책은 뛰어난 성과를 보이고 있습니다. 대부분 중국인은 구글, 유튜브, 넷플릭스, 네이버 등 해외 사이트를 사용하지 못하며 바이두 등 자국 사이트는 실시간으로 중국 정부의 검열을 받습니다. 일각에선 중국 정부가 좋아할 '올바른 콘텐츠'가 되기 위해 이용자가 사비를 내고 '자기 검열'을 하기도 한다네요.

그 덕분에 중국은 사상적으로 올바르면서도 세계적으로 내세울만한 인터넷 산업을 보유하게 됐습니다. 바이트댄스의 틱톡, 텐센트의 위챗, 리그 오브 레전드와 같은 서비스부터 알리익스프레스, 테무 같은 이커머스 플랫폼이 대표적입니다.

3. 이번엔 AI다

중국 정부는 이제 AI의 위험성에 주목하고 있습니다. 다음과 같은 규제들을 시행하고 있는데요.

• 2022년 3월엔 세계 최초의 알고리즘 규제안을 시행해 중국 테크 기업이 자사의 알고리즘을 당국에 넘기도록 강제했습니다.
• 2023년 7월엔 "생성 AI가 만드는 모든 콘텐츠는 사회주의 가치를 지켜야 한다"고 공식 발표했습니다. 그에 따라 중국 공산당이나 시진핑에 반하는 내용을 담은 콘텐츠는 즉시 검열합니다.
• 2023년 9월엔 사회주의 가치를 지키는 AI 서비스 110개를 발표했습니다. '지킨다'는 것의 기준이 무엇인진 중국 정부만 알고 있습니다.
• 2023년 10월엔 생성 AI의 학습 데이터에 대한 안전 규제를 발표했습니다. 전체 데이터 중 4000개 이상의 데이터 집합은 비자동(수동) 점검해야 합니다. 그중 96% 이상은 중국 정부가 허용하는 기준(역시 정확한 기준은 불명)을 갖춰야 합니다. 알려진 첫 번째 허용 기준은 '체제를 전복하지 않아야 한다' 입니다.

4. AI 규제 사례는?

위 규제들은 당연하게도 단순한 경고가 아닙니다. 실제로 '불순하게' 생성 AI를 사용했단 혐의로 처벌 받은 중국인들의 소식을 종종 들을 수 있습니다.

• 중국의 첫 AI 챗봇 '챗위안'은 시진핑이 종신 집권을 부정하고, 중국 경제의 구조적 문제를 비판하는 등 중국 정부의 심기를 거스른 탓에 출시 사흘 만에 서비스가 중단되기도 했습니다.
• 2023년 5월 중국 간쑤성에서 AI(챗GPT)로 "기차 충돌로 9명이 사망했다"는 가짜 뉴스를 생성한 혐의로 한 남자가 체포됐단 SCMP 보도가 나왔습니다.
• 중국에서 생성 AI를 악용해 특정 인물의 목소리와 얼굴을 흉내낸 '보이스피싱'이 속출하면서 중국 정부가 대대적인 단속에 나서기도 했습니다.

5. 지체되는 AI 발전

중국 정부가 짓고 있는 'AI 만리장성'에 중국의 AI 발전은 늦어지고 있습니다. 위 규제에 따라 중국 기업이 AI 챗봇을 개발하기 위해선 중국 정부의 승인을 받아야 하는데요. 작년 8월 기준 중국 정부로부터 AI 챗봇 개발을 허가 받은 기업은 총 11개였으나 실제로 AI 챗봇을 출시한 건 4개 기업뿐입니다.

• 특히 바이두는 2022년 하반기부터 AI 챗봇을 개발했고, 2023년 2월과 3월에 출시를 예고했으나 중국 정부의 승인을 받고 규제를 벗어나기 위한 추가 작업으로 인해 2023년 8월에야 AI 챗봇 '어니봇'을 출시한 걸로 알려졌습니다.
• 게다가 어니봇은 중국 정부나 시진핑에 대해 직접적으로 질문하면, 올바른 대답을 내놓는 대신 아예 질문을 못 들은 체하는 모습을 보였습니다.

6. AI, 데이터 통제 도구로?

중국 정부는 AI를 자신들의 입맛에 맞는 방향으로 개발 중입니다. 바로 개인이 아닌 기업을 위한 엔터프라이즈 AI 개발에 집중하는 것입니다.

• 중국 정부는 2023년 5월에 경제특구 선전시에 약 140억 달러 규모의 AI 펀드를 설립했습니다.
• 2023년 8월, 중국의 보안업체 치안신(奇安信)은 기업용 AI 보안 로봇 'Q-GPT'를 출시했는데 출시 과정에서 국영 기업의 대규모 투자를 받았습니다.

엔터프라이즈 AI는 기업 데이터를 훈련해야 합니다. 따라서 중국 정부가 엔터프라이즈 AI를 통제한다면, 자연스럽게 엔터프라이즈 AI가 학습한 각 기업의 데이터까지 확보할 수 있게 됩니다. 중국 정부의 의도대로 흘러간다면 엔터프라이즈 AI가 상업적으로도, 정치적으로도 좋은 도구가 되는 셈입니다.

이를 반대로 말하면 중국 정부가 엔터프라이즈 AI를 통제하지 못한다면, 중국의 데이터가 국내외 기업들에 마구잡이로 퍼질 수 있단 뜻이기도 합니다.

• 중국의 차량 호출 서비스 '디디'는 2022년 5월 나스닥 상폐를 결정했습니다. 중국 정부가 디디에 가한 ▲중국 내 신규 이용자 유치 금지 ▲중국 내 앱 유통 금지 등의 규제 탓입니다. 중국 정부는 디디에 '데이터 보안법'을 적용했는데요. 디디가 차량과 승객들의 운행 데이터를 수집한 뒤 이를 공유했기 때문입니다. 차량을 통해 수집된 중국의 각종 데이터가 미국 등 경쟁국가에 넘어갈 수 있단 우려가 생기며 디디는 중국 정부의 강력한 규제를 받게 됐습니다.

위와 같은 사례를 막기 위해 중국 정부는 AI 규제에 공을 들이고 있습니다. 그 과정에서 AI 산업의 발전이 늦춰지는 건 피할 수 없어 보입니다.