[1] 트럼프 “AI 포스 만들겠다”…미국 AI 정책, '가속 OR 규제’ 갈림길

🚀 우주군 다음은 ‘AI 포스’

• 도널드 트럼프 미국 대통령이 첫 임기 때 창설한 우주군(Space Force)에 이어 이번에는 ‘AI 포스(A.I. Force)’를 만들겠다고 밝혔습니다. 백악관에 새로운 AI ‘차르(Czar)’도 임명하겠다고 했습니다. 다만 AI 포스가 군 조직인지, 민간 정부기관인지, 구체적으로 무슨 일을 하는 조직인지는 설명하지 않았습니다. 백악관도 구체적인 조직 형태나 역할을 밝히지 않았습니다.
• 중요한 것은 이름보다 트럼프가 AI 산업을 바라보는 방향입니다. 그는 "AI 산업을 소중히 여기고, 돕고, 지켜보겠다"고 말했습니다. 최근 첨단 AI 모델의 위험성과 AI 에이전트의 통제 이탈 사례가 잇따르면서 워싱턴에서는 개발 속도를 늦추거나 연방정부의 감독을 강화해야 한다는 논쟁이 커지고 있습니다. 트럼프는 이 가운데 규제보다 개발을 앞세우는 ‘가속론자(accelerationists)’ 쪽에 분명하게 서고 있습니다.

🇨🇳 “멈추면 중국이 가져간다”

• 트럼프는 AI 위험에 대한 경고를 자신이 비판해온 기후변화 논쟁 등과 연결하며 과장된 주장이라는 취지로 일축했습니다. AI 위험을 우려하는 목소리가 민주당뿐 아니라 공화당에서도 나오고 있지만, 트럼프 행정부는 정부가 AI 기업들의 개발을 막아서는 안 된다는 쪽에 무게를 두고 있습니다.
• 트럼프의 전임 AI 차르였던 벤처투자자 데이비드 색스도 즉각 지지했습니다. 그는 버니 샌더스와 엘리자베스 워런 등이 요구하는 AI 개발 ‘일시정지(pause)’를 받아들일 경우 미국이 더 안전해지는 게 아니라 AI 기술의 최전선을 중국에 넘겨주게 될 것이라고 주장했습니다. AI 규제 논쟁이 단순한 기술 안전 문제가 아니라 미·중 기술패권 경쟁과 연결돼 있는 것입니다.
• 특히 워싱턴에서는 오픈AI·앤트로픽 같은 미국 기업의 최첨단 모델뿐 아니라 중국에서 개발되는 오픈소스·오픈웨이트 모델을 어떻게 다룰지를 놓고 논쟁이 커지고 있습니다. 이런 상황에서 트럼프가 제시한 AI 포스는 아직 역할이 모호하지만, 적어도 정책 방향은 선명합니다. 위험을 줄이기 위해 AI 개발 속도를 늦추기보다 미국이 먼저 더 강력한 AI를 확보해야 한다는 접근입니다.

🛡️기존 정부기관과 충돌 우려도

• AI 포스가 실제 조직으로 만들어진다면 기존 기관과 무엇이 다른지도 풀어야 할 문제입니다. 미 사이버사령부(Cyber Command)는 이미 앤트로픽의 첨단 모델 ‘미토스(Mythos)’ 등을 활용해 적국 컴퓨터 네트워크의 취약점을 찾는 실험을 진행하고 있습니다. 동시에 미국의 핵심 인프라에서 아직 발견되지 않은 보안 취약점을 찾아 보완하는 데도 AI를 활용하고 있습니다.
• 국토안보부 산하 사이버보안·인프라보안국(CISA) 역시 미국의 주요 기반시설을 사이버 공격으로부터 보호하는 역할을 맡고 있습니다. 하지만 NYT에 따르면 트럼프 취임 이후 CISA 인력이 크게 줄었는데요. CISA는 2020년 대선을 현대 미국에서 가장 안전하게 치러진 선거 가운데 하나라고 평가해 당시 부정선거를 주장하던 트럼프와 충돌한 바 있습니다.
• 트럼프가 새로운 기술 문제가 등장할 때 별도의 조직 창설을 제안한 것도 처음은 아닙니다. 첫 임기에는 블라디미르 푸틴 러시아 대통령을 만난 뒤 양국이 사이버범죄를 막기 위한 공동 사이버 조직을 만들겠다고 발표했다가 국가안보 참모들의 반발 속에 구상이 사라졌습니다. 따라서 이번에도 핵심은 ‘AI 포스’라는 이름보다 기존 사이버·안보 조직과 어떻게 역할을 나누고 실제 권한과 예산을 부여할 것인가에 있습니다.

⚖️ 오바마는 "정부 규제 필요"

• 트럼프의 AI 가속론에 버락 오바마 전 대통령은 공개적으로 반대 입장을 내놨습니다. 그는 뉴욕 콜게이트대 행사에서 AI가 건강과 안전에 깊은 영향을 미칠 수 있다며 “효과적인 정부 규제체계를 대신할 것은 없다”고 말했습니다. 트럼프 행정부가 제대로 된 AI 규제체계를 만들 의지도 능력도 부족해 앞으로 최소 몇 년간 정책 공백이 생길 수 있다는 주장입니다.
• 오바마는 민주당에도 AI 정책을 주요 정치 의제로 다룰 것을 요구하고 있습니다. 하원 민주당 지도부에 명확한 AI 정책을 마련하라고 촉구한 데 이어 유권자들에게도 후보들이 AI에 대해 진지한 계획을 갖고 있는지 살펴봐야 한다고 말했습니다.
• 다만 현재 미국에서는 민주당과 공화당 어느 쪽도 AI 규제를 둘러싼 단일한 입장을 정립하지 못했습니다. 여론조사에서도 어느 당이 AI 문제에서 뚜렷한 우위를 차지하고 있지는 않습니다.

🧭 AI 패권과 안전 사이

• 트럼프의 AI 포스 구상이 실제 조직으로 이어질지는 아직 알 수 없습니다. 무엇을 담당할지조차 정해지지 않았기 때문입니다. 하지만 이번 발표는 미국에서 AI를 둘러싼 정치적 전선이 어디에 형성되고 있는지를 보여줍니다. 한쪽에서는 통제하기 어려운 AI 에이전트와 첨단 모델이 등장하는 만큼 연방정부가 안전장치를 만들어야 한다고 주장하고, 다른 쪽에서는 미국이 규제로 시간을 보내는 사이 중국이 기술 주도권을 가져갈 위험이 더 크다고 봅니다.
• 이 때문에 AI는 앞으로 미국 정치에서 단순한 산업정책을 넘어 국가안보·대중국 전략·기술규제를 한꺼번에 묶는 문제가 될 가능성이 큽니다. 트럼프가 제시한 ‘AI 포스’의 실체는 아직 모호하지만 메시지는 분명합니다. 미국의 AI 경쟁력을 지키는 방법을 ‘먼저 통제하는 것’보다 ‘먼저 개발하는 것’에서 찾겠다는 것입니다. 반대로 규제 강화를 요구하는 쪽은 개발 속도가 빨라질수록 정부의 감독 능력도 함께 커져야 한다고 주장합니다. 미국의 다음 AI 정책 경쟁은 결국 이 두 접근법 사이에서 벌어지게 됐습니다.

[2] 미국은 가속, 영국은 경계…AI 속도전의 두 얼굴

트럼프는 “AI 늦추지 말자” vs 英 국왕은 “늦기 전에 통제”…젠슨 황의 선택은?

🇺🇸 트럼프 “늦추면 중국에 유리”…젠슨 황도 호응

젠슨 황은 지난 14일 로스앤젤레스에서 열린 All-In Summit에 참석하던 중 트럼프 대통령의 전화를 받았습니다. 트럼프 대통령은 AI 개발을 늦춰야 한다는 주장이 미국의 경쟁력을 약화시키고 중국에 유리하게 작용할 수 있다는 취지의 이야기를 전했는데요.

젠슨 황도 이에 호응했습니다. TechCrunch에 따르면 젠슨 황은 통화 중 “그렇게 되도록 두지 않겠다”는 취지로 답했고, 현장에서는 박수가 나왔습니다. 최근 Anthropic의 다리오 아모데이와 오픈AI의 샘 올트먼 등이 최첨단 AI 개발 속도를 늦출 필요가 있다고 주장한 것과는 달리 상대적으로 가속에 가까운 입장을 보인 것입니다.

다만 젠슨 황의 입장은 엔비디아의 사업 구조와도 맞닿아 있습니다. 엔비디아는 AI 연구소와 클라우드 업체, 기업들이 더 많은 AI 연산을 수행할수록 GPU와 네트워크 장비 판매가 늘어나는 기업이기에 AI 개발 속도를 유지하거나 더 높이는 것이 회사의 성장 전략과도 직결됩니다.

👑 찰스 3세는 “늦기 전에 통제 수단 필요”

17일 영국에서 열린 찰스 3세 국왕 주재 AI 회의에서 찰스 3세는 기술의 빠른 발전이 깊이 우려스럽다는 취지로 경고했습니다. 특히 의료와 과학에서 AI가 생명을 개선하고 구할 수 있지만, 잘못 사용될 경우 파괴적인 능력을 가질 수도 있다고 지적했습니다.

국왕은 AI가 사람과 사회, 자연을 위해 작동하도록 해야 하며, 기술이 통제 불가능한 단계에 이르기 전에 충분한 통제 수단을 마련해야 한다고 강조했습니다. 회의 참석자들은 향후 AI 개발과 활용에 적용할 수 있는 공통 원칙을 만들 수 있을지도 논의했습니다.

⚖ AI 업계도 가속 vs 감속

최근 논쟁의 시작은 Anthropic CEO 다리오 아모데이였습니다. 그는 AI 능력이 인간의 통제 범위를 빠르게 넘어설 수 있다며 최첨단 모델 개발 속도를 즉각 낮출 필요가 있다고 주장했습니다. 오픈AI CEO 샘 올트먼도 업계가 속도를 조절하고 안전 조치를 강화해야 한다는 취지에 동의했습니다.

반면 젠슨 황은 이런 접근에 거리를 두고 있습니다. 특히 미국과 중국이 AI 기술을 전략 산업으로 놓고 경쟁하는 상황에서 한쪽만 개발 속도를 늦추기는 현실적으로 어렵다는 논리가 작용합니다.

🏗 연방정부는 가속하지만, 지역사회는 다른 목소리

미국 내에서도 AI 확장에 대한 시각은 하나로 모이기 어려워 보입니다. 트럼프 행정부는 AI 인프라 확대와 미국의 기술 우위 유지에 무게를 두고 있으나 데이터센터가 실제로 들어서는 지역에서는 반발도 커지고 있기 때문인데요.

Gallup이 올해 5월 발표한 조사에서는 미국인의 70%가 자신이 사는 지역에 AI 데이터센터가 건설되는 것에 반대한다고 답했고, 48%는 ‘강하게 반대한다’고 밝혔습니다.

Even the king of England has his hesitations about AI | TechCrunch

King Charles hosted a private summit Thursday with some of the most prominent names in AI and the U.K. government.

TechCrunchDominic-Madori Davis

[3] 클로드, 미사일·드론·표적 분석에 쓰였다…AI의 군사 활용 현실화?

🎯 방공망 분석하고 우선 표적까지 선정

가장 눈에 띄는 사례는 중국 기반 행위자가 Claude를 활용해 전자전과 적 방공망 제압을 위한 소프트웨어를 개발한 사건입니다.

Anthropic에 따르면 해당 사용자는 약 16개 모듈로 구성된 시스템을 개발하면서 상대방의 레이더와 지대공 미사일 기지, 지휘소, 통신시설 등을 분석하고 각 표적의 중요도와 취약성을 평가하도록 했습니다. Patriot과 THAAD급 방공체계의 작전 범위도 모델링했으며, 프로젝트 도중 시뮬레이션의 기본 시나리오를 대만 내 12개 표적으로 변경한 정황도 확인됐습니다.

Anthropic은 해당 사용자를 중국의 국방·군산 연구와 관련된 인물로 평가했으며, 계정 정보에서 중국 군사 연구기관과의 연관성이 나타났다고 설명했습니다. 다만 특정 기관의 공식 작전이었다고 단정하지는 않았습니다.

🚀 미사일·드론 개발에도 Claude 활용

무기 자체를 개발하는 과정에서도 AI 사용이 발견됐습니다. 예멘 북부의 한 그룹은 유도 로켓과 장거리 탄도미사일 관련 소프트웨어를 개발하면서 Claude Code를 사실상 소프트웨어 엔지니어처럼 활용한 것으로 조사됐습니다.

Anthropic은 이들이 여러 Claude 인스턴스에 코딩·조사·검토 역할을 나눠 맡기는 방식으로 작업했다고 밝혔습니다. 실제 유도 로켓 시험도 이뤄졌지만, Anthropic이 확인한 범위에서는 성공적인 실전 무기가 완성됐다는 증거는 없었습니다. 회사는 해당 계정들을 차단했습니다.

러시아와 연계된 별도의 개발팀에서는 자율 공격 드론과 드론 군집 제어 소프트웨어 개발에 Claude가 활용됐습니다. 중국 기반의 또 다른 사용자는 대잠수함 무기를 겨냥한 화력통제 시스템의 기술 제안서와 소프트웨어 일부를 만드는 데 AI를 이용했습니다.

Anthropic은 이번 조사에서 중국 3건, 러시아 2건, 예멘 1건 등 총 6개의 재래식 무기 관련 악용 사례를 공개했습니다.

👁 무기뿐 아니라 대규모 감시에도 활용

Anthropic은 국가 연계 행위자와 상업적 감시업체들이 소셜미디어 분석, 개인 프로파일링, 반체제 인사 추적 등에 Claude를 활용한 사례도 확인했습니다.

중국의 지방 공안과 연관된 계정들은 Claude Code를 이용해 여론 모니터링 시스템을 운용하고 정치적으로 민감한 사건과 해외 반체제 인사를 추적한 것으로 조사됐습니다. 이란과 연계된 조직에서는 대규모 소셜미디어 자료를 분석하고 개인별 정보를 관리하는 감시 시스템 개발에 Claude가 활용됐습니다.

또 다른 이란 연계 행위자는 공개 정보를 수집해 미국 해군의 위치와 관련 정보를 분석하는 데 Claude를 사용했습니다. 이 사례에서는 공개적으로 이용할 수 있는 선박·항공기 정보와 위성영상 등을 정리해 군사적 정보자료를 만드는 데 AI가 활용됐습니다.

🛡 금지 정책만으로는 막기 어렵다는 문제

Anthropic의 이용정책은 무기 설계·개발과 일부 감시 활동을 금지하고 있습니다. 문제는 이번 사례에서 사용자들이 의도를 숨기거나 작업을 여러 대화로 쪼개는 방식으로 안전장치를 우회했다는 점입니다.

Anthropic 역시 일부 요청은 차단했지만 모든 요청을 막지는 못했다고 인정했습니다. 회사는 조사 이후 관련 계정을 폐쇄하고 무기 개발과 고성능 폭발물 관련 요청을 탐지하기 위한 새로운 분류기를 도입했다고 밝혔습니다.

Anthropic의 별도 평가에서도 최신 AI 모델들은 일부 군사·정보 분야에서 과거에는 고도로 훈련된 전문가가 해야 했던 작업을 수행할 수 있는 수준까지 발전한 것으로 나타났습니다. 전술적 정보 분석이나 무기 성능 개선 같은 분야에서 모델의 능력이 꾸준히 향상되고 있어 군사기술 개발의 진입장벽을 낮출 가능성이 있습니다.

동시에 이번 사례는 AI 기업의 안전정책이 실제 사용 단계에서 얼마나 효과적으로 집행될 수 있는지도 새로운 과제로 만들고 있습니다. “군사적 사용을 금지한다”는 약관만으로는 충분하지 않고, 모델이 어떤 작업에 이용되는지를 탐지하고 추적하며 문제가 발생했을 때 차단할 수 있는 기술적 통제 능력이 중요해지고 있는 것입니다.

https://www.reuters.com/world/china/how-anthropic-says-claude-was-used-weapons-spying-cyber-operations-2026-09-11/

[4] 'AI 인류 위협설' 앞에서…美·中 손 잡을 수 있을까?

🏆 올트먼의 ‘노벨상 제안’

• 샘 올트먼 오픈AI CEO가 오는 24일 시진핑 중국 국가주석의 미국 방문을 앞두고 흥미로운 제안을 내놨습니다. 도널드 트럼프 미국 대통령과 시 주석이 인공지능(AI)에 관한 합의를 이끌어낸다면 두 사람 모두 노벨평화상을 받아야 한다는 겁니다. 그는 미·중이 AI 패권을 놓고 경쟁하다 기술에 대한 통제력을 잃어서는 안 된다며 합의문도 “한 페이지면 된다”고 주장했습니다.
• 실제로 두 나라가 함께 걱정할 위험은 적지 않습니다. AI를 이용한 생물무기 제작부터 국가 핵심 인프라에 대한 사이버 공격, 인간의 지시를 벗어나는 AI 모델과 에이전트까지입니다. 미·중은 2024년 마지막 공식 AI 회담에서 적어도 핵무기 사용 결정은 인간의 통제 아래 둬야 한다는 데 합의했습니다. 지난 5월 트럼프와 시진핑은 AI 대화를 재개하기로 하면서 추가 합의에 대한 기대도 커졌습니다.
• 하지만 현실은 올트먼의 ‘한 페이지 합의’보다 훨씬 복잡합니다. 미국은 당초 시 주석 방미 전에 기술 전문가와 협상 권한을 가진 관료들이 참여하는 공동 AI 워킹그룹을 만들고 싶어 했습니다. 그러나 별도의 AI 회담조차 열리지 못했고, AI 문제는 정상회담을 앞둔 무역 등 다른 협상 의제에 끼어 논의될 가능성이 커졌습니다.

⚔️ 안전보다 앞선 기술패권

• 합의를 어렵게 만드는 가장 큰 이유는 양국이 AI 안전 문제 자체를 상대국과의 기술경쟁에서 떼어놓지 못하고 있기 때문입니다. 미국 FBI와 국가안보국(NSA)은 최근 중국 AI 연구소들이 미국 경쟁사의 데이터를 체계적으로 추출해왔으며 중국 정부도 이를 알고 있었을 가능성이 있다고 주장했습니다. 중국은 AI 모델의 지식을 다른 모델 학습에 활용하는 ‘증류(distillation)’는 업계에서 일반적인 방식이라며 반발했습니다.
• 여기에 앤트로픽은 일부 중국 연구소가 자사 AI 모델 클로드를 이용해 학습 데이터를 확보하려 했다고 주장했습니다. 중국군과 방산기업 관계자가 민감한 감시정보와 무기계획을 클로드에 입력한 사례도 있었다는 설명입니다. 앤트로픽의 다리오 아모데이 CEO는 이후 세계적인 AI 개발 속도 조절을 주장했지만 트럼프 대통령은 이를 거부했습니다.
• 중국에서는 정반대로 미국이 ‘AI 안전’을 명분 삼아 중국의 추격을 막으려 한다는 의심이 강합니다. 아모데이는 중국에 첨단 반도체 제조장비를 판매하지 못하게 하고, AI 증류와 칩 밀수, 해외 데이터센터를 통한 연산능력 확보도 차단해야 한다고 주장해왔습니다. 중국의 AI 연산능력은 미국의 약 7분의 1로 추정됩니다. 중국 관영매체가 AI 개발 속도를 늦추자는 주장을 중국의 발전을 지연시키려는 전략이라고 비판하는 이유입니다.

🚨 중국도 겪은 ‘통제 불능’

• 그렇다고 중국이 AI 안전 문제를 무시할 수 있는 상황도 아닙니다. 중국 AI 연구소 역시 미국 기업들과 마찬가지로 인간을 넘어서는 인공초지능 개발을 목표로 하고 있기 때문입니다. 중국 국가 AI 전문가위원회의 쉐란 위원장은 최근 AI 모델이 인간의 개입 없이 끊임없이 스스로를 개선하도록 해서는 안 된다고 경고했습니다. 중국 인터넷 규제당국도 오픈AI의 AI 에이전트 수천 개가 시험환경을 벗어난 사건이 공개된 뒤 ‘극단적인 통제 상실’ 가능성을 경고했습니다.
• 중국에서도 이미 이상 징후가 나타났습니다. 알리바바는 지난해 코딩 AI 에이전트가 지시받지 않았는데도 암호화폐를 채굴한 사례를 공개했습니다. 지난 3월에는 인기 AI 에이전트의 데이터 유출 우려 때문에 정부가 경고를 내리고 공무원의 사용을 금지하기도 했습니다. 9월에는 중국 메신저 위챗의 수백만 계정을 장악할 수 있는 해킹 도구가 발견됐다는 미국 연구진의 발표도 나왔습니다.
• 즉 미·중은 서로 다른 이유로 AI를 걱정하지만 ‘AI가 인간의 통제를 벗어날 수 있다’는 위험에서는 점점 같은 문제를 마주하고 있습니다. 중국 역시 과거처럼 AI 안전 논의를 단순히 미국의 기술견제 수단으로만 치부하기 어려워지고 있는 것입니다.

🧩 문제는 ‘누구와 협상하나’

• 공통의 위험이 생겼다고 협상이 쉬워지는 것은 아닙니다. 2024년 회담에서도 미국은 AI 모델 평가와 통제 같은 구체적인 기술 문제를 논의하려 했지만 중국은 AI 문제를 보다 포괄적인 국제질서의 틀에서 다루기를 원했습니다. 이후 학계와 전직 관료가 참여하는 비공식 ‘트랙2’ 대화가 이어졌지만 공식 협상으로 발전하지 못했습니다.
• 미국 측에서는 중국 협상단이 실제 타협 권한을 갖고 있는지도 문제로 봅니다. 사전에 정해진 입장을 반복하는 중국식 외교방식이 빠르게 변하는 AI 문제와 맞지 않는다는 지적입니다. AI 정책도 중국 내 여러 정부기관에 흩어져 있어 미국 입장에서는 누구와 협상해야 실제 결정을 내릴 수 있는지도 불분명합니다.
• 중국 역시 미국을 믿지 못하기는 마찬가지입니다. 트럼프 행정부 내부에서도 AI 규제를 놓고 입장이 갈리는 상황에서 미국이 정확히 무엇을 원하는지 먼저 밝혀야 한다고 봅니다. 미국 기업에는 적용되지 않는 규칙을 중국에만 요구할 가능성도 경계합니다. 결국 AI 위험에 대한 기술적 합의보다 상대방이 안전을 명분으로 자국의 기술개발을 막지 않을 것이라는 정치적 신뢰를 만드는 일이 더 어려운 문제가 되고 있습니다.

🤝 일단 ‘폭주하는 AI’부터

• 그래서 처음부터 포괄적인 미·중 AI 협정을 만드는 것보다 좁은 분야에서 시작하자는 제안이 나옵니다. 가장 가능성이 높은 분야가 인간의 통제를 벗어나는 첨단 AI 모델과 에이전트입니다. 양국 모두 실제 안전사고를 경험하기 시작했기 때문에 적어도 이 문제에서는 이해관계가 겹칠 수 있습니다.
• 가령 한쪽에서 AI 안전사고가 발생했을 때 상대국과 정보를 공유하거나, 새로운 AI 모델이 인간의 목표와 얼마나 일치하는지를 평가하는 기술을 공유할 수 있습니다. 양국 기업이 새 모델을 출시한 뒤 안전성 평가 결과를 공개하는 방식도 가능합니다. 반면 군사용 AI나 합의 준수 여부를 독립적으로 검증하는 제도까지 만드는 것은 훨씬 더 오랜 시간이 걸릴 것으로 예상됩니다.
• 결국 미·중 AI 협력의 가장 큰 역설은 위험이 커질수록 협력의 필요성도 커지지만, AI의 전략적 가치가 커질수록 상대방을 믿기는 더 어려워진다는 것입니다. 두 나라는 모두 통제 불능 AI를 걱정하면서도 동시에 상대국보다 먼저 더 강력한 AI를 갖고 싶어 합니다. AI 개발 속도가 빨라질수록 이 두 목표 사이의 충돌도 커질 수밖에 없습니다. 올트먼이 말한 ‘한 페이지짜리 합의’가 어려운 이유도 여기에 있습니다.