“위험한 AI는 CEO가 직접 멈춰야”…MS가 꺼낸 ‘킬스위치’

김송현

2026년 9월 28일

[1] “AI도 핵무기처럼 관리하자”…각국 정상들이 움직이기 시작했다

📱 정상들의 ‘AI 단톡방’

노르웨이 총리 요나스 가르 스퇴레가 캐나다 총리 마크 카니에게 문자메시지를 보냈습니다. AI를 통제할 새로운 국제 규칙을 함께 만들어보자는 제안이었습니다. 답장은 10분 만에 왔습니다. “물론이죠. 함께하겠습니다.”
비슷한 시기 카니 총리는 에마뉘엘 마크롱 프랑스 대통령과 AI 규제를 논의했고, 스퇴레 총리와 알렉산데르 스투브 핀란드 대통령은 AI가 반드시 인간의 지시와 감독, 통제 아래 있어야 한다는 내용의 공동 제안서를 내놨습니다. 카니 총리는 국제적인 AI 규칙과 제한을 논의할 ‘기술 안정성’ 기구도 제안했습니다.
이들이 떠올리는 모델은 냉전시대의 핵무기 통제 체제입니다. 원자폭탄이라는 압도적인 신기술이 등장한 뒤 경쟁국들이 군비통제와 안전규칙을 만들었던 것처럼, 인간보다 강력해질 수 있는 AI에도 국제적인 관리체계가 필요하다는 겁니다.

🇺🇸 미국은 “글로벌 규제 반대”

하지만 가장 중요한 나라가 빠져 있습니다. 세계 최첨단 AI 기업 대부분을 보유한 미국입니다. 도널드 트럼프 대통령은 유엔 연설에서 AI를 통제하려는 어떠한 ‘글로벌리스트 계획’도 거부하겠다고 밝혔습니다.
백악관 과학기술정책국장 마이클 크라치오스도 국제적인 AI 논의가 ‘글로벌 거버넌스’로 흘러가서는 안 된다고 선을 그었습니다. AI 능력이 빠르게 발전하고 있다는 사실이 개발을 멈추거나 새로운 국제기구로 제한해야 할 이유는 아니라는 겁니다.
트럼프 행정부가 더 중시하는 것은 중국과의 AI 경쟁입니다. 반면 유럽과 캐나다·노르웨이 등은 경쟁 못지않게 통제 장치를 만드는 일이 시급하다고 보고 있습니다. 문제는 미국과 중국이 참여하지 않는 국제 AI 규칙은 실제 영향력이 제한적일 수밖에 없다는 것입니다. 현재 강력한 국제규제를 요구하는 국가들은 대부분 최첨단 AI 모델의 생산국이라기보다 소비국에 가깝습니다.

🤖 AI 기업은 오히려 찬성

흥미로운 것은 미국 정부와 미국 AI 기업들의 입장이 꼭 같지는 않다는 점입니다. 오픈AI의 샘 올트먼 CEO는 유엔에서 AI의 가장 중요한 결정을 “샌프란시스코의 연구소들만 내려서는 안 된다”며 AI 국제표준을 정하는 글로벌 기구를 만들자고 제안했습니다.
앤트로픽의 다리오 아모데이 CEO도 AI를 현재 세계가 직면한 가장 중요한 안보 문제라고 규정했습니다. 그는 AI를 이용한 생물무기 개발을 국제적으로 금지하고, 전 세계 AI 능력이 얼마나 빠르게 발전하는지 추적하는 평가체계를 만들자고 제안했습니다. 국가와 기업 어느 한쪽만으로는 AI 위험을 관리할 수 없다는 주장입니다.
구글 딥마인드의 데미스 허사비스도 비슷한 아이디어를 내놓은 바 있습니다. AI 기업들이 첨단 모델을 출시하기 최대 30일 전 자발적으로 외부 평가를 받는 기구를 만들자는 겁니다. 미국 금융회사를 감독하는 금융산업규제국(FINRA)과 비슷한 형태로 시작한 뒤 국제표준으로 확대하자는 구상입니다.

🚧 빅테크도 의견 충돌

하지만 AI 업계 내부에서도 의견은 엇갈립니다. 허사비스의 제안은 일부 기업과 트럼프 행정부 관계자들의 관심을 끌었지만 메타의 마크 저커버그, 엔비디아의 젠슨 황, 스페이스X의 일론 머스크가 트럼프 대통령에게 반대 의사를 밝히면서 추진력이 약해졌습니다.
허깅페이스의 클레망 들랑그 CEO는 또 다른 방향을 제시했습니다. 폐쇄적인 AI 기업에 대한 투명성을 높이는 동시에 누구나 내려받아 저렴하게 사용할 수 있는 오픈소스 AI를 더 널리 보급해야 한다고 주장했습니다. AI 위험을 지나치게 강조해 대중의 공포를 키우는 방식에도 반대했습니다.
결국 AI 기업들도 하나의 목소리를 내고 있지는 않습니다. 어떤 기업은 강력한 사전 평가와 국제규칙을 요구하고, 다른 기업은 규제가 혁신을 늦출 가능성을 더 우려합니다. AI 안전 논쟁이 ‘정부 대 기업’이라는 단순한 구도로 나뉘지 않는 이유입니다.

☢️ AI, ‘제2의 핵무기’일까

핵무기와 AI에는 결정적인 차이도 있습니다. 핵무기는 정부가 개발하고 보유했지만 최첨단 AI는 대부분 민간기업이 개발합니다. 그래서 AI 국제규칙을 만들려면 미국·중국 같은 강대국뿐 아니라 오픈AI·앤트로픽·구글·메타 같은 기업까지 움직여야 합니다.
그럼에도 핵무기 통제의 역사가 자꾸 소환되는 이유는 같습니다. 경쟁을 멈출 수 없다면 최소한 경쟁이 재앙으로 이어지지 않도록 공동의 선을 그어야 한다는 생각입니다.
하지만 지금은 그 첫 단추부터 쉽지 않습니다. 캐나다·노르웨이·프랑스 등은 글로벌 규칙을 만들려 하고, 일부 미국 AI 기업도 동조하고 있지만 미국 정부는 국제기구가 AI 개발을 제한하는 데 반대하고 있습니다. 결국 AI 시대의 첫 번째 국제질서는 기술 자체보다 누가 규칙을 만들 권한을 가질 것인가를 둘러싼 싸움에서 결정될 가능성이 커지고 있습니다.

https://www.wsj.com/tech/ai/the-group-chat-where-world-leaders-are-racing-to-create-ai-controls-821396d3?mod=tech_lead_pos5

[2] “위험한 AI는 CEO가 직접 멈춰야”…MS가 꺼낸 ‘킬스위치’

🛑 “위험하면 출시하지 마라”

AI가 인류의 통제를 벗어날 수 있다는 경고가 잇따르는 가운데 마이크로소프트의 브래드 스미스 부회장 겸 사장이 AI 기업 CEO들의 책임을 정면으로 거론했습니다. AI 개발 속도를 늦춰야 한다고 생각한다면 정부가 강제로 멈추게 할 때까지 기다리지 말고 기업이 스스로 속도를 줄여야 한다는 겁니다.
그는 특히 “CEO가 자기 회사 제품이 안전하지 않다고 판단했다면 그래도 출시해야 하느냐”고 반문한 뒤 "그 답은 '아니오'다"라고 했습니다. 오픈AI의 샘 올트먼과 앤트로픽의 다리오 아모데이가 같은 날 유엔에서 AI가 인간의 통제력을 앞서기 전에 각국이 안전장치를 마련해야 한다고 촉구한 가운데, 스미스는 기업 경영진에게도 직접적인 책임이 있다고 강조한 것입니다.

🔌 AI에도 ‘비상정지 버튼’

스미스가 필요하다고 본 핵심 장치는 이른바 ‘킬스위치(kill switch)’입니다. 문제가 생긴 AI를 필요할 때 느리게 만들거나 완전히 꺼버릴 수 있는 기능입니다. 그는 AI 모델을 만든 기업뿐 아니라 마이크로소프트 같은 클라우드 인프라 사업자, AI 에이전트에 통제장치를 붙이는 기업까지 각 단계에서 AI를 멈출 수 있어야 한다고 주장했습니다.
이런 장치를 법으로 의무화하는 것도 필요하다는 입장입니다. 과거 우유가 오염돼 유통되던 시절 검사제도와 안전규제를 만들면서 소비자가 안심하고 우유를 살 수 있게 된 것처럼, AI도 결국 일정한 규제를 피할 수 없다는 논리입니다.
그렇다고 기업들에 AI를 쓰지 말라는 것은 아닙니다. 스미스는 오히려 AI를 “근본적인 혁신이자 생산성 도구”라고 평가하며 계속 활용해야 한다고 말했습니다. 대신 AI를 얼마나 빨리 도입하느냐만큼 누가 통제하고, 문제가 생기면 누가 멈출 것인지를 정하는 일이 중요해졌다는 것입니다.

https://www.wsj.com/business/a-kill-switch-for-ai-microsofts-brad-smith-says-yes-8be7866e?mod=business_lead_pos4

[3] 트럼프, ‘AI Force’ 만들어 “AI 성장 막지 않고 감시하겠다”

💡

도널드 트럼프 미국 대통령이 인공지능 산업을 전담해 관리할 새로운 정부 조직인 ‘AI Force’를 만들겠다고 밝혔습니다. 트럼프는 이 조직을 자신의 1기 때 창설한 우주군(Space Force)에 빗대면서, AI 산업의 성장을 막기보다 지원하되 문제가 발생하면 기존 형사·민사 사법체계를 통해 대응하겠다는 구상을 내놨습니다.

🇺🇸 “규제보다 성장”, AI Force로 산업 지원

트럼프는 Truth Social을 통해 미국이 AI 산업의 성장을 “방해하거나 억누르지 않을 것”이라며, 오히려 이를 지원하고 지켜보겠다고 밝혔습니다. 동시에 향후 별도의 ‘AI 차르’도 임명하겠다고 예고했습니다.

다만 AI Force가 어느 부처에 설치되고 어떤 법적 권한이나 예산을 갖게 될지는 아직 공개되지 않았습니다. Axios에 따르면 이 발표는 행정부 내부에서도 사전 조율이 충분하지 않았던 것으로 전해졌고, 이후 새 AI 차르 후보를 둘러싼 움직임이 빠르게 시작됐습니다.

트럼프는 AI가 향후 미국 GDP의 최대 25%를 차지할 수 있고 인터넷보다 더 큰 영향을 미칠 수 있다고 주장하며, 미국이 중국보다 앞선 AI 경쟁력을 유지해야 한다고 강조했습니다. AI Force의 기본 역할도 규제를 통한 속도 조절보다는 산업 확대를 지원하면서 불법 행위만 사후적으로 다루는 쪽에 가까워 보입니다.

⚖ AI 업계는 오히려 “속도 줄이자”

아이러니하게도 최근 AI 기업 수장들의 메시지는 반대 방향입니다. Anthropic CEO 다리오 아모데이는 프런티어 AI 개발 속도를 늦추고 독립적인 외부 평가를 강화해야 한다고 주장했고, OpenAI의 샘 올트먼과 SpaceXAI의 일론 머스크, Google DeepMind의 데미스 허사비스도 안전을 위해 개발 속도를 조절할 필요가 있다는 취지에 동의했습니다.

올트먼은 인간이 AI에 대한 통제력을 잃거나 극도로 강력한 AI가 소수의 개인과 기업, 국가에 집중되는 것을 주요 위험으로 지목했습니다. 다만 그는 동시에 AI 산업이 이런 위험을 관리하면서 발전을 계속할 수 있다고 보고 있습니다.

트럼프는 이런 ‘감속론’을 미국의 AI 경쟁력을 약화시킬 수 있는 주장으로 보고 있습니다. 앞서 그는 AI가 인류를 위협할 수 있다는 우려를 “과장”으로 규정하고, 새로운 규제보다 강한 정치적 리더십이 중요하다는 입장을 밝힌 바 있습니다.

🏗 AI 정책, 안전보다 인프라와 경쟁력에 무게

트럼프 행정부가 AI를 바라보는 핵심 프레임은 경제성장과 국가 경쟁력입니다. 미국 내 데이터센터와 전력망, 반도체 투자 규모가 빠르게 커지는 가운데, 행정부는 AI 인프라 확대가 향후 미국 경제를 이끄는 핵심 산업이 될 것으로 보고 있습니다.

다만 정책이 단순히 규제 완화 일변도인 것은 아닙니다. 상무부의 수출통제나 국방부의 공급망 규제처럼 국가안보와 연결된 영역에서는 AI 기업에 강한 제한을 적용하려는 움직임도 나타났습니다. 동시에 미국과 중국은 AI 안전사고 대응이나 위기관리처럼 양국 모두에게 위험한 영역에서는 제한적인 협력 가능성도 논의하고 있습니다.

🔮 ‘AI Force’가 규제기관일지는 아직 불명확

현재로서는 AI Force를 새로운 독립 규제기관으로 보기는 어렵습니다. 트럼프가 강조한 것은 AI 기업의 개발을 사전에 제한하기보다 산업을 지원하고, 명백한 위법행위가 발생하면 기존 법체계를 활용해 대응하는 방식입니다. 구체적인 권한과 조직 구조가 공개돼야 실제 정책 효과를 판단할 수 있습니다.

다만 방향성은 분명합니다. AI 기업 내부에서는 안전 위험을 이유로 개발 속도 조절론이 커지는 반면, 미국 정부는 중국과의 경쟁과 경제성장을 이유로 AI 개발을 계속 가속하겠다는 입장을 강화하고 있습니다. 미국의 AI 정책 중심축이 ‘어떻게 계속 앞서갈 것인가’에 놓여 있다는 신호로 보입니다.