트럼프와 시진핑은 AI의 인류 멸망 위협을 막을 수 있을까? | BBC, The Global Story

• 위협 인식의 재구조화: AI의 파괴적 위험은 미래의 초지능 특이점 외에도 핵 지휘 통제 개입 및 생물학적 무기 개발 민주화 등 현존하는 안보 위협에 집중하여 대비해야 합니다.
• 경쟁 프레임의 격차: 미국은 AGI 선점에 목매는 승자독식(Winner-take-all) 패권 다툼으로 접근하는 반면, 중국은 AI를 범용 유틸리티(전기·인터넷)로 규정하며 산업 및 사회적 실용 통합에 주력하고 있습니다.
• 글로벌 협력의 가능성: 깊은 정치적 불신에도 불구하고, 국가 안보 차원의 ‘통제력 상실(Loss of Control)’에 대한 공통의 우려가 냉전기 핵군축 합의처럼 미·중 간 최소한의 안전 관리 대화 채널을 구축하는 동력이 될 수 있습니다

본 자료는 영국의 유명 공영방송인 BBC가 운영하는 팟캐스트인 ‘The Global Story’가 2026년 9월 15일 방영한 내용을 한글로 번역하여 요약 정리한 것입니다. 이 프로그램에 나타난 견해들은 비즈앤프로의 공식 입장과 다를 수 있습니다.

트럼프와 시진핑은 AI의 인류 멸망 위협을 막을 수 있을까?

(Will Trump and Xi Jinping stop AI ‘killing us all’? | BBC, The Global Story)

본 보고서는 2026년 미·중 정상회담 및 양국 당국자 간 AI 안전 회담을 앞두고, 인공지능(AI)이 초래할 실존적 위협과 이에 대한 양국의 서로 다른 시각, 기술 발전 경로, 규제 접근법 및 글로벌 협력 가능성을 종합 분석한 요약입니다. 실리콘밸리가 AGI(인공일반지능) 중심의 ‘승자독식 프레임’을 취하는 반면, 중국은 AI를 범용 유틸리티(전기/인터넷)로 인식하며 실용적 사회 통합에 집중하고 있습니다. 양국 간 뿌리 깊은 불신에도 불구하고, 냉전기 핵군축과 유사한 국가 안보 차원의 통제력 상실 우려가 양국을 AI 안전 대화 테이블로 이끄는 동력이 될 것으로 전망됩니다.

대담자로 참여한 카일 찬(Kyle Chan) 박사는 미국의 대표적인 싱크탱크인 브루킹스 연구소(Brookings Institution) 존 L. 손턴 중국센터(John L. Thornton China Center)의 연구원(Fellow)이자 중국의 기술·산업 정책 전문가입니다. 주요 약력 및 경력 소속 및 전문 분야: 브루킹스 연구소에서 중국의 AI, 반도체, 로봇 공학, 전기차, 배터리 등 첨단 기술 분야의 산업 정책과 미·중 관계를 집중 연구하고 있습니다. 학력: 시카고 대학교(학사) 및 런던정경대(LSE, 석사)를 거쳐 프린스턴 대학교에서 사회학 박사 학위를 취득했습니다. 의회 자문 및 정책 활동: 미국 하원 중국특위(House Select Committee on China) 및 미·중 경제안보검토위원회(USCC)에서 전문 증인으로 증언하는 등 미 정부 정책 자문 역할을 수행해 왔습니다. 미디어 및 기타 활동: 중국 기술·산업 정책 전문 뉴스레터와 팟캐스트를 운영하고 있으며, 뉴욕타임스(NYT), 파이낸셜타임스(FT), 포린 어페어스(Foreign Affairs) 등에 다양한 기고문을 발표하고 있습니다.

1. AI의 실존적 위협과 위험 시나리오의 재구조화

• 극단적 멸망 시나리오 (SF적 위협): AI가 스스로 지능을 고도화하여 전력망, 의료, 금융 등 국가 핵심 기반 시설을 공격하거나 인터넷 연결 기기를 통제 불능 상태로 장악하는 디스토피아적 위험.
• 현실적 대규모 위협 (급선무 과제): SF적 시나리오보다 더 시급한 위험은 ① 핵 지휘 통제 시스템에의 AI 개입 및 ② AI 기반 생물학적 무기 설계·생산입니다. 이미 AI를 활용한 신종 바이러스 설계 가능성이 입증된 바 있어 실질적인 국가 안보 및 공공 안전 규제가 요구됩니다.
• 위험 프레임의 전환: 먼 미래의 기술적 특이점뿐만 아니라, 현존하는 생물무기 개발 민주화 및 사이버 테러 가능성에 선제적으로 대응하는 규제 프레임워크 구축이 필요합니다.

2. 미·중 AI 경쟁의 동학: 프레임과 인식의 격차

구분	미국 (US Perspective)	중국 (China Perspective)
기본 프레임	AGI 승자독식 Race AGI(인공일반지능) 선점이 군사·경제·기술적 독점을 가져온다는 시각	범용 유틸리티 전기·인터넷·컴퓨터와 같은 공공 유틸리티적 성격. 비선형적 발전 인식
주요 우위	파운데이션 모델 기술 우위 OpenAI, Anthropic 등 최고 성능의 거대언어모델(LLM) 개발 선도	산업·사회적 통합 우위 다양한 산업 분야 및 노동 시장으로의 실용적 AI 적용과 충격 완화
생태계 주체	실리콘밸리 빅테크 및 거대 개인 영향력 (Sam Altman, Elon Musk 등)	민간 혁신 촉진 + 정부(베이징)의 절대적 최종 통제권 및 레드라인 제시

3. 중국 AI의 부상 과정: 3대 스푸트니크 모멘트

1. 1차 (2016) 알파고(AlphaGo) Shock: AI의 창의성과 복잡한 인간 수준의 사고 능력을 확인하며 국가적 AI 육성 전략을 본격화함.
2. 2차 (2022) ChatGPT Shock: 글로벌 첨단 기술 격차를 확인하고, 중국 내 AI 랩들이 LLM 추격전(Sprint)을 개시한 계기.
3. 3차 (2025) DeepSeek Shock: 헤지펀드 기반 랩인 DeepSeek이 미국 대비 96% 저렴한 비용으로 최정상급 오프소스 모델을 공개, “중국은 소프트웨어에 약하다”는 관념을 불식시키며 글로벌 시장 구도를 흔듦.

4. 규제 접근법과 정책적 함정

• 중국의 사전 규제 체제: 초기 정치적·콘텐츠적 리스크(지도자 사칭, 대만 이슈 등) 차단을 위해 공공 출시 전 정부 사전 등록 및 답안 검증제 실시. 최근에는 ‘국가 안보 차원의 통제력 상실’ 우려로 규제 범위 확대.
• 미국의 규제 유예 논리와 중국 ‘보기맨(Boogeyman)’: 트럼프 행정부는 초기 규제 완화 기조에서 리스크 검토 프레임으로 다소 전환했으나, 여전히 “중국에 뒤처질 수 있다”는 공포를 규제 유예 및 기술 가속화의 명분으로 활용하는 경향이 존재함.

5. 정상회담 전망 및 협력 가능성

• 리스크 (비관론): ‘AGI’, ‘통제력 상실’ 등 기본 용어 정의조차 합의되지 않은 상태에서 무역 및 기술 패권 갈등이 심화될 경우 일회성 회담에 그칠 위험.
• 협력 기회 (낙관론): 냉전 시절 미·소 간 핵무기 통제 합의(Nuclear Arms Control) 사례처럼, AI의 파괴적 잠재력과 국가 안보적 위험성에 대한 상호 인식이 형성된다면 용어 정의 정립 및 최소한의 안전 가이드라인 수립을 위한 양자간 대화 채널 구축 가능.

시사점: 미·중 AI 경쟁은 단기적인 기술 패권 다툼을 넘어, 기술의 위험성을 통제하기 위한 글로벌 지배구조(Governance) 형성의 중요한 분기점에 서 있습니다. 양국이 각자의 규제 체계를 정비하는 동시에 지속적인 대화 채널을 유지하는 것이 글로벌 재앙을 예방하는 핵심 열쇠입니다.

도입: AI 위험성에 대한 경고와 미·중 정상회담의 배경

Asma Khaled(진행자): 미국과 중국이 협력하여 글로벌 AI 재앙을 막을 수 있을까요? 지난 며칠 동안 인공지능에 대해 보도된 놀라운 헤드라인들을 보신 분이 저뿐만은 아닐 겁니다. 먼저, 전 앤트로픽(Anthropic) 연구원이 AI를 개발하는 사람들이 이대로 가다간 향후 십년(decade)이 지나기 전에 AI가 우리 모두를 죽일 수 있다고 진심으로 믿고 있다고 말했습니다.

Jason Coxon, 전 앤트로픽 연구원 -“현재의 발전 속도를 줄이지 않는다면, 가까운 미래에 우리 모두가 사망할 가능성이 매우 높다고 믿습니다.”

그리고 주말 동안 앤트로픽의 CEO가 발표한 긴 에세이에서는 “무언가 심각하게 잘못될 위험을 줄이기 위해” AI 개발 속도를 늦춰야 한다는 내용의 호소가 담겨 있었습니다.

하지만 개발 속도를 늦추는 것은 말처럼 쉽지 않을 수 있습니다. 어쨌든 모든 조치는 전 세계적인 차원에서 이루어져야 하기 때문이죠. 그리고 세계 양대 강국이 가장 진보된 AI를 가능한 한 빠르게 개발하기 위해 무기 경쟁을 벌이고 있는 상황에서 글로벌 협력은 매우 어렵습니다.

안전장치(가드레일)가 있든 없든, 도널드 트럼프는 미국이 AI 경쟁에서 승리해야 한다고 믿는다는 점을 명확히 했습니다. 다음 주 이곳 워싱턴 D.C.에서 트럼프 대통령은 중국의 시진핑 국가주석과 만날 예정입니다. 그리고 이들의 의제 중 주요 항목 중 하나는 인공지능이 될 것으로 예상됩니다.

트럼프 대통령 – “시진핑 주석이 9월 24일에 방문합니다. 우리는 이를 기대하고 있습니다. 아마도 AI와 다른 많은 것들에 대해 이야기하게 될 것입니다.”

그렇다면 중국과 미국이 AI 개발의 브레이크를 밟기로 합의한다는 것은 무엇을 의미할까요? 그리고 그것이 어떻게 가능할 수 있을까요?

BBC의 워싱턴 D.C. 특파원 아스마 칼레드(Asma Khaled)입니다. 유튜브 ‘The Global Story’에 오신 것을 환영합니다. 오늘 모신 손님은 브루킹스 연구소의 연구원이자 중국의 기술 및 AI를 연구하는 카일 찬(Kyle Chan) 씨입니다. 카일 씨, ‘The Global Story’에 오신 것을 환영합니다. 시간 내주셔서 정말 감사합니다.

디스토피아적 시나리오: AI가 초래할 수 있는 최악의 위협

Kyle Chan: 초대해 주셔서 감사합니다, 아스마.

Asma Khaled: 시진핑 주석과 트럼프 대통령이 이곳 워싱턴 D.C.에서 만납니다. 또한 이달 말 미국과 중국 당국자들이 만나 AI 안전에 대해 논의할 예정입니다. 이는 한 전직 앤트로픽 연구원이 AI가 향후 10년 이내에 모든 인간을 죽일 수 있다고 말한 지 얼마 되지 않아 이루어지는 것입니다.

AI와 인류를 멸망시킬 수도 있는 잠재적 능력에 대한 그러한 암울한 경고에 대해 카일 씨가 동의하시는지 여부는 모르겠지만, 실제로 어떻게 그런 일이 일어날 수 있는지 우리가 상상할 수 있도록 도와주실 수 있나요? 사람들이 우려하는 악몽 같은 시나리오는 무엇인가요?

Kyle Chan: 실리콘밸리의 일부 사람들, 특히 AI 산업에 종사하는 많은 이들이 상상하는 악몽 같은 시나리오는, AI 시스템이 스스로를 더욱 지능적으로 만들어 우리가 상상조차 할 수 없는 방식으로 세상을 혼란에 빠뜨릴 수 있는 단계에 이르는 것입니다.

아마 가장 명확한 예는 사이버 공격과 관련이 있을 겁니다. 통제 불능이 된 AI 시스템이 전력망이나 병원 및 의료 시스템을 운영하는 핵심 컴퓨터 시스템, 또는 금융 시장과 같은 중요한 기간 시설을 공격하여 금융 시스템에 대규모 충격을 주는 모습을 상상해 보세요. 이러한 것들이 대규모 위험이 될 수 있습니다.

그리고 가장 극단적인 버전으로는, 이러한 초지능 시스템이 디지털 및 인터넷에 연결된 모든 것—우리의 모든 기기—을 장악하고 취약점을 찾아내어 우리의 디지털 세계, 그리고 이를 통해 결과적으로 우리의 물리적 세계까지 장악하는 것입니다.

Asma Khaled: 듣기만 해도 상당히 경악스럽네요. (웃음) 카일 씨는 이런 일이 일어날 가능성이 높다고 보시나요?

Kyle Chan: 저는 AI로 인한 대규모 위험이 분명히 커지고 있다고 보는 편이지만, 우리가 이미 통제 불능의 초지능 시스템을 향해 가파른 경사로를 달리고 있다고 생각하지는 않습니다.

제가 걱정하는 한 가지는, 거의 SF 소설에 가까운 극단적인 위험에만 집중하다 보면, 통제 불능의 초지능 시스템만큼 종말론적이지는 않더라도 똑같이 매우 중요한 다른 위험들에 대한 주의가 소홀해질 수 있다는 점입니다. 그중 일부는 실제로 글로벌 공공 안전에 대한 주요 위협입니다. 예를 들어 AI 시스템이 핵 지휘 및 통제 시스템에 관여하게 되는 경우처럼요.

Asma Khaled: 그건 정말 큰일이겠네요.

Kyle Chan: 그렇습니다.

Asma Khaled: 방금 앤트로픽이 생물학적 무기 개발에 도움이 될 수 있는 과학자들의 잠재적 음모를 저지했다는 헤드라인을 보았습니다.

Kyle Chan: 그렇습니다. AI 기반의 생물학적 무기 설계 및 생산은 정말 엄청난 사건이 될 것이며, 우리 모두가 더 심각하게 받아들여야 할 문제입니다. 이것이 먼 미래의 SF적 시나리오인지는 모르겠습니다. 저는 이것이 ‘오늘날 AI가 무엇을 할 수 있는가?’의 문제에 가깝다고 봅니다. 이미 실생활에 방출하지는 않았지만, AI 시스템을 사용해 새로운 바이러스를 개발할 수 있음을 보여주는 연구들이 존재합니다.

미·중의 서로 다른 프레임: AGI 경쟁 vs 보편적 공공재

Asma Khaled: 이번 대화의 대부분은 미국과 중국의 관계, 그리고 그들과 AI의 관계에 대해 이야기하고 싶습니다. 워싱턴에서는 AI를 미국과 중국 간의 ‘경쟁’으로 묘사하는 이야기를 많이 듣습니다. 트럼프 대통령도 미국이 AI 분야에서 중국보다 한참 앞서 있다고 말하는 것을 들었습니다. 중국도 AI를 미국과의 경쟁으로 보는 이러한 프레임에 동의하나요?

Kyle Chan: 중국은 이를 다르게 보고 있다고 생각합니다.

Asma Khaled: 어떻게 다른가요?

Kyle Chan: 미국에서는 이를 단순한 경주가 아니라 매우 특정한 종류의 경주, 즉 AGI(인공일반지능)를 향한 경주로 규정합니다.

Asma Khaled: 잠시 멈추고 쉬운 용어로 그것이 무엇을 의미하는지 설명해 주시겠어요?

Kyle Chan: AGI, 즉 인공일반지능은 적어도 인지적 작업에 있어 인간이 할 수 있는 모든 것을 할 수 있거나 그 이상의 능력을 가진 초지능 시스템을 가질 수 있다는 개념입니다.

실제적인 의미로는, 새로운 군사 무기 시스템을 구동하거나 새로운 생물 무기를 개발하거나 이전에는 존재하지 않았던 새로운 사이버 공격 능력을 생성하여 다른 국가에 대해 결정적인 우위를 점할 수 있는 AI 시스템을 의미합니다.

일반적으로 중국, 특히 중국의 정책 입안자들에게 AI는 매우 강력하고 유용한 것이지만, 이러한 초지능으로의 선형적인 비약이라고 보지는 않습니다. 이는 워싱턴과 실리콘밸리에서 논의되는 방식과는 매우 다릅니다. 중국에서는 AI를 전기나 컴퓨터, 인터넷처럼 사용하려는 데 훨씬 더 많은 중점을 두고 있습니다.

Asma Khaled: 그러니까 제로섬이 아닌 collective good(공공재) 같은 개념이군요. 내가 전기를 쓴다고 해서 독일이 전기를 못 쓰는 게 아닌 것처럼요.

Kyle Chan: 맞습니다. 여기서 핵심 문구는 ‘승자독식(Winner take all)’입니다. 미국의 관점에서는 AGI에 먼저 도달하는 주체가 군사적, 경제적, 기술적으로 모든 것을 독식한다는 것입니다. 반면 중국의 관점은 일부 제로섬 경쟁이 있을 수는 있지만, 단일 기업이나 단일 국가가 다른 모든 이를 지배하게 되는 구조는 아니라는 것입니다.

기술의 발전 양상: 가파른 도약인가, 점진적 유틸리티인가

Asma Khaled: 카일 씨는 이것을 어떻게 규정하는 것이 맞다고 보시는지 궁금합니다. 미국과 중국의 경쟁이 일종의 현대판 무기 경쟁으로 묘사되는 것을 자주 들었거든요. 먼저 도달하는 것에 엄청난 이점이 있는 핵무기와 비교할 수 있을까요, 아니면 제로섬 성격이 적은 수돗물이나 전기 같은 것에 가까울까요?

Kyle Chan: 이는 이른바 ‘가파른 도약(steep takeoff)’을 믿느냐에 따라 크게 달라집니다. 즉, 기술이 그저 점진적으로 좋아지는 것을 넘어, 인간이 더 이상 AI 발전을 통제할 수 없을 정도로 지수함수적으로 좋아지는 변곡점에 도달할 것이라고 생각하느냐의 문제입니다.

만약 우리가 그런 세상에 있거나 그쪽으로 폭주하고 있다고 믿는다면, 이것을 단순한 제로섬을 넘어 ‘승자독식’의 상황으로 보게 될 것입니다.

하지만 그렇게 보지 않고 전기와 같은 유틸리티로 본다면—솔직히 이것이 저의 관점에 더 가까운데요—기술이 매우 빠르게 변하고 있는 것은 분명하지만, 가까운 미래에 그러한 변곡점에 도달할 것으로 보이지는 않습니다.

따라서 저는 오늘날 혹은 향후 몇 년간의 AI 능력이 다양한 경제 분야, 교육, 신약 개발 등에 매우 유용할 수 있다고 생각합니다. 그리고 그에 맞춰 수반될 수 있는 위험도 함께 봅니다. 하지만 실리콘밸리의 많은 사람들이 믿는 세상의 완전히 경이로운 대변혁적 관점에는 완전히 동의하지 않습니다.

누가 앞서고 있는가?: 파운데이션 모델 vs 사회적 통합

Asma Khaled: 미국과 중국 사이에 경쟁이 존재한다는 전제를 받아들인다면—양국이 정확히 같은 경주를 뛰고 있다고 동의하지 않을지는 몰라도—현재 이 경쟁에서 누가 이기고 있다고 보시나요?

Kyle Chan: 매우 흥미로운 질문입니다. 가장 강력한 AI 모델을 보유한 쪽이 어디냐로 경쟁을 정의한다면 승자는 미국입니다. 역설적이게도 중국 AI 산업의 많은 이들도 이에 동의할 것입니다.

하지만 AI를 생산적이고 경제적으로 유용한 방식으로 사회에 통합하는 경쟁, 그리고 노동 시장에 미칠 잠재적 충격을 완화하는 방식의 경쟁에서는 중국이 앞서고 있다고 주장할 수 있습니다. 중국은 다양한 분야와 산업 전반에 AI를 통합하려는 훨씬 더 포괄적인 노력을 기울이고 있습니다.

중국 AI의 성장사: 스푸트니크 모멘트와 딥시크(DeepSeek)의 충격

Asma Khaled: 중국 AI 부상의 역사에 대해 듣고 싶습니다. 어떻게 이 단계까지 오게 되었나요?

Kyle Chan: AI는 오랫동안 중국의 우선순위였습니다. 수십 년 전부터 이 기술을 연구해 온 연구자들이 있었고, 한동안 중국은 자신들이 앞서 있다고 느꼈습니다. 하지만 중국에게는 두 번의 ‘스푸트니크 모멘트(Sputnik moments)’가 있었습니다.

첫 번째 스푸트니크 모멘트는 알파고(AlphaGo)였습니다. 딥마인드가 개발한 AI 바둑 프로그램으로, 인간 세계 챔피언을 상대로 이겼죠. 체스와 비교할 때 바둑이 흥미로운 점은 게임의 복잡성입니다. 알파고가 놀라웠던 점은 인간을 상대로 일종의 창의성을 발휘하는 것처럼 보였다는 것이며, 결국 인간 챔피언을 꺾었습니다.

데미스 하사비스, 알파고 대표 – “솔직히 우리는 약간 충격을 받았고 말을 잃었습니다. 이세돌 선수가 다시 한번 믿을 수 없는 승부를 펼쳤습니다.”

그것이 첫 번째 스푸트니크 모멘트였습니다. 두 번째 스푸트니크 모멘트는 2022년의 ChatGPT였습니다. 이는 엄청난 경각심을 불러일으켰습니다. 중국이 AI에서 앞서고 있을지도 모른다고 생각한 사람이 있었다면, 이 사건으로 그 생각을 접게 되었죠. 중국은 자신들의 능력과 세계 최첨단 기술 사이에 거대한 격차가 있음을 갑자기 깨달았습니다. 중국의 AI 연구소들은 경쟁자를 따라 잡기 위해 전력 질주했습니다.

그리고 마침내 2025년 초, 딥시크(DeepSeek) 모멘트가 찾아왔습니다. 중국의 한 헤지펀드에서 파생된 AI 연구소인 딥시크가 오픈소스 모델을 공개했는데, 이것이 OpenAI의 최고 모델들과 거의 대등한 성능을 발휘한 것입니다. 이는 글로벌 주식 시장을 포함해 엄청난 파장을 일으켰습니다.

Brain Mulberry, Zacks Investment Management – “오늘 시장에 실질적인 파장을 일으킨 것은 단순히 더 저렴하다는 것이 아니라 획기적으로 저렴하다는 점입니다. ChatGPT나 Gemini 같은 기존 모델 비용보다 96%나 저렴합니다.”

Asma Khaled: 정말 놀라워 보입니다. 적어도 이곳 미국에서는 중국이 이런 일을 해낼 수 있으리라고 생각하지 못했던 것 같아요.

Kyle Chan: 맞습니다. 실제로 중국이 스마트폰이나 가전제품 같은 하드웨어는 잘 만들지만 소프트웨어에는 취약하다는 인식이 오랫동안 존재했습니다. 하지만 딥시크는 이러한 신화를 깨뜨렸습니다. 가장 강력한 소프트웨어 시스템인 AI 파운데이션 모델에서 중국이 미국을 거의 따라잡았음을 보여주었기 때문입니다.

중국 AI 생태계의 구조: 민간 기업, 스타 창업자, 그리고 정부의 레드라인

Asma Khaled: 그 점에 대해 여쭤보고 싶었습니다. 미국과 중국은 정치 체제가 매우 다릅니다. 미국의 경우 샘 올트먼, 일론 머스크처럼 막강한 권력과 영향력을 가진 인물들이 이끄는 소수의 강력한 테크 기업들이 있습니다. 중국도 엄청난 권력을 가진 민간 기업 중심인가요, 아니면 국가 주도 프로젝트에 가까운가요?

Kyle Chan: 중국에서는 궁극적으로 국가가 주도한다는 인식이 있습니다. 중국 내 민간 AI 연구소에서 기술이 매우 빠르게 발전했고, 강력한 AI 모델을 개발해 미국과의 격차를 유지한 공로를 인정받고 있지만, 산업의 전반적인 방향과 규제 프레임워크는 중국 정책 입안자들에 의해 매우 명확하게 제시됩니다.

따라서 여러 면에서 AI 기업과 정부 기관 사이에는 암묵적인 이해관계가 형성되어 있습니다. 정부는 기업이 혁신할 수 있도록 충분한 여지를 주고 싶어 하지만, 기업들은 결국 최종 통제권을 쥔 주체가 베이징(정부)이라는 사실을 잘 알고 있습니다.

Asma Khaled: 중국에도 OpenAI나 앤트로픽에 비견될 만한 저명한 기업들이 있나요?

Kyle Chan: 네, 국가적 챔피언이 된 DeepSeek 같은 회사도 있고, Zhipu AI(智谱 AI), MiniMax도 있습니다. 또한 틱톡으로 유명한 바이트댄스(ByteDance) 같은 대형 테크 기업도 있죠. 예상하시겠지만 바이트댄스는 비디오 생성 분야에 매우 뛰어납니다. 그리고 구글이나 아마존 같은 알리바바와 텐센트도 있습니다.

스타트업부터 빅테크에 이르기까지 다양한 기업들이 존재하며, 그 창업자들 중 다수는 엄청난 부자가 되었을 뿐만 아니라 중국 내에서 유명인사가 되었습니다. 샘 올트먼처럼 인기를 누리고 있는 셈입니다.

다만, 중국 테크 산업의 역사적 경험 때문에 그들은 매우 조심스럽게 행동합니다. 과거 일부 기업 지도자들이 목소리를 내며 정부 정책에 반발하자 당국이 강력한 제재를 가한 적이 있습니다. 가장 유명하게는 알리바바의 창업자 마윈이 한동안 국외로 떠나야 했죠. 이 사건은 산업 전체에 냉각 효과를 가져왔고, 이후 중국의 테크 창업자들은 AI 발전을 주도하되 정부가 설정한 ‘레드라인’을 넘지 않도록 신중을 기하고 있습니다.

미국 내 냉전적 프레임과 규제 접근법의 변화

Asma Khaled: 중국 AI 산업의 부상에 대해 매우 유용한 세부 정보를 정리해 주셨습니다. 2026년 현재, 미국과 중국은 AI 분야에서 상당한 경쟁을 벌이고 있습니다. 얼마 전 스콧 베센트(Scott Bessent) 미국 재무장관은 한 행사에서 *”중국이 여기서 이긴다면 내일은 없다”*고 말하며 극단적인 어조로 언급했습니다. 워싱턴과 실리콘밸리 일부에서 이러한 사고방식이 왜 그렇게 팽배한지 설명해 주실 수 있나요?

Kyle Chan: 핵무기와 냉전에 대한 비유가 큰 영향을 미쳤다고 생각합니다. 하지만 여러 면에서 AI는 핵 비유에 완벽히 들어맞지 않습니다. AI가 위험할 수 있는 것은 분명하고 앞서 언급했듯 그 위험을 심각하게 받아들여야 하지만, AI는 시설 안에 가두어 두고 농축 우라늄 같은 특정 원자재를 통제할 수 있는 종류의 기술이 아닙니다.

대신 AI는 많은 사람들이 사용하는 챗봇의 소소한 일상부터, 앞서 말한 생물학적 무기 개발과 같은 진짜 위협적인 영역까지 광범위하게 걸쳐 있습니다.

따라서 다양한 잠재적 용도를 고려할 때, 질문은 ‘누가 먼저 도달할 것인가’가 아니라 ‘누가 이득을 취하면서 실제적 위험과 해악을 해결할 수 있는가’가 되어야 합니다.

Asma Khaled: 미·중 당국자 간의 회담을 앞두고 이야기를 나누고 있는데요. 과거 트럼프 행정부는 AI 규제에 대해 보다 완화된 접근 방식을 취하는 것처럼 보였습니다. 2025년 1월 트럼프 대통령은 바이든 전 대통령의 2023년 AI 안전 행정명령을 철회했고, 2025년 여름에는 *”AI는 초기 단계에서 주나 연방 차원의 관료주의로 억압하기엔 너무 중요하다”*는 내용의 AI 행동 계획을 발표했습니다.

하지만 최근 트럼프 행정부는 특정 유형의 AI 모델 위험을 검토하기 위한 프레임을 도입하겠다고 밝히며 톤이 다소 바뀌었습니다. 중국의 상황은 어떤가요? 중국은 AI 안전에 대해 얼마나 우려하고 있나요?

Kyle Chan: 중국도 우려하고 있으며, 우려의 크기가 점점 더 커지고 있습니다. 초기에는 AI 위험에 대한 우려가 주로 ‘콘텐츠’에 집중되었습니다. 딥페이크나 시진핑 주석 등 지도자를 사칭해 오해를 일으키거나 공식 발표로 오인될 수 있는 상황을 걱정했죠.

Asma Khaled: 정치적 콘텐츠군요.

Kyle Chan: 그렇습니다. 그래서 중국은 해당 영역을 빠르게 규제했습니다. 모든 중국 AI 모델은 대중에 공개되기 전에 정부에 사전 등록하도록 의무화했습니다. 대만 문제와 같은 민감한 주제에 대해 이른바 ‘올바른’ 방식으로 답변하는지 검증하는 일련의 테스트를 통과해야 승인됩니다.

하지만 최근에는 통제력 상실(Loss of control)과 같은 더 큰 차원의 위험에 대한 논의가 국정 과제로 떠오르고 있습니다. 과거 베이징의 정책 입안자들은 이러한 문제를 미국이 해결해야 할 문제로 치부하곤 했지만, 이제는 중국의 국가 안보를 위협하는 심각한 위험으로 다루고 있습니다.

경쟁 프레임의 함정과 미·중 협력의 가능성

Asma Khaled: 트럼프 대통령은 규제가 미국 AI 기업에 불이익을 줄 수 있다는 이유로 주저함을 표명하기도 했습니다. *”중국에 밀리지 않도록 신중해야 한다. AI에서 승리하는 자가 모든 것을 이긴다”*면서요. 중국과의 경쟁 프레임이 AI 위험에 직면하는 것을 회피하고, 기업들이 기술 개발 방향을 스스로 결정하게 만드는 방임적 접근을 정당화하는 구실로 사용되는 것은 아닌가요?

Kyle Chan: 정확합니다. 중국은 규제를 피하기 위한 ‘보기맨(Boogeyman, 두려운 존재)’으로 이용되곤 합니다. 미국이 속도를 내지 않으면 중국이 앞서나갈 것이라는 프레임은 AI 위험에 정면으로 대응하는 것을 피하게 만들고, 산업계에 자율권을 넘겨주게 만듭니다. 저는 이것이 실수라고 생각합니다.

Asma Khaled: 시진핑 주석과 도널드 트럼프 대통령의 회담에서 어떤 결과가 나올 수 있을까요? 그리고 만약 아무런 진전이 없을 경우 어떤 위험이 존재하나요?

Kyle Chan: 회담이 일회성으로 끝날 위험이 있습니다. 갈등 요소가 너무 많아 설전만 오갈 수 있죠. 하지만 희망적인 시각에서 보자면, 양국이 AGI나 통제력 상실과 같은 용어의 정의조차 합의하지 못한 상태에서 대화를 시작하는 것만으로도 의미가 있습니다. 대화를 통해 서서히 신뢰를 쌓고, 향후 포괄적인 규제 협약이나 글로벌 합의로 나아갈 수 있는 발판을 마련할 수 있습니다.

Asma Khaled: 다소 낙관적으로 들리지만, 냉전 시절 미국과 소련이 서로를 향해 미사일을 겨누고 있던 때에도 핵군축 합의를 이뤄낸 역사적 선례가 있습니다. 기술의 파괴적 잠재력에 대한 상호 인식이 양국을 대화 테이블로 이끄는 계기가 될 수 있을 것입니다.

오늘 귀한 인사이트를 공유해 주신 카일 찬 연구원님께 감사드립니다.

Kyle Chan: 천만에요. 즐거운 대화였습니다.

Asma Khaled: 지금까지 ‘The Global Story’였습니다. 팟캐스트를 통해서도 저희 프로그램을 만나보실 수 있습니다. 감사합니다.