Biz & Pro 뉴스레터 Vol.33 | 미·중 AI 패권 경쟁 이면의 안전 딜레마

이번 BBC 대담이 나온 배경에는 최근 몇 주간 급격히 고조된 AI 안전 논쟁이 있다. 'AI의 대부'로 불리는 노벨물리학상 수상자 제프리 힌튼, AI 분야 석학인 요슈아 벤지오 등은 AI를 인간 뇌를 모방한 시스템으로 규정하며, 엄청난 잠재력과 동시에 인류 존속을 위협할 수 있는 실존적 위험을 지녔다고 경고하고, 지금 당장 글로벌 공감대를 형성하고 기업과 정부가 공동으로 규제·연구에 나서야 한다고 주장해 왔다.

최근 몇 주간 AI가 인류에게 가할 수 있는 위협에 대한 우려가 커졌다. 한 전직 앤트로픽 연구원(Jacob Coxon)은 9월 9일, 현재의 개발 속도를 늦추지 않으면 향후 10년 내 AI가 인류 전체를 위협할 수 있다는 견해를 밝혔다.

이런 흐름 속에서 앤트로픽 CEO 다리오 아모데이는 9월 12일 자신의 블로그에 "We Must Pace the Frontier"라는 제목의 글을 올려 프론티어 AI 개발 속도를 조절해야 한다고 주장하며, 독립적인 제3자 검증기관에 상시 접근 권한을 부여하는 계획을 제시했다. 그는 CBS 인터뷰에서 업계가 그간 위험의 실체를 충분히 알리지 않았다는 취지로 발언했으며, 옛 미·소 핵무기 감축 협정을 협력의 한 모델로 제시하면서도 경쟁국이 같은 수준의 자제를 하지 않을 경우의 딜레마를 인정했다. 같은 날 오픈AI의 샘 올트먼과 xAI의 일론 머스크도 속도 조절 필요성에 공감한다는 입장을 밝혔고, 구글 딥마인드의 데미스 하사비스는 금융업 자율규제기구(FINRA)와 유사한 AI 표준기구 설립을 제안했다.

반면 트럼프 대통령은 AI가 인류를 멸망시킬 수도 있다는 우려에 대해 "전혀 걱정하지 않는다"고 답하며, 이러한 경고들을 "일어나지 않을 일을 부풀리는 부정적 세력의 목소리"로 규정했다. 그는 중국과의 기술 격차를 현재 최우선 관심사로 꼽았다 — 위험 경고 자체를 정면으로 반박하기보다는, 지정학적 경쟁이라는 다른 프레임으로 논의의 축을 옮긴 것이다.

이와 같은 흐름 속에서 엔비디아 CEO 젠슨 황도 반박에 가세했다. 그는 9월 20일 CBS 뉴스 인터뷰에서 "2030년은 결코 인류의 종말이 아니다. 그럴 확률은 0%"라고 잘라 말하며, 이러한 경고들을 "불필요하고 무책임하다"고 규정했다. 황은 AI 안전을 '엔지니어링 문제'로 규정하며, 새로운 법이나 규제보다는 기존 사이버보안·제조물책임법 체계와 업계의 자율적인 테스트·검증만으로도 충분히 대응할 수 있다는 입장이다.

카일 챈 연구원은 AI가 스스로 지능을 고도화해 통제 불능 상태에 이르는 초지능 폭주 시나리오에만 집중할 경우, 오히려 더 시급한 현재적 위험(핵 지휘통제 시스템에 대한 AI 개입이나 생물무기 개발 용이화 및 사이버 테러 가능성 등)에 대한 주의가 소홀해질 수 있다고 지적한다.

워싱턴에서는 AI를 미국과 중국 간의 '경주'로 묘사하는 경우가 많다. 트럼프 대통령 역시 미국이 AI 분야에서 중국보다 한참 앞서 있다는 점을 여러 차례 강조해왔다. 그러나 챈 연구원은 중국은 이 경쟁을 다르게 바라보고 있다고 설명한다.

미국의 관점에서는 가장 강력한 AI 모델을 보유한 쪽이 승자가 되는 AGI(인공일반지능)를 향한 승자독식 경주인 반면, 중국은 AI를 전기·인터넷·컴퓨터와 같은 범용 유틸리티로 인식하며 산업 전반과 노동 시장으로의 실용적 적용, 그리고 충격 완화 생태계 구축에 방점을 둔다.

이러한 격차는 OpenAI·앤트로픽 등 최고 성능의 거대언어모델(LLM) 개발을 선도하는 미국의 산업 구조 — 민간 혁신 주체(샘 올트먼, 일론 머스크 등 거대 개인 영향력)와 정부(베이징)의 절대적 최종 통제권이 결합된 중국의 구조 — 사이의 차이에서 비롯된다는 것이 챈 연구원의 시각이다.

챈 연구원에 따르면 중국은 세 차례의 '스푸트니크 모멘트'를 거치며 AI 분야 격차를 좁혀왔다. 1차(2016년) 알파고(AlphaGo) 쇼크는 AI의 창의성과 복잡한 인간 수준 사고 능력을 확인시키며 국가적 AI 육성 전략을 본격화했다. 2차(2022년) ChatGPT 쇼크는 글로벌 첨단 기술 격차를 각인시키며 중국 AI 랩들의 LLM 추격전(스프린트)을 촉발했다. 3차(2025년) 딥시크(DeepSeek) 쇼크는 헤지펀드 기반의 중국 AI 스타트업이 미국 대비 약 96% 저렴한 비용으로 최정상급 오픈소스 모델을 공개하며 "중국은 소프트웨어에 약하다"는 통념을 불식시키고 글로벌 시장 구도를 흔든 사건이다.

다만 중국 AI 생태계는 스타트업부터 알리바바·텐센트·바이트댄스 같은 빅테크까지 다층적으로 구성되어 있으며, 과거 기업 지도자들이 정부 정책에 반발해 제재를 받은 역사적 경험(알리바바의 창업자 마윈 등) 때문에 자신들이 설정한 산업 발전 방향의 '레드라인'을 넘지 않도록 신중하게 행동하는 경향이 있다.

중국은 AI 모델이 대중에 공개되기 전 정부 사전 등록을 의무화하는 등 사전 규제 체계를 갖추고 있으며, 대만 문제 같은 민감한 주제에 대해 '올바른' 방식으로 답변하는지 검증하는 절차를 통과해야 승인이 이뤄진다.

반면 미국의 규제 접근법은 정치적 성향에 따라 진폭이 컸다. 트럼프 행정부는 바이든 전 대통령의 AI 안전 행정명령을 철회하고, 초기 규제보다는 개발 속도를 우선하는 AI 정책을 내놓았다. 하지만 최근 '통제력 상실(Loss of Control)' 우려가 커지자, 특정 AI 모델의 위험을 살펴보는 프레임워크 도입 방침을 밝히며 태도를 다소 누그러뜨렸다.

한편 미국이 규제를 미루면서 중국을 구실로 내세우는 경향도 짚어볼 만하다. 예전에는 중국도 이런 위험을 '미국이 알아서 해결할 문제'로 여겼지만, 지금은 AI 안전 부재가 자국 안보를 위협한다고 보기 시작했다. 그 결과 AI 규제 정비는 이제 미국과 중국 모두에게 민감한 정치적 사안이 됐다.

시진핑 국가주석은 이달 24일 워싱턴 D.C.에서 트럼프 대통령과 회담할 예정이며, 의제 중 하나로 AI가 다뤄질 것으로 예상된다. 챈 연구원은 회담이 일회성으로 끝날 위험이 있다고 인정하면서도, 양국이 AGI나 통제력 상실 같은 용어의 정의조차 합의하지 못한 상태에서 대화를 시작하는 것 자체에 의미가 있다고 평가한다. 대화를 통해 서서히 신뢰를 쌓고, 향후 포괄적인 규제 협약이나 글로벌 합의로 나아갈 수 있는 발판을 마련할 수 있다는 것이다.

냉전 시절 미국과 소련이 서로를 향해 미사일을 겨누고 있던 때에도 핵군축 합의를 이뤄낸 역사적 선례가 있듯, 기술의 파괴적 잠재력에 대한 상호 인식이 양국을 대화 테이블로 이끄는 계기가 될 수 있다는 것이 이번 논의의 핵심이다.