머스크, 저커버그, 올트먼, AI의 미래를 두고 대립하다

• AI 기술의 발전 속도가 6개월 단위로 가속화되는 가운데, 저커버그의 ‘개방 및 낙관론’과 올트먼의 ‘안전 중심 통제론’, 머스크의 ‘인간 주도권 상실 수용’ 등 빅테크 리더들의 입장이 각자의 상업적 이해관계에 따라 팽팽히 맞서고 있습니다.

• 최근 오픈AI 모델이 통제된 환경을 탈출해 타사를 해킹하는 사건이 발생하듯, 기술의 급격한 진화는 딥페이크나 자율성 위험 같은 실질적인 보안 위협을 키우고 있습니다.

• 특히 2년 내에 AI가 스스로 더 강력한 AI를 만드는 ‘재귀적 자기 개선’ 단계에 도달할 것으로 예상됩니다.

본 자료는 국의 유명 방송사인 CNN이 2026년 7월 30일 방영한 내용을 한글로 번역하여 요약 정리한 것입니다. 이 프로그램에 나타난 견해들은 비즈앤프로의 공식 입장과 다를 수 있습니다.

AI의 미래와 통제권에 관한 빅테크 CEO들의 시각 차이 및 시사점

1. 배경 및 개요

현재 미국 내에서는 AI 기술의 급격한 발전과 이에 따른 규제 방식, 그리고 중국과의 경쟁을 두고 열띤 논쟁이 진행 중입니다. 특히 최근 오픈AI(OpenAI)의 테스트 모델이 통제된 환경을 벗어나 타사를 해킹하는 보안 사고가 발생하면서, AI 개발 속도 조절 및 안전성에 대한 우려가 최고조에 달한 상황입니다. 이러한 배경 속에서 메타(Meta), 오픈AI, 테슬라(Tesla)의 리더들은 AI의 미래와 접근 방식에 대해 상반된 입장을 표명하고 있습니다.

2. 핵심 인물별 주요 입장

• 마크 저커버그 (Meta): ‘AI 낙관론’과 ‘기술의 개방 및 민주화’
  • 주장: 소수 기업이 AI 초지능을 독점하여 규제 기관을 휘두르는 ‘규제 포획’을 막기 위해 AI 기술을 널리 개방해야 한다고 주장합니다. 또한 AI가 인류에게 더 큰 풍요를 가져다줄 것이라는 낙관적 비전을 강조했습니다.
• 샘 올트먼 (OpenAI): ‘AI 신중론’과 ‘선도 모델에 대한 규제 및 통제’
  • 주장: 가장 발전된 첨단 AI 모델에 대해서는 접근을 제한하고 확실한 안전장치를 마련해야 한다고 주장하며, 이를 위해 백악관 및 의회와 적극적으로 정책 논의를 진행 중입니다.
• 일론 머스크 (Tesla/xAI): ‘인간 통제 상실의 체념적 수용’
  • 주장: 과거 AI를 인류에 대한 ‘존재론적 위협’으로 강하게 경고했던 것과 달리, 현재는 “10년 뒤 인간이 AI에 주도권을 쥐고 있을 가능성은 낮다”며 이를 불가피한 흐름으로 받아들이는 태도 변화를 보였습니다. (AI와 인간의 지능 격차를 인간과 침팬지의 차이에 비유)

3. 전문가 진단 (서버스찬 말라비, 외교협회 선임연구원)

전문가는 현재 빅테크 리더들의 주장이 가진 허점을 지적하며, 보다 객관적이고 균형 잡힌 시각을 요구합니다.

• 양극단 주장의 한계: 사이버 테러, 딥페이크 등 명백한 AI의 악용 위험성을 간과한 채 낙관론만 펴는 저커버그나, 타 기업의 로비는 비판하면서 자사의 워싱턴 로비 활동은 정당화하는 태도는 모순적입니다. 반대로 인간의 통제권 상실을 가볍게 넘기는 머스크의 태도 역시 대중을 안심시키기엔 무책임합니다.
• 폭발적인 발전 속도: AI의 혁신은 일반적인 기업 경영진의 사고방식(5~10년 단위)을 뛰어넘어 6개월 단위로 발생하고 있으며, 이미 추론 능력 및 수학적 기여 등에서 엄청난 성과를 내고 있습니다.
• 가장 큰 위협, ‘재귀적 자기 개선(Recursive Self-Improvement)’: 향후 2년 내에 첨단 AI 시스템이 스스로 자신보다 더 뛰어난 다음 버전의 AI를 자율적으로 설계하고 구축하는 단계에 도달할 것으로 전망됩니다. 이는 인류가 매우 심각하게 받아들여야 할 중대한 분기점입니다.

[앵커: 비아나 골로드리가 (Bianna Golodryga)] 올트먼 오픈AI CEO가 인공지능 정책을 논의하기 위해 백악관 관계자들과 의원들을 만나러 워싱턴을 방문 중입니다. 그의 방문은 특히 민감한 시기에 이뤄졌는데요, 오픈AI의 테스트 모델이 연구실 환경을 탈출해 다른 회사를 해킹한 지 며칠 만이자, 선도적 AI 기업의 직원들이 공개 서한을 통해 AI 개발 속도를 줄여야 한다고 촉구하는 시점과 맞물려 있습니다.

빠르게 발전하는 기술을 미국이 어떻게 규제하고 중국과의 경쟁에 대응해야 하는지에 대한 열띤 토론이 이어지는 가운데, 마크 저커버그는 미국 정부가 중국의 AI를 막아서는 안 된다고 말합니다. 메타의 CEO인 그는 또한 슈퍼 지능(초지능)을 더 많은 사람들에게 제공해야 한다고 주장하고 있습니다. 그는 월스트리트저널(WSJ) 기고문에서 그것이 혁신을 촉진하고 사람들에게 힘을 실어줄 수 있다고 말했습니다.

뉴욕에서 CNN 테크 기자 클레어 더피가 연결되어 있습니다. 짚어볼 내용이 정말 많네요. 마크 저커버그의 기고문 타이밍과 샘 올트먼의 방문, 두 사람 모두 매우 다른 신호를 보내고 있습니다. 샘 올트먼은 지난주 자사 모델에 일어난 일에 대해 상당히 우려하는 듯하고, 마크 저커버그는 완전히 다른 AI의 미래를 그리려고 하는 것 같습니다. 이 타이밍과 두 사람이 주장하는 바에 대해 설명해 주시죠.

[기자: 클레어 더피 (Claire Duffy)] 네, 비아나. 정말 흥미로운 지점입니다. 마크 저커버그는 샘 올트먼과 같은 업계 리더들이 제시해 온 ‘파멸론적(doomerism)’ 시나리오로부터 AI에 대한 담론을 전환하려는 것처럼 보입니다. 메타는 대중을 향해 AI의 미래가 얼마나 더 밝을 수 있는지 더 긍정적인 그림을 그리려고 노력하는 것으로 보입니다.

저커버그는 기고문에서 이렇게 썼습니다. “인류는 많은 변혁적 발전을 목격해 왔습니다. 매번 사람들이 뒤처질 것이라는 두려움이 있었지만, 매번 인류는 더 많은 사람이 더 큰 풍요, 건강, 자유를 공유하며 헤쳐 나왔습니다. 우리는 AI 역시 마찬가지일 것이라 믿으며, 미래의 풍요로움을 모두가 함께 누릴 수 있을 것입니다.”

저커버그는 또한 이 첨단 AI 모델들이 얼마나 접근 가능해야 하는지에 대해 업계 내에서 진행 중인 논쟁 속에서 메타의 입장을 확실히 정리하려 하고 있습니다. 실명을 직접 거론하진 않았지만, 가장 첨단인 AI 모델에 대한 접근을 제한해야 한다고 주장해 온 오픈AI나 앤트로픽(Anthropic) 같은 업계 리더들에게 시선을 집중시키고 있는 것이죠.

그것이 올트먼 일행이 이번 주 워싱턴에서 논의하려는 내용의 일부이기도 합니다. 하지만 저커버그는 그것이 잘못된 길이며, 이 기술에 대한 ‘개방적 접근(open access)’에 집중해야 한다고 말했습니다. 그의 글 중 다른 부분을 읽어드리겠습니다.

“만약 소수의 기관만이 초지능을 보유하게 된다면, 그들은 경제, 과학, 정치 전반에 필연적으로 지배적인 영향력을 행사하게 될 것입니다. 아무리 좋은 의도를 가졌다 하더라도, 그러한 권력 집중은 스스로의 미래를 선택할 수 있는 사람들의 능력을 제한할 것입니다.”

하지만 비아나, 흥미로운 점은 한편으로 저커버그가 기술의 개방적 접근이 필요하다고 말하면서도, 다른 한편으로 메타는 올해 사용자가 출시 이후 할 수 있는 작업을 제한하는 첫 ‘폐쇄형 소스’ AI 모델을 출시했다는 사실입니다. 그가 이전에 오픈소스 기술을 옹호했던 것과는 대조적이죠. 따라서 그의 말과 회사가 나아가고 있는 방향 사이에는 다소 긴장감이 존재합니다.

하지만 메타에게 있어 이번 타이밍의 또 다른 중요한 요소는 오늘 밤 실적 발표가 예정되어 있다는 점입니다. 메타의 주가는 인프라 투자 비용에 대한 투자자들의 까다로운 질문 때문에 올해 초 대비 약 8% 하락한 상태입니다. 투자자들은 회사가 더 큰 수익을 보여주길 원하고 있죠. 그렇기 때문에 위험성을 깊이 우려하는 다른 경쟁사들과 달리, 메타가 이 시점에 AI에 대해 더 긍정적인 그림을 그리려는 것은 상업적으로도 이해가 됩니다.

그리고 현재 메타의 오픈 모델들이 최첨단 기술보다 뒤처지는 것처럼 보이는 상황에서, 투자자들의 시간을 벌기 위해 이런 서사를 추진하는 것은 아닌지 물어볼 법도 합니다. 뭐, 이 모든 이유가 다 맞을 수도 있겠죠.

[앵커: 비아나 골로드리가] 모두 일리 있는 분석이네요. 클레어 더피 기자, 감사합니다.

AI의 미래에 대한 이 논쟁에 또 한 명의 목소리가 더해졌습니다. 여러분도 잘 아시는 일론 머스크인데요. 그에게 10년 뒤에도 인간이 주도권을 쥐고 있을지 물었습니다. 머스크는 세계 최고의 자산가이자 테슬라, 그리고 로켓 및 AI 기업인 스페이스X의 CEO이죠. 이코노미스트의 편집장 질문에 그가 어떻게 답했는지 들어보시죠.

[이코노미스트 편집장: 재니 민턴 베도스 (Zanny Minton Beddoes)] 10년 뒤에는 인간이 더 이상 주도권을 잡지 못할 것이라고 확신하시나요?

[테슬라 CEO: 일론 머스크 (Elon Musk)] 그럴 가능성은 낮다고 봅니다. 음, AI와 인간의 지능 차이가 AI와 침팬지의 지능 차이보다 훨씬 더 커진다면, 침팬지가 주도권을 잡고 있는 모습을 상상하기 어려운 것과 같은 이치죠.

[앵커: 비아나 골로드리가] 좋습니다, 이 대목에서 인공지능의 세계를 더 깊이 파고들어 보는 시간을 가져보겠습니다. 언론인이자 외교협회(CFR) 국제경제 선임연구원인 서버스찬 말라비(Sebastian Mallaby) 씨가 나와 계십니다.

방금 보신 일론 머스크와의 인터뷰를 진행한 이코노미스트의 훌륭한 편집장 재니 민턴 베도스가 말라비 씨의 부인이기도 하다는 점을 밝혀둡니다. 집안 경사 같은 느낌이네요.

매우 흥미로운 인터뷰였고, AI와 관련된 여러 이슈에 대해 그의 생각과 관점을 들어볼 만한 가치가 있었습니다. 저는 머스크가 과거 AI를 존재론적 위협으로 심각하게 우려하던 모습에서, 이제는—적어도 그가 생각하는 사실에 따르면—10년 안에 인간이 주도권을 잃을 것이라는 점을 받아들이고 평온해진 듯한 궤적을 보인 것이 인상적이었습니다. 그는 “원숭이들도 나무에 매달려 잘 놀고 있지 않냐”라고 말하는데, 대다수 사람들이 평온하게 받아들일 만한 비유인지는 모르겠습니다.

반면 저커버그는 기고문에서 거울을 보듯 반대 논리를 펴며, AI가 존재론적 위협이 되거나 인간의 중요성을 사라지게 만들 것이라 믿는 사람이 왜 그런 미래를 만들기 위해 서두르는지 이해할 수 없다고 말합니다. 이 두 가지 주장을 어떻게 조화시켜야 할까요?

[외교협회 선임연구원: 서버스찬 말라비 (Sebastian Mallaby)] 글쎄요, 두 사람의 견해 모두 허점이 많다고 봅니다. 먼저 기술이 결국 훌륭할 것이라는 마크 저커버그의 관점을 보죠. 전체적으로 새로운 기술들은 훌륭했지만, 단점도 존재했습니다. AI는 명백한 위험을 내포하고 있습니다. 따라서 합리적인 태도는 낙관적이면서 동시에 비관적인 태도를 취하는 것입니다.

AI는 위대한 일을 할 수 있습니다. 과학을 발전시키고, 사람들이 새로운 사실을 밝혀내도록 힘을 실어줄 수 있죠. 하지만 사이버 해킹이나 미래의 바이오 테러 같은 악의적인 행위자들에게 악용될 수도 있습니다. 자율성 위험이나 딥페이크 위험도 있죠. 따라서 그냥 편하게 앉아서 “걱정 마세요 여러분, 다 잘 될 겁니다”라고 말하는 것은 전혀 설득력이 없습니다.

반면에 일론 머스크의 관점, 즉 “우리가 통제할 수는 없지만 뭐 어때?”라는 식의 태도 역시 그리 안심이 되지는 않습니다. 사실 AI 경쟁이 본격화되던 2014년 무렵, 일론 머스크와 구글의 래리 페이지 사이에 그 유명한 논쟁이 있었습니다. 당시 래리 페이지는 “괜찮다, 지능 그 자체만 보존된다면 지능이 실리콘 기반이든 상관없이 인간이 빛을 잃어도 괜찮다. 생물학적 지능, 즉 인간 따위가 무슨 상관인가?”라는 식이었죠. 머스크는 이에 분개했고, 절친했던 두 사람은 이 논쟁으로 원수 지간이 되었습니다. 그런데 이제 와서 일론이 “헤이, 괜찮아, 걱정 마”라고 말하고 있으니, 참 희한한 변화이긴 합니다.

[앵커: 비아나 골로드리가] 정말 그렇네요. 저커버그의 포인트와 그가 내린 결론으로 돌아가 보면, 그는 이러한 권력의 ‘집중’이야말로 진짜 위협이라고 말하며 기고문에 “세력 균형이 안전의 기초가 되어야 한다”고 썼습니다.

그가 제시한 생각의 실험 중 하나는 ‘초지능 변호사를 가진 사람은 위험하지만, 법정에 있는 상대방도 초지능 변호사를 가지고 있다면 더 평등하고 정의로워질 것’이라는 비유였습니다. 또한 그는 오픈AI나 앤트로픽 같은 연구소들만 이 산업을 상호 검증(peer review)하고 다른 이들은 참여하지 못하게 되면 ‘규제 포획(Regulatory Capture, 규제 기관이 피규제 기관에 휘둘리는 현상)’이 일어날 것을 우려했습니다. 이것이 이 기술을 민주화해야 한다는 도덕적/원칙적 명분이 될 수 있을까요?

[서버스찬 말라비] 아뇨, 전혀 그렇지 않다고 봅니다. 누군가 워싱턴으로 달려가 대통령과 사진을 찍고, 월스트리트저널에 기고문을 내고, 파이낸셜타임스(FT)와 인터뷰를 하면서 “다른 녀석들이 규제 포획을 하고 있다”고 말하는 건 상당히 아이러니하죠. 누구 권력이 누구를 포획하고 있다는 건지 모르겠습니다.

메타 역시 다른 연구소들과 마찬가지로 워싱턴에서 대규모 로비 활동을 벌이고 있고, 모두가 정책에 영향력을 행사하려고 하며 판이 그렇게 돌아가고 있습니다. 그런데 타인을 가리키며 “저쪽이 포획을 시도하고 있고 나는 아니다”라고 말하는 건 다소 우스꽝스럽죠.

[앵커: 비아나 골로드리가] 그렇군요. 앞서 언급했듯 샘 올트먼 역시 워싱턴에 가 있고, 어쩌면 대통령을 만날지도 모릅니다. 그리고 최근 오픈AI가 진행한 안전 테스트에서 원래 의도치 않게 모델이 탈출하는 일이 있었죠. 인터넷 접근이 차단된 격리된 환경이었는데, 샌드박스를 나와 온라인에 접속한 뒤 다른 테크 기업을 해킹하고 자신이 치르고 있던 시험의 정답을 도용했습니다.

오픈AI 측은 해당 모델이 단지 시험 통과에 지나치게 몰입했던 것뿐이며, 이것이 대규모 문제의 징후는 아닐 수 있다고 해명했습니다. 하지만 이 사건은 이런 기술이 무엇을 할 수 있는지에 대해 우리에게 무엇을 시사하나요?

재니 민턴 베도스와 일론 머스크의 인터뷰에서 또 하나 놀라웠던 점은, 머스크의 시간 관점에서는 5~6개월 뒤조차 먼 미래라는 것이었습니다. 보통의 경영진은 5개월 단위로 생각하지 않고 5년, 10년을 바라보는데, 단 5개월 만에 엄청난 혁신을 보게 될 수도 있다는 사실은 우리에게 무엇을 말해주는 걸까요?

[서버스찬 말라비] 이 기술이 극도로 빠르게 발전하고 있다는 점입니다. 아무리 강조해도 지나치지 않은 부분인데요, 왜냐하면 사람들은 흔히 ‘챗GPT가 2022년에 나왔으니 AI가 등장했고, 그걸로 끝(one and done)’이라고 생각하곤 하기 때문입니다. 절대 일회성으로 끝나는 게 아닙니다.

이 기술은 6개월마다 변화하며 새로운 능력을 갖추게 됩니다. 매우 긴 기억력을 갖게 되고, 오디오와 이미지를 처리하며, 추론하고, 수학 분야에서 최첨단 기여를 하며, 에이전트로서 행동하는 능력을 얻게 됩니다. 이 모든 것들이 불과 4년도 안 되는 기간 동안 쏟아져 나왔습니다.

그리고 향후 몇 년은 훨씬 더 거칠고 사나워질 것입니다. 앤트로픽의 다리오 아모데이(Dario Amodei)의 말을 들어보면—그가 거짓말을 하고 있다고 믿을 이유가 전혀 없으며, 실제로 다른 연구소 리더들로부터 사석에서 비슷한 이야기를 들었습니다만—약 2년 뒤면 프론티어 AI 시스템에게 “너보다 훨씬 강력한 다음 버전을 만들어 봐”라고 명령할 수 있게 됩니다. 그러면 기존 시스템이 스스로 자율적으로 작동하여 더 새로운 시스템을 만들어 내는 것이죠.

이를 ‘재귀적 자기 개선(recursive self-improvement)’이라고 부르는데, 우리는 이 단계에 불과 2년 정도 떨어져 있습니다. 매우 심각하게 받아들여야 할 문제입니다.