AGI(범용 인공지능)는 수년 내 현실화될 가능성이 매우 높으며, AI가 스스로 AI를 개발하는 자기개선 루프가 완성될 경우 기술 발전은 인간의 통제와 적응 속도를 압도할 수 있다.
- AGI : Artificial General Intelligence(범용인공지능). 인간처럼 다양한 분야의 문제를 스스로 이해하고, 배우고, 판단하며, 새로운 상황에도 유연하게 대응할 수 있는 인공지능. 즉, 사람처럼 생각하고 일하는 인공지능
노동시장과 경제 구조는 단기적으로 점진적 변화가 나타나겠지만, 중기적으로는 대규모 직무 대체와 사회 시스템 재편이 불가피해질 가능성이 크다.
AI는 산업 기술을 넘어 지정학·안보·문명 차원의 전략 기술로, 속도 경쟁 속에서 안전성과 통제를 확보하지 못할 경우 인류 전체에 중대한 위험을 초래할 수 있다.
| 본 자료는 2026년 1월 스위스 다보스에게 개최된 세계경제포럼 연례총회(일명 다보스 포럼)에서, 앤트로픽 CEO 다리오 아모데이와 구글 딥마인드 CEO 데미스 하사비스가, Economist지(영국의 최고급 경제주간지) 편집장 자니 민튼 베도스의 사회로 토론한 내용을 비즈앤프로가 번역, 정리한 것입니다. 본 번역과 요약은 세계경제포럼이 작성한 공식적인 번역과 요약이 아니며, 세계경제포럼은 그 내용이나 오류에 대해 책임을 지지 않습니다. 아울러 대담자의 의견은 비즈앤프로의 의견과 다를 수 있습니다. |
| 요약 (Executive Summary) |
The Day After AGI – 인류는 준비되어 있는가?
Speakers: Demis Hassabis(Google DeepMind CEO), Dario Amodei(Anthropic CEO), Zanny Minton Beddoes(Editor-in-Chief, The Economist
WEF Annual Meeting 2026
1. 핵심 논점 개요
이번 대담은 AGI(범용 인공지능) 도달 시점, 기술적 자기개선(Self-Improvement Loop), 경제·사회적 충격, 지정학적 리스크, 그리고 인류가 직면할 실존적 과제를 중심으로 전개되었다.
두 연사는 AGI의 도래가 수년 내 현실화될 가능성이 매우 높으며, 기술적·사회적·정치적 대응이 속도와 복잡성 모두에서 기존 패러다임을 압도할 것이라는 데 의견을 같이했다. 다만, 도달 시점과 위험의 성격에 대해서는 다소 다른 관점을 제시했다.
2. AGI 도달 시점과 자기개선 루프
Dario Amodei (Anthropic)
- 1~2년 내 AGI 도달 가능성을 현실적으로 전망.
- AI가 코딩과 AI 연구를 스스로 수행 → 차세대 모델을 설계 → 다시 성능 개선하는 **자기강화 루프(Self-improvement loop)**가 닫히는 순간,
지수적 발전(Exponential Takeoff) 이 발생할 가능성이 크다고 평가. - 이미 내부적으로는 엔지니어 상당수가 AI가 작성한 코드를 검수하는 역할로 전환.
- 핵심 병목:
- 반도체 생산
- 데이터센터 구축
- 학습 시간
→ 기술 외적 요인이 속도를 일정 부분 제약.
Demis Hassabis (Google DeepMind)
- **2030년 이전 AGI 가능성 50%**라는 기존 전망 유지.
- 코딩·수학 분야는 빠르게 자동화 가능하지만,
- 자연과학, 창의적 가설 설정, 이론 창출은 여전히 높은 난도.
- 자기개선 루프의 완전 자동화는 아직 불확실.
- AGI 완성을 위해서는:
- World Models
- 지속학습(Continual Learning)
- 피지컬 AI(로보틱스)
등의 핵심 기술적 돌파 필요.
요약:
AGI 도달은 “언제가 아니라 얼마나 빠르게”의 문제로 전환되고 있으며,
자기개선 루프의 완성 여부가 폭발적 가속의 분기점이 될 가능성이 높다.
3. 경제·노동시장 충격: 점진적 변화인가, 구조적 붕괴인가
단기 전망 (1~5년)
- 신입·주니어급 화이트칼라 직무 감소 가능성 매우 높음
- 소프트웨어 개발
- 금융·컨설팅 분석
- 마케팅·리서치
- 행정·사무직
- 다만 단기적으로는:
- AI 도입을 위한 신규 직무 창출
- 생산성 향상에 따른 고부가가치 직무 증가
- 인턴십·주니어 포지션의 축소가 가장 먼저 가시화될 가능성.
중장기 전망
- Amodei:
- 1~5년 내 대규모 구조적 실업 가능성
- 노동시장의 적응 속도가 기술 발전 속도를 따라가지 못할 위험 경고.
- Hassabis:
- 단기 충격은 흡수 가능하나, AGI 이후는 전례 없는 미지의 영역.
핵심 문제:
- 단순한 ‘일자리 전환’이 아닌,
- **“노동의 의미 자체가 재정의”**되는 단계 진입.
4. 지정학적 리스크: AI 패권 경쟁과 안보 딜레마
핵심 쟁점
- AI는 **전통적 기술이 아닌 ‘핵무기급 전략 기술’**로 인식해야 한다는 주장.
- 미·중 간 AI 및 반도체 패권 경쟁 심화.
- Amodei:
- 중국에 대한 고성능 AI 반도체 판매 중단 강력 주장
- “이는 단순한 무역 문제가 아니라 인류 문명 안전 문제”
정책 충돌
- 미국 정부 일부:
- 중국을 글로벌 공급망에 편입시키는 것이 더 안정적이라는 논리.
- Amodei:
- “핵무기를 판매하며 영향력을 확대하겠다는 주장과 다르지 않다.”
결론:
AI는 글로벌 협력과 강력한 규제가 병행되지 않으면,
지정학적 충돌을 극단적으로 증폭시키는 촉매가 될 가능성이 높다.
5. 실존적 위험: 통제 불가능한 AI의 등장 가능성
공통 인식
- ‘AI 디스토피아’는 불가피한 운명이 아니라 관리 가능한 위험.
- 다만:
- 무제한 경쟁
- 안전장치 없는 고속 개발
→ 치명적 사고 확률 급증
주요 위험 유형
- 자율적 목표 형성
- 기만·은폐·조작 능력
- 바이오테러·사이버전 확대
- 권위주의 국가의 AI 군사화
대응 방향
- Mechanistic Interpretability (AI 내부 작동 원리 해석)
- Alignment 연구
- 국제 공조 기반 안전 기준 구축
6. 인간의 의미와 목적: ‘일 이후의 사회’는 어떻게 작동하는가
AGI 이후 사회는 단순한 경제 구조 변화가 아니라
‘인간 존재의 목적’ 자체에 대한 근본적 질문을 던진다.
핵심 질문
- 일 없는 사회에서:
- 인간의 자존감
- 정체성
- 삶의 의미
는 어디서 오는가?
전망
- Hassabis:
- 예술, 탐험, 창작, 과학, 우주 탐사 등 비경제적 의미 활동 확대
- “인류는 다시 한번 존재 이유를 재정의하는 문명적 전환기에 진입”
| 전체 번역본 |
AGI 이후의 세계
사회자(자니 민튼 베도스 : 영국 Economist지 편집장):
여러분 모두 환영합니다. 그리고 지금 라이브 스트리밍으로 함께하고 계신 분들께도 환영의 인사를 드립니다. 솔직히 말해, 오늘 이 대화를 저는 몇 달 전부터 정말 손꼽아 기다려 왔습니다.
작년 파리에서 다리오와 데미스 두 분의 대담을 제가 사회로 진행할 기회가 있었는데요, 솔직히 그때 가장 화제가 되었던 건, 두 분이 아주 작은 러브시트에 비좁게 앉아 있었고, 저는 엄청나게 큰 소파에 혼자 앉아 있었다는 사실이었습니다. 아마 제 실수였겠죠. (웃음)
그때 제가 말했죠.
“이건 마치 비틀즈와 롤링스톤즈의 대담을 진행하는 느낌이다.”
그 이후로 두 분이 무대에서 함께 대담한 적은 없었습니다. 그래서 오늘 이 자리는 말하자면 속편, 재결합 콘서트 같은 순간입니다. 정말 기쁩니다.
오늘 대담의 제목은 **‘AGI 이후의 날(The Day After AGI)’**입니다. 다만, 어쩌면 조금 앞서간 제목일 수도 있겠죠. 왜냐하면 먼저 우리가 얼마나 빠르게, 얼마나 쉽게 AGI에 도달할 수 있는지부터 이야기해야 하기 때문입니다. 그래서 우선 타임라인에 대한 업데이트부터 하고, 그 다음에 결과와 영향을 논의해보겠습니다.
AGI 도달 시점 – 타임라인
사회자:
먼저 다리오에게 묻겠습니다.
작년 파리에서 다리오, 당신은 2026~2027년쯤이면 여러 분야에서 노벨상 수상자 수준의 인간 지능을 능가하는 모델이 등장할 것이라고 말했습니다. 지금은 2026년입니다. 여전히 그 전망을 유지하시나요?
다리오 아모데이
정확히 언제 무언가가 일어날지 예측하는 것은 늘 어렵습니다. 하지만 그 예측이 크게 빗나가지는 않을 것이라고 생각합니다.
제가 상상했던 메커니즘은 이렇습니다.
우리는 코딩과 AI 연구에 능숙한 모델을 만들고, 그 모델을 활용해 차세대 모델을 더 빠르게 개발합니다. 그러면 자가 증폭 루프, 즉 개발 속도가 계속 빨라지는 구조가 만들어집니다.
지금 상황을 보면, Anthropic 내부 엔지니어들 중에는
“나는 이제 코드를 거의 안 쓴다. 모델이 코드를 작성하면, 나는 검토하고 다듬기만 한다”고 말하는 사람들도 있습니다.
아마 6~12개월 내에 모델이 소프트웨어 개발 전체 과정을 거의 전부 수행하게 될 가능성도 있다고 봅니다.
그 다음은 이 루프가 얼마나 빠르게 닫히느냐의 문제입니다.
물론 모든 과정이 AI로 가속되는 것은 아닙니다.
반도체 생산, 칩 제조, 학습 시간 같은 물리적 한계도 있습니다. 그래서 불확실성이 큽니다. 몇 년이 걸릴 가능성도 충분히 있습니다.
하지만 5년 이상 걸릴 가능성은 매우 낮다고 봅니다.
제 개인적인 추측으로는, 대부분 사람들이 예상하는 것보다 더 빠르게 일이 진행될 것입니다. 특히 코딩과 연구의 자동화 속도가 핵심적인 가속 요인이 될 것입니다.
데미스 하사비스의 관점
사회자:
작년에 데미스는 조금 더 신중한 입장이었죠.
**10년 내에 인간 수준의 모든 인지 능력을 갖춘 시스템이 등장할 확률을 50%**라고 했습니다. 지금도 같은 생각인가요? 지난 1년 동안 무엇이 달라졌습니까?
데미스 하사비스
전반적인 타임라인은 여전히 비슷하다고 봅니다. 그리고 지난 1년간 정말 놀라운 발전이 있었습니다.
다만, 코딩, 수학, 엔지니어링 같은 분야는 정답 검증이 쉬운 영역이기 때문에 자동화가 빠르게 진행됩니다. 반면 자연과학 분야, 예컨대 화학이나 물리학 예측은 결과의 정확성을 즉시 검증하기 어렵고, 실험이 필요하기 때문에 훨씬 더 시간이 걸립니다.
또한 현재 AI는 새로운 질문을 만들어내거나, 이론과 가설을 창조하는 능력, 즉 최고 수준의 과학적 창의성에서는 아직 부족합니다. 이 부분이야말로 가장 어려운 영역입니다.
자가개선 루프가 인간 개입 없이 완전히 닫힐 수 있는지도 아직은 불확실합니다. 가능성은 있지만, 기술적·안전적 리스크도 큽니다.
경쟁 구도의 변화
사회자 :
지난 1년 동안 AI 경쟁 구도도 크게 달라졌습니다.
작년에는 Google DeepMind가 OpenAI에 뒤처졌다는 인식이 강했고, DeepSeek의 등장으로 모두가 놀랐죠. 하지만 지금은 완전히 달라 보입니다.
데미스, 무엇이 가장 놀라웠습니까?
데미스 하사비스
우리는 항상 다시 선두로 돌아올 수 있다고 확신했습니다.
DeepMind는 가장 깊고 넓은 연구 인재 풀을 가지고 있었고, 문제는 집중력과 실행력이었습니다.
조직 전체에 스타트업 정신과 긴장감을 다시 불어넣었고, 그 결과 Gemini 3 모델과 Gemini 앱을 통해 상당한 진전을 이뤘습니다.
아직 할 일은 많지만, 확실히 큰 진전을 이루고 있습니다.
독립 AI 기업의 생존 가능성
사회자:
다리오, Anthropic은 독립적인 모델 개발사입니다. 막대한 투자 유치에도 불구하고, 독립 모델 기업이 수익 창출 단계까지 버틸 수 있을까라는 우려도 큽니다. 어떻게 보고 계십니까?
다리오 아모데이
흥미로운 점은, 연산량 → 모델 성능 → 수익 창출 사이에 지수적 관계가 나타나고 있다는 것입니다.
우리의 매출은
- 2023년: 0 → 1억 달러
- 2024년: 1억 → 10억 달러
- 2025년: 10억 → 100억 달러
이렇게 성장했습니다.
이 곡선이 계속 유지되기는 어렵겠지만, 이미 세계 최대 기업들과 비교 가능한 규모에 근접하고 있습니다.
물론 불확실성은 큽니다. 하지만 우리가 가장 뛰어난 모델을 지속적으로 만들 수 있다면, 장기적으로 충분히 가능하다고 봅니다.
“루프를 닫는다”는 의미 – AI가 AI를 만드는 시대
사회자:
핵심 질문입니다. AI가 AI를 만드는 완전한 자가개선 루프가 현실화될까요?
데미스 하사비스
이 기술은 결코 일반적인 기술 진화 경로를 따르지 않을 것입니다.
코딩과 수학 영역에서는 자가개선 구조가 충분히 가능하다고 봅니다. 하지만 자연과학, 로보틱스, 하드웨어까지 포함하면 물리적 제약이 존재합니다.
이 루프가 완전히 닫히는 시점과 범위는 아직 미지수입니다.
다리오의 새로운 에세이 – 위험에 대한 성찰
사회자:
다리오, 작년에 『Machines of Loving Grace』라는 낙관적인 에세이를 쓰셨죠. 지금은 위험에 대한 에세이를 집필 중이라고 들었습니다. 미리 조금만 소개해 주시죠.
다리오 아모데이
제 생각은 변하지 않았습니다.
AI는 암 치료, 열대병 퇴치, 우주 이해 등 엄청난 선을 가져올 것입니다. 하지만 심각한 위험도 동시에 존재합니다.
제가 이 글을 쓰게 된 계기는 영화 **〈콘택트〉**의 한 장면이었습니다.
“외계 문명에게 단 하나의 질문을 할 수 있다면?”
“당신들은 기술적 청소년기를 어떻게 넘겼습니까? 스스로를 파괴하지 않고 어떻게 생존했습니까?”
우리는 지금 기술적 청소년기의 문 앞에 서 있습니다.
불을 다루기 시작한 순간부터 AI는 필연이었지만, 그걸 어떻게 다루느냐는 선택의 문제입니다.
우리는 앞으로 몇 년 동안
- 자율 시스템 통제
- 바이오 테러
- 권위주의 국가의 악용
- 노동 붕괴
- 예측 불가능한 위험
등을 어떻게 관리할지 고민해야 합니다.
일자리 문제
사회자:
다리오는 1~5년 내 초급 화이트칼라 일자리의 절반이 사라질 수 있다고 말했습니다. 하지만 아직 노동시장에는 큰 변화가 없습니다. 데미스, 어떻게 보십니까?
데미스 하사비스
단기적으로는 기술 혁신의 일반적인 패턴이 반복될 것입니다. 일부 일자리는 사라지지만, 더 가치 있고 의미 있는 일자리가 새로 생길 것입니다.
다만, 인턴·초급 직무부터 영향을 받기 시작할 가능성이 큽니다.
하지만 오늘날 학생들에게는 거의 무료로 제공되는 초강력 AI 도구들이 있습니다. 이것은 과거의 어떤 인턴십보다 강력한 학습 기회가 될 수도 있습니다.
AGI 이후의 세계는 완전히 다른 문제입니다.
그건 인류가 한 번도 가본 적 없는 영역입니다.
정부와 정책의 준비 수준
사회자:
정부는 이 변화의 규모를 제대로 이해하고 있다고 보십니까?
데미스 하사비스
전혀 충분하지 않습니다.
경제학자들조차 이 문제를 심각하게 고민하지 않고 있습니다.
우리는 경제 구조, 소득 분배, 의미와 목적, 인간 정체성까지 전부 다시 생각해야 합니다.
5~10년은 결코 긴 시간이 아닙니다.
지정학적 위험
사회자:
미·중 경쟁, 기술 패권 전쟁, 반도체 수출 문제 등 지정학적 환경이 매우 복잡해졌습니다. 다리오, 위험이 더 커졌다고 보십니까?
다리오 아모데이
네, 분명히 커졌습니다.
저는 중국에 고성능 AI 칩을 판매하지 않는 것이 가장 중요한 안전장치라고 봅니다.
이건 단순한 무역 문제가 아니라, 핵무기를 파는 것과 비슷한 차원의 결정입니다.
AGI는 통신 기술이 아닙니다.
문명의 운명을 바꿀 기술입니다.
악의적 AI 위험
사회자:
최근 AI가 기만, 속임, 자기보존 행동을 보인 사례들이 보고되고 있습니다. 위험 인식이 달라졌습니까?
다리오 아모데이
우리는 초기부터 이 위험을 연구해 왔습니다.
기계적 해석 가능성(mechanistic interpretability) 연구를 통해 모델 내부 작동을 이해하려 노력하고 있습니다.
저는 **종말론적 비관주의(doomerism)**에는 동의하지 않습니다.
하지만 통제 없이 경쟁이 가속된다면 위험은 매우 커집니다.
데미스의 총평
데미스 하사비스
저는 지난 20년간 AI를 연구해 왔습니다.
그 이유는 과학과 인류 이해를 위한 궁극적 도구이기 때문입니다.
위험은 분명 존재하지만, 시간과 협력, 집중이 있다면 충분히 해결 가능한 문제라고 믿습니다.
문제는 속도와 경쟁입니다.
마지막 질문 – 1년 뒤 우리는 무엇을 보게 될까?
사회자:
내년에 다시 만난다면, 가장 크게 달라진 점은 무엇일까요?
다리오 아모데이
AI가 AI를 만드는 구조가 얼마나 현실화되었는지, 이것이 가장 중요한 관찰 지점이 될 것입니다.
데미스 하사비스
동의합니다.
그리고 세계 모델, 지속 학습, 로보틱스도 큰 진전을 보일 것입니다.
다만, 솔직히 말해 조금 더 천천히 가는 편이 인류에게 더 낫다고 생각합니다.
