뉴스레터 Vol.35 | 빌 게이츠: “AI는 핵무기를 아무것도 아닌 것처럼 보이게 만든다 — 감독계층과 입법이 필요하다”

빌 게이츠는 사흘 간격으로 NBC 「Meet the Press」와 NYT 「The Ezra Klein Show」에 잇따라 출연해 같은 메시지를 던졌다. 「The Ezra Klein Show」는 2026년 가을 AI 위험을 연속 조명하고 있는데, 바로 전 주 게스트였던 엔비디아 CEO 젠슨 황은 "안전은 실재하는 우려지만 경쟁 압박은 허구다. 안전하지 않으면 출시하지 않으면 된다. 새 법은 필요 없다"는 입장을 폈다. 클라인은 이것이 트럼프 대통령, 데이비드 색스 등과 공유되는 현재 미국의 지배적 견해라고 짚었다.

게이츠는 정반대 편에 섰다. 클라인은 그를 두고 "직접 만나보니 매우 단호했고, 두려워하는 것처럼 보이기까지 했다"고 전했다. 우리가 만들고 있는 것에 대한 준비가 되어 있지 않고, 권한을 가진 많은 사람이 곧 닥칠 일을 부정하고 있다는 것이 게이츠의 요지였다. 클라인의 표현으로는 일종의 '총동원령'이다.

1996년 데이비드 레터맨 쇼에서 게이츠는 "컴퓨터가 생각하게 만드는 건 매우 어려운 문제이고 진전이 거의 없다"고 말했고, 레터맨은 "무서운 생각"이라고 받았다. 게이츠는 1975년 하버드를 중퇴하며 폴 앨런에게 "그 사이에 AI 돌파구가 나오면 학계에 남지 않은 걸 후회할 것"이라 말했을 만큼 AI를 오래 지켜봐 왔다. 이후 AI 연구는 Prolog, 전문가 시스템 같은 막다른 길을 거쳤고, GPU가 충분한 연산력을 제공하면서 제프리 힌턴 등이 이끌어 온 신경망 기반의 통계적 접근이 성과를 내기 시작했다.

그의 인식을 바꾼 것은 두 번의 충격이다. 첫째, GPT-4 공개 약 6개월 전 그는 OpenAI에 "AP 생물 시험에서 만점(5점)을 받으면 지식을 활용 가능한 형태로 인코딩했다는 증거"라는 과제를 냈고, 샘 올트먼·그렉 브록먼·일리야 수츠케버가 그의 집에서 만점을 시연했다. 둘째, 지난해 말 Claude Code 계열 모델이 크게 좋아지면서 그가 13세부터 24세까지 집착했던 코딩 실력과 대등해졌다. 장시간의 복잡한 작업에서 코드 작성과 결함 탐지 모두 초인간적 수준에 도달했다는 것이다.

변화는 재단 운영에서도 체감된다. 재단은 매년 10월 2주간 전략 리뷰를 열어 이듬해 약 100억 달러의 지출 방향을 정한다. 1년 전 "AI에게 물어보자"는 말은 농담에 가까웠지만, 올해는 ChatGPT·Claude·Copilot과 전략 노트를 두고 대화하고 AI끼리 토론을 시키며, 일부 리뷰에는 AI를 직접 배석시킨다. 최종 결정은 하지 않지만 복잡한 전략 논의에 의미 있게 기여하는 '동료(peer)'가 된 것이다.

NBC 인터뷰에서 그는 이를 "진정한 진화적 사건"이라 규정했다. 과거 기술들도 우려가 있었지만 결국 해결되었으니 이번에도 의도적으로 통제할 필요가 없다는 주장은 틀렸다는 것이다. 인류는 이미 여러 면에서 인간보다 똑똑한 지능형 종을 만들어냈고, 이는 향후 몇 년 동안 기하급수적으로 발전할 것이다. 인간의 뇌는 산도(産道)가 제한하는 크기와 기억의 한계를 갖지만, 실리콘에는 개체 간 경계도, 지식 전달의 한계도 없다. 그는 "통제권을 유지하지 못하면, 우리가 개나 고양이를 대하듯 우리를 대할 종을 진화시키는 셈"이라고 경고했다. 모든 AI 기업이 "위험 임계점에서는 이윤에 반하는 판단을 할 수 있다"는 헌장을 두지만, 이는 회사가 하나뿐일 때만 작동한다. 한 곳이 멈춰도 다른 누군가가 만들면 판도라의 상자는 열리기 때문이다.

두 인터뷰를 관통하는 핵심 진단이다. 게이츠는 아직은 인간이 AI를 통제하고 있다고 분명히 했다. AI가 수백만 대의 로봇을 조종하는 단계가 아니고, 컴퓨터 전원을 끌 수 있기 때문이다. 문제는 AI가 이미 바이오테러리스트가 수억 명을 죽이도록 도울 수 있는 수준에 도달했고, 모든 은행 계좌를 뒤섞고 전력망을 멈추는 사이버 공격 능력도 이미 존재한다는 점이다. "AI가 이번 십년 말까지 인류를 전멸시킬 수 있다"는 업계 내부 고발자의 경고에 대해, 그는 100% 전멸까지는 어렵더라도 AI가 10억 명의 사망자를 낼 수 있는 사건을 일으킬 만큼 강력하다고 답했다.

사이버 측면에서는 Mythos로 이어지는 모델들이 사람들이 20년 넘게 검토하고 "문제없다"고 한 코드에서 몇 분 만에 보안 버그를 찾아 공격 경로까지 제시했다. 소수에게 먼저 제공해 버그를 고치게 하는 'Glasswing' 같은 시도도 있었지만, 세상의 코드는 너무 많아 지금은 사이버 공격에 극도로 취약한 시기라는 것이다.

바이오 측면에서 새로운 분자를 설계하는 능력은 궁극의 '이중 용도' 기술이다. 천연두보다 나쁘고 증상이 나타나기 전 감염력이 있는 기간이 더 긴 병원체를 만들 수 있다. 과거 국가만 가졌던 능력이 이제 최신 AI 도구를 쓰는 소규모 집단의 손에 들어갔다는 것이 게이츠의 판단이다. 그는 앤트로픽(Anthropic)이 자사 AI를 이용해 생화학 무기를 만들거나 공격을 시도한 사례를 보고한 바 있다고 전했다. 또 캄보디아 사기 조직이 사람 손으로 메시지를 입력하는 수준과 비교할 수 없을 만큼 1,000배 정교한 사기를 AI로 저지를 수 있다며, 이런 부작용은 확실한 수익 모델을 등에 업고 있어 이미 눈앞에 와 있다고 경고했다.

그는 위험의 순서를 분명히 했다. 클라인이 모델의 '상황 인식' 증가와 재귀적 자기개선(RSI, Recursive Self-Improvement)을 향한 경쟁을 우려하자, 게이츠는 지금의 강화학습에 "다른 컴퓨터를 장악하지 말라", "인터넷으로 탈출하지 말라" 같은 절대 원칙을 담은 감독 계층이 없다는 점을 인정하면서도 이렇게 답했다. "임박한 위험은 RSI가 아니라, 역사상 가장 강력한 도구가 인간의 악의에 쓰이는 것이다." 그는 이것이 재단의 보건 사업에 대한 헌신보다도 우선하는 문제라며, 소아마비 퇴치나 해외 원조 확대를 외치던 목소리를 AI를 순(純)긍정적 방향으로 이끄는 데 쓰기로 했다고 밝혔다.

게이츠는 킬 스위치를 "좀 이상한 개념"이라고 평했다. AI가 스스로 컴퓨터를 장악해 전원을 끌 수 없는 단계에 이른 것이 아니므로, 그런 논의는 일부 사람들이 얼마나 비기술적인지를 보여줄 뿐이라는 것이다. 킬 스위치에 반대하지는 않지만, 악행을 멈추려면 어떤 작업이 이루어지고 있는지에 대한 통찰과 기록이 먼저 필요하다고 했다.

질병 치료제를 개발하려는 선의와 생화학 테러 도구를 만들려는 악의는 종이 한 장 차이다. 그래서 필터링만으로는 한계가 있다. 생물무기를 만들 수 있는 오픈소스 모델을 가져와 모든 모니터링을 끌 수 있고, 이는 오늘 이미 가능하다. 반대로 폐쇄형 모델의 필터는 과잉 조정되어 있다. 게이츠는 앤트로픽이 Mythos와 Fable의 필터를 너무 높게 설정해, 암에 관해 물으면 상위 모델에서 하위 모델로 내려가다 결국 Haiku만 답하는 상황을 예로 들었다. 이렇게 되면 진지한 연구자는 특별 허가판을 받거나 안전장치 없는 오픈소스를 쓸 수밖에 없다.

그의 처방은 모든 모델에 대한 감독 계층, 즉 안전장치와 모니터링·기록의 의무화다. 정교한 모델이 정확히 어떤 작업을 수행하는지 기록하고 감시해야 한다는 것이다. 오픈소스도 무료이고 커스터마이징도 가능해야 하지만, 주권 국가가 모니터링과 안전장치 제거 여부를 확인할 수 있는 플랫폼 위에서 구동되어야 한다. 그는 두 인터뷰 모두에서 이 조치가 개발 속도를 의미 있게 늦추지 않는다고 강조했다. 속도를 줄여야 하는지는 별개의 논쟁이지만, 안전장치와 모니터링 설치는 우리가 선택할 수 있는 문제라는 것이다.

클라인이 제조물 책임, 분류기(classifier) 같은 차단 장치, 기업의 평판 관리라는 시장 인센티브로 충분하지 않느냐고 묻자, 게이츠는 "그런 질문을 한다는 게 믿기지 않는다. 이것은 인류가 다가간 것 중 가장 위험한 것이다"라고 응수했다. FDA 없이 약을 출시하고, 항공안전 기구나 안전벨트 규정 없이 소송만으로 안전을 지키는 산업은 없다. 사회는 파산시키는 방식이 아니라 사전 예방으로 사람을 보호하도록 만들어져 있다는 것이다.

NBC 인터뷰에서도 앤트로픽 CEO 다리오 아모데이가 AI 기업들에 개발 속도 조절을 촉구한 데 대한 질문에 "자율규제만으로는 부족하다. 워싱턴에서 입법이 통과되어야 한다"고 답했다. 핵폭탄·로켓 등 과거 위험 기술은 정부가 연구 자금을 대거나 주요 고객이었기에 내부 사정을 잘 알았지만, AI는 민간에서 출현해 정부의 이해도가 매우 낮다. 그는 정부 내 전문성 부족을 보완하기 위해 책임감 있는 업계 관계자들을 모아 토론하는 구조를 만들되, 최종 권한은 정부가 가져야 한다고 제안했다.

2023년 "관리 가능하다"던 입장이 왜 바뀌었느냐는 클라인의 질문에는 이렇게 답했다. "업계는 늘 임계점을 넘으면 사회 전체를 참여시키겠다고 말해왔다. 이것은 핵무기를 아무것도 아닌 것처럼 보이게 만든다. 그런데 임계점을 넘었는데도 업계 밖은 완전한 침묵이었다." 그는 대응이 충분히 강해진다면 기꺼이 소아마비 퇴치와 아동 사망 문제로 돌아가겠다고 덧붙였다.

클라인은 정치권이 무관심한 것이 아니라 "중국과의 경쟁에서 이기는 것이 최우선이고, 규제 비용이 너무 크다"는 다른 결론에 도달한 것이라고 반박했다. 게이츠는 이를 사람들이 꺼내는 '면책 카드'라고 불렀다. "이긴다는 게 무슨 뜻인가? 미국도 중국도 서로를 이길 수 없다. 둘 다 판도라의 상자를 열었고, 그것은 악의를 가진 사람들이 쓸 수 있게 이미 거기 있다." 그는 중국 역시 비국가 주체의 생화학 테러나 전력망 공격을 원하지 않는다며, 중국이 보호 장치에 참여하지 않을 것이라는 가정은 검증해볼 명제라고 말했다.

트럼프 대통령에게는 전면적 개발 중단이나 속도 저하를 요구하지 않고, 미국 내 모든 AI에 의무 규정을 적용하라고 말하겠다고 밝혔다. AI 종말 경고를 '사기(Hoax)'라고 한 트럼프의 게시글에 대해서는 "전혀 사기가 아니다"라면서도, 그가 미국 국민을 보호하고 싶어 하므로 경청할 것이라고 봤다. 곧 있을 트럼프-시진핑 회담에 대해서는 현재 AI 관련 안건이 "아무것도 없다"며 실질적 내용이 없다고 평가했다.

냉전기 미·소 핵 군축 모델을 적용할 수 있느냐는 질문에는 가능하지만 그때보다 지금이 더 어렵다고 답했다. 핵무기는 핵분열 물질 접근성과 검증 가능성이라는 독특한 특성이 있었기 때문이다. 그럼에도 2차 세계대전 이후 미국이 동맹국과 함께 항공 안전, 오존층 보호, 핵무기 문제를 이성적으로 주도해 온 전례를 들며, AI에서도 민족주의적 관점을 넘어 "인류 전체가 같은 배를 탔다"는 대명제로 돌아가야 한다고 말했다. 위험한 모델이 모니터링 없이 어두운 구석으로 옮겨질 수 있다면 바이오 공격에 항복하는 것이며, 몇 년 안에 올 대형 사이버·바이오 사건은 안전장치와 모니터링으로 피할 수 있다는 것이다.

게이츠는 데이터센터 건설 인력 수요가 크게 늘었고 실업률도 낮다는 점을 들어, 지금까지는 AI가 없앤 일자리보다 만든 일자리가 많다고 인정했다. 결정 변수는 '신뢰성 임계점'이다. AI가 어떤 직무를 대체하려면 정확도가 인간보다 나아야 하는데, 확실히 넘은 직종은 아직 코딩뿐이다. 그러나 몇 년 안에 회계·법률·텔레세일즈·고객지원이 임계점을 넘을 것으로 봤다. 24시간, 모든 언어로, 무한한 지식을 갖고, 서두르지 않는 AI다. 샌프란시스코에서 사람들이 인간 운전사보다 Waymo(구글 계열의 자율주행 택시)를 선호하는 것처럼, "그래도 인간을 선호할 것"이라는 가정은 품질 임계점을 넘는 순간 무너진다는 것이다.

클라인의 5월 칼럼이 근거로 삼은 제번스 역설(지능이 싸지면 수요가 폭증해 일자리도 늘어난다)에 대해, 게이츠는 레이디얼 타이어 사례로 반박했다. 수명이 네 배인 타이어가 나와도 사람들은 네 배 더 운전하지 않았고, 타이어 공장 고용은 4분의 1이 되었다. 수요 탄력성은 경제의 일부에만 있으며, AI가 작업 전체를 완결하면 늘어난 수요는 인건비 예산이 아니라 '토큰 예산'(AI 이용 예산)으로 간다.

더 근본적인 논거는 희소성이다. 과거 제조업 자동화 때 사람들이 서비스업으로 옮겨갈 수 있었던 것은 인간의 인지 능력이 희소 요소였기 때문이다. 트랙터가 나왔을 때는 디즈니랜드를 지어 사람을 고용했지만, 인지를 희소 요소에서 제거하면 올라갈 '고지대(high ground)'가 남지 않는다. 경제학자 알렉스 이마스의 '관계 부문 일자리' 확대론에도 게이츠는 회의적이었다. 과거 왕족은 옷 입는 것까지 도와주는 하인을 두었지만 오늘날 부의 노동 집약도는 오히려 낮아졌으며, "55세 트럭 운전사에게 관계 관련 일을 하라고 할 건가?"라고 되물었다. 클라인은 결국 핵심은 전환 속도이며, 차이나 쇼크가 많은 공동체를 파괴했듯 빠른 전환을 감당할 방법이 보이지 않는다고 인정했다.

게이츠는 현재 연금·사회보장이 현역 근로자가 은퇴자를 부양하는 구조라는 점을 짚었다. "근로자를 내보내고 로봇을 쓰는데, 왜 로봇은 연금 기금에 기여하지 않나?" 그의 제안은 노동 단위를 정의하고, 인간이든 로봇이든 그 노동에 대해 인간 근로자와 동일한 급여세(FICA)를 부과하는 것이다. 현 세제는 자본 소유자를 우대하고 노동을 가장 불리한 투입 요소로 취급한다. 경제적 신호가 AI가 더 싸다고 말해도, 어떻게 할지는 사회가 선택한다는 것이다.

휴머노이드 로봇이 임계점을 넘으면 매우 범용적이 되므로 블루칼라 충격은 특히 날카로울 것이다. 그래서 그는 보육, 노인 돌봄, 일부 의료와 교육을 미리 '인간 전용(Human Reserved)'으로 지정해, AI 보조는 허용하되 인간 고용을 지키자고 제안했다. 에세이에서는 이를 건물과 도로를 지을 수 있지만 잃을 것이 너무 커서 짓지 않는 자연보호구역에 비유했다.

게이츠는 미래를 두 단계로 제시했다. 첫 번째는 문제 해결의 잠재력은 있지만 아직 완전히 해결하지는 못하는 약 20년의 적응기다. 이 시기의 문제는 타이밍이다. 사람들이 체감하는 식품·주거·교육·의료 비용의 혁신은 규제가 강한 분야라 20년에 걸쳐 오는 반면, 바이오·사이버 위험, 심리사회적 위험, 일자리 위험은 향후 5년 안에 매우 크게 온다. 클라인도 디지털 세계의 지능은 규제 없이 가속하지만, 인간에게 필요한 것 대부분은 물리적이고 제도를 거치기 때문에 "좋아지는 경로는 느리고 나빠지는 경로는 빠른" 이상한 세계가 될 수 있다고 동의했다.

게이츠는 혜택이 빨리 오지 않고 안전장치도 없다면 AI의 '운영 허가(permission to operate)'에 대한 사회적 지지가 무너질 것이라고 경고했다. 지역사회의 데이터센터 건설 반대에 대해서는 "데이터센터는 어디든 지어진다. 헛수고다"라며 이것으로 AI 속도를 늦출 수는 없다고 선을 그었다. 정치적으로는 한 정당은 AI 찬성, 다른 정당은 반대로 갈려 기후변화 논쟁처럼 양극화되는 것을 가장 경계했다.

적응기를 지나면 휴머노이드 로봇과 AI가 결합해 집을 짓고 식량을 재배하는 '풍요의 시대'가 온다. 그때는 결핍 없이 왜 배우고 어떻게 목적을 찾는지 같은 삶의 의미가 과제가 되겠지만, 말라리아로 죽고 먹을 것과 의사가 없는 문제는 사라진다. 게이츠는 향후 10년 뒤를 예측하는 자신의 능력이 평생 가장 낮다고 털어놓으며, 이것은 PC 같은 기술사가 아니라 "진화사"이며, 우주선이 아니라 실험실(컴퓨터)을 통해 찾아온 외계 지능과 같다고 말했다. 그래서 이번 세대의 과제는 약 20년 이상의 전환기를 인류가 통제권을 유지한 채 통과하며 바이오테러와 실직 피해를 최소화하는 것이다.

경고와 별개로 게이츠 재단은 AI 확산에 적극적이다. 재단은 인터뷰 직전인 9월 말 AI 언어 접근성 이니셔티브를 발표했다. 현재 AI 모델은 영어와 10여 개 주요 언어에서는 매우 뛰어나지만, 아프리카 언어의 경우 오류율이 약 10배에 달한다. 서아프리카에서 3천만 명이 쓰는 요루바어가 대표적이다. 나이지리아 오지에서 요루바어를 쓰는 여성이 "출혈이 있다"고 말해도 지금의 AI는 제대로 알아듣지 못한다.

게이츠는 "순수한 자본주의적 유인만으로는 이런 언어가 우선순위가 되지 않는다"고 지적했다. 재단은 10개 정도의 기업 참여를 기대했지만 AI 기업을 포함해 60개 기관이 참여했다. 목표는 과소대표된 언어를 쓰는 약 34억 명이 5년 안에 자국어와 음성으로 영어에 가까운 품질의 AI를 쓰게 하는 것이다. 품질 측정 방법과 필요한 데이터가 명확히 정의되어 있어 모든 모델 제공업체가 이를 활용하게 될 것이라고 설명했다.

그는 의사도, 영농 조언자도 없는 저소득국에서 AI는 압도적으로 좋은 것이며, 일자리 충격은 부국, 중소득국, 저소득국 순으로 시차를 두고 온다고 설명했다. 인도에서는 이미 100만 명 이상의 농민이 병해 진단·비료·품종 추천 AI를 쓰고 있다. 다만 역풍도 있다. 미국인들은 예산의 10~15%가 빈국 원조에 쓰인다고 생각하지만 실제로는 0.5%였고, 지금은 0.25%로 줄고 있다. 재단은 1인당 약 1,000달러로 생명을 구하는데, AI 연구소발 자선금이 들어온다고 원조 삭감으로 잃는 생명이 구해지지는 않는다는 것이 게이츠의 계산이다.

재단 출범 이후 보건 분야에서는 아동 사망을 연 1,000만 명 이상에서 500만 명 미만으로 줄였지만, 교육에서는 미국 등 대부분의 부국 아이들이 10~20년 전보다 덜 배우고 있다(영국은 읽기 교육을 기본으로 되돌려 예외). AI 사용은 게으르게 답만 얻는 '인지적 오프로딩'과 더 깊이 배우는 방식으로 양극화될 것이며, 게이츠는 AI가 개인화 학습을 넘어 개인화된 동기 부여로 격차를 극복할 수 있다고 기대했다.

동시에 그는 AI를 항상 자신에게 동조해 주는 친구나 동반자처럼 쓰는 것의 위험을 지적했다. 자신에게 아부하지 않는 사람들을 대하는 법을 배우는 데 방해가 되어 사회성 발달을 저해할 수 있으며, 중국은 청소년의 이러한 사용을 금지했다. 수학 이해를 돕는 개인화 학습처럼 동기를 부여하는 활용과, 장기적으로 도움이 되지 않는 감정적 관계를 구분해야 한다는 것이다. 그 자신도 "너 나 좋아하니?" 같은 개인적 인간관계의 영역에는 AI를 쓰지 않는다고 했다. 아동 보호의 해법으로는 전면 금지보다 연령에 따라 부모가 대화를 볼 수 있게 하는 모니터링과, 답 대신 추론 과정을 함께 밟는 교육형 AI를 제시했다.

(출처: NBC News "Meet the Press", 2026.09.27 / The Ezra Klein Show, The New York Times, 2026.09.30)