빌 게이츠, AI에 대해 ‘킬 스위치만으로는 부족하다’고 말하다

• 글로벌 AI 언어 격차 해소: 빌 게이츠는 영어에 치우친 AI의 혜택을 전 세계로 넓히기 위해 60여 개 기관과 협력하여 5년 내 100만 명 이상이 사용하는 모든 언어의 AI 인식 품질을 영어 수준으로 끌어올리는 사업을 추진하고 있습니다.
• 인간의 악용에 대한 실시간 모니터링 의무화: 현재 가장 시급한 위험은 AI의 자체적인 일탈보다 ‘악의를 가진 인간의 AI 오남용(생화학 테러, 사이버 공격 등)’이므로, 단순한 킬 스위치를 넘어 모든 AI 모델에 실시간 모니터링과 안전장치 설치를 법적으로 의무화해야 합니다.
• 정부 주도의 규제와 미·중 간 글로벌 공조 필요성: AI 민간 개발의 위험성을 통제하기 위해 미국 정부의 선제적인 입법이 필수적이며, 과거 핵무기 군축 협정처럼 국가 간 패권 경쟁을 넘어 미국과 중국을 포함한 국제사회가 공동의 안전 가이드라인을 수립해야 합니다.

요약 SUMMARY

빌 게이츠, AI에 대해 ‘킬 스위치만으로는 부족하다’고 말하다

(Bill Gates says it’s ‘not enough to have a kill switch’ for AI: Full interview)

NBC News ‘Meet the Press’ | 2026년 9월 27일 방영

본 내용은 빌 게이츠(Bill Gates)가 NBC Meet the Press 인터뷰에서 밝힌 AI 기술의 발전 전망, 국가 및 사회적 위협 요소, 그리고 글로벌 안전장치(Guardrails) 마련의 시급성에 대한 핵심 구상과 전략적 제언을 종합·분석한 Executive Summary입니다.

1. 개요 및 핵심 메시지 (Executive Focus)

AI 기술은 단순한 산업적 혁신을 넘어 ‘새로운 지능형 종(Species)의 출현’에 비견되는 진화적 사건(Evolutionary Event)을 맞이하고 있습니다. AI 발전이 가져올 인류 문명 차원의 혜택(보건·교육 격차 해소, 풍요의 시대 도달)을 극대화하고 생화학 테러·사이버 공격 등 파멸적 위협을 통제하기 위해서는 정부 주도의 제도적 모니터링 체계 구축과 글로벌 공조가 시급합니다.

2. 주요 분야별 분석 및 정책 제언

① 기술적 형평성 및 글로벌 포용성 (AI for Equity)

• 현황 및 문제점: 현존 AI 모델은 영어 및 주요 상위 10여 개 언어에 최적화되어 있습니다. 서아프리카 요루바(Yoruba)어 등 사용자가 수천만 명에 달하는 소수 언어의 경우, 영어 대비 인식 오류율이 약 10배에 달해 보건·교육 분야의 실질적 활용이 불가능한 실정입니다.
• 대응 성과 및 목표: 게이츠 재단은 글로벌 AI 기업 및 연구기관 60여 개와 파트너십을 체결했습니다. 향후 5년 내 100만 명 이상이 사용하는 전 세계 모든 언어의 AI 인식 및 음성 인터페이스 품질을 영어 수준으로 향상시키는 벤치마크 평가 체계를 구축 중입니다.

② 위협의 본질: ‘자가 일탈’ 대 ‘인간의 악용’

• 당면한 실존적 위협 (Imminent Risk): 현재 AI의 가장 큰 위험은 AI 자체의 통제력 상실이 아닌, ‘악의를 가진 주체(Bad Actors) + 최신 AI 도구’의 결합입니다.
  • 핵심 위협 요인: 대규모 생화학 무기 설계 지원, 국가 전력망 및 병원 시스템 마비, 금융 네트워크 교란, 지능화된 대규모 사기 범죄.
  • 위협의 민주화: 과거 강대국 국가기관만 가능했던 수준의 사이버/생화학공격 능력을 소규모 범죄 집단도 AI를 통해 보유하게 되었습니다.
• 통제력 상실 문제 (Loss of Control): AI가 스스로 컴퓨터 네트워크를 점령하고 일탈하는 자율적 위험은 장기적 과제이나, 당장 눈앞에 다가온 실효적 위협에 대한 시선을 분산시킬 우려가 있습니다.

③ 규제 프레임워크 및 안전장치 (Governance & Guardrails)

• 단순 ‘킬 스위치(Kill Switch)’의 한계: 전원을 차단하는 방식의 킬 스위치만으로는 정교한 AI 오남용 및 범죄를 예방할 수 없습니다. 핵심은 AI 시스템 내부에서 수행되는 모든 고도화된 작업을 실시간으로 기록하고 감시하는 ‘모니터링 체계’의 의무화입니다.
• 민간 자율 규제의 한계와 입법 필요성: AI 기술은 민간 기업 주도로 개발되어 정부의 이해도가 상대적으로 낮습니다. 기업의 자발적 검증에만 의존하는 것은 무책임하며, 미국 의회를 비롯한 정부 차원의 강제성 있는 입법과 규제 마련이 필수적입니다.
• 개발 속도 영향 미비: 안전장치 및 감시 시스템의 구축은 전체 AI 발전의 기술적 궤도를 유의미하게 지연시키지 않으며, 산업 발전과 안전성 확보는 병행 가능합니다.

④ 미·중 관계 및 국제 공조 (Global Governance)

• 핵심 프레임워크: 냉전 시절 미·소 간 핵무기 군축 협정과 마찬가지로, AI 안전 분야 역시 미국과 중국을 포함한 국제사회의 공동 가이드라인 수립이 필요합니다.
• 중국의 입장 및 공감대: 중국 역시 비국가 주체의 생화학 테러나 전력망 공격 등 체제 위협 요인을 원치 않으므로, 국가 간 기술 패권 경쟁과 별개로 안전장치 도입에 대한 국제적 합의 및 공조가 충분히 가능합니다.

3. 타임라인별 기술 발전 전망 (Strategic Roadmap)

구분	기간	주요 특징 및 사회적 영향	전략적 대응 과제
전환기 (Phase 1)	향후 ~20년	– 노동 시장 구조 변동 – 사이버/생화학 범죄 위협 증가 – 주거·의료비 등 사회적 비용 상존	– 모니터링·안전장치 입법화 – 소수 언어/계층 AI 접근성 확대 – 오남용에 대한 수사 기관 역량 강화
풍요의 시대 (Phase 2)	20년 이후	– 휴머노이드 로봇 + AI 결합 – 식량, 주거 등 자원 부족 해소 – 생산 노동의 자동화	– 삶의 의미와 시간 활용에 대한 사회적 재정의 – 인간 간 사회적·정서적 교류 보존

4. 결론 및 정책적 시사점

1. 선제적 입법 조치: 대규모 사이버 타격이나 생화학 사고가 발생한 후 대처하는 사후약방문 방식에서 벗어나, 미국 및 주요국 정부는 AI 모니터링 및 안전장치 설치를 법적으로 의무화해야 합니다.
2. 글로벌 리더십 회복: 미국은 기술 경쟁 구도에만 몰두할 것이 아니라, 과거 오존층 보호 및 항공 안전 협정 사례처럼 전 인류적 위협에 대응하는 국제적 중재자 역할을 재개해야 합니다.
3. 인간 중심의 AI 활용: 교육 및 일상 영역에서 AI는 개인화된 학습 및 문제 해결 도구로 제한되어야 하며, 인간 고유의 정서적 교류나 사회성 발달을 저해하는 의존형 AI 사용에 대해서는 경계와 가이드라인이 필요합니다.

전체 번역본 FULL TRANSLATION

1. AI 언어 접근성 확대 이니셔티브

진행자(Kristen Welker): 게이츠 씨, ‘밋 더 프레스(Meet the Press)’에 오신 것을 환영합니다.

빌 게이츠: 초대해 주셔서 감사합니다.

진행자: 나와주셔서 정말 기쁩니다. 바쁜 한 주인데 시간을 내어주셔서 감사드립니다. 이번 주에 발표하신 이니셔티브 이야기부터 시작하고 싶습니다. 이 사업은 AI 분야에서 가장 큰 우려 중 하나인 언어 장벽과 불평등 문제를 해결하는 것을 목표로 하고 있습니다. 현재 AI는 주로 영어 사용자를 위해 개발되었기 때문에, 게이츠 재단은 AI 기업을 포함한 60개 기관과 협력하여 언어 접근성을 확장하려 하고 있습니다. 왜 이것이 중요한 이니셔티브라고 생각하시나요? 왜 하필 지금인가요?

빌 게이츠: AI 모델은 영어와 기타 12개 정도의 주요 언어를 인식하는 데 매우 뛰어난 성능을 보이게 되었습니다. 그래서 자신의 건강에 대해 이야기하면 정확하게 기록하고 도와줄 수 있죠. 하지만 아프리카 언어의 경우 오류율이 약 10배나 높습니다. 이는 매우 위험합니다. 서아프리카에서 3천만 명이 사용하는 요루바어를 예로 들면, 영어보다 오류율이 10배나 높아서 사실상 사용할 수가 없습니다. 하지만 순수한 자본주의적 유인 구조만으로는 이러한 언어에 우선순위를 두지 않죠. 그래서 저희는 10개 정도의 기업이 참여해주기를 기대했는데, 무려 60개 기업이 참여해 주었습니다. 정말 놀라운 일입니다. 이제 저희에게는 구체적인 일정표가 생겼습니다. 품질을 향상시키고 벤치마크를 설정한 뒤, ‘좋습니다, 이 정도면 해당 언어로 건강 상담이나 교육 세션을 진행해도 충분합니다’라고 말할 수 있는 수준으로 만드는 것입니다.

진행자: 일정표는 어떻게 되나요? 게이츠 씨가 생각하는 성공의 기준은 무엇인가요?

빌 게이츠: 향후 5년에 걸쳐 100만 명 이상이 사용하는 모든 언어의 품질을 영어 수준에 가깝게 끌어올리는 것입니다. 그러면 환자나 농부, 학생이 자신의 농작물이나 직면한 문제에 대해 음성 인터페이스로 대화하며 도움을 받는 것이 의미 있어지겠죠. 품질을 측정하는 방법, 필요한 데이터 등이 매우 명확하게 정의되어 있으며, 모든 모델 제공업체가 이 데이터를 활용하게 될 것입니다. 따라서 이러한 기능은 모든 AI 모델에 적용될 것입니다.

2. AI 발전 속도와 사회적 위험성

진행자: AI가 이토록 빠르게 언어 능력을 습득한 것에 대해 놀라셨나요? 이 분야에서 오랫동안 일해온 분으로서 놀라운 요소 중 하나였나요?

빌 게이츠: 물론입니다. ChatGPT가 처음 나왔을 때로 돌아가 보면, 저는 Open AI 팀에게 AP 생물학 시험 같은 것을 풀어보라고 과제를 주었습니다. 6개월 후에 출시될 모델이 언어를 얼마나 잘 다루는지 확인했을 때 제 인생에서 가장 놀라운 시연 중 하나였습니다. 사실 언어는 우리가 사용하는 구조에 가장 완벽하게 들어맞는 응용 분야입니다. 따라서 세계 모든 언어를 지원한다는 아이디어는 실제로 매우 명확하고 단순합니다.

진행자: 그렇다면 이번 5년 계획의 목표를 실제로 달성할 수 있다는 낙관적인 생각이 드시나요?

빌 게이츠: 네, AI의 모든 문제 중에서 이 문제는 우리가 무엇을 해야 하는지, 어떻게 해야 하는지가 명확합니다. 현재 30억 명이 넘는 사람들의 언어가 제대로 반영되지 못하고 있습니다. 즉, 전 세계 인구의 절반 가까이가 우리가 누리는 것보다 훨씬 낮은 수준의 품질을 제공받고 있는 셈입니다.

진행자: AI 개발의 현시점에 대해 이야기해 보죠. 당신은 잠재적 위험에 대해 경고해 온 주요 인물 중 한 명입니다. 지난 8월, “AI는 인류 역사상 가장 위대한 평등 도구가 되거나, 가장 악질적인 불평등의 근원이 될 것이다”라고 쓰셨죠. AI가 가져올 위험이 얼마나 심각하다고 보십니까?

빌 게이츠: AI는 단순한 신기술이 아닙니다. 과거의 기술들도 다 우려가 있었지만 결국 잘 해결되었으니 이번에도 의도적으로 통제할 필요가 없다고 말하는 사람들은 틀렸습니다. 이것은 진정한 진화적 사건입니다. 우리는 여러 면에서 이미 인간보다 똑똑한 지능형 종을 만들어냈습니다. 그리고 향후 몇 년 동안 기하급수적으로 발전하면서 비교할 수 없을 정도로 우리보다 훨씬 똑똑해질 것입니다. 지식을 전송하는 능력에 있어 인간처럼 서로를 교육해야 하는 개인적 한계가 없습니다. 그렇기 때문에 기업뿐만 아니라 모든 학계, 싱크탱크, 유권자, 정책 입안자가 이 기술을 어떻게 형성할지 논의에 적극 참여해야 합니다. 좋은 잠재력은 촉진하고 정말 끔찍한 부작용은 최소화하는 일에 아무리 집중해도 지나치지 않습니다.

3. 오남용의 위협과 안전장치의 필요성

진행자: AI가 이미 어떤 면에서는 인간보다 똑똑하다는 점은 매우 주목할 만합니다. 그렇다면 AI가 이미 인간의 통제를 벗어났을 가능성도 있나요?

빌 게이츠: 아니요, 아직은 인간이 AI를 통제하고 있습니다.

진행자: 그렇게 확신하시는 이유는 무엇인가요?

빌 게이츠: AI가 아직 수백만 대의 로봇을 조종하고 있는 것은 아니니까요. 우리는 컴퓨터 전원을 끌 수 있습니다. 현재 우리가 직면한 가장 위험한 문제는 악의를 품은 인간이 AI를 사용하는 것입니다. 개인을 상대로 사기를 치거나, 전력망을 shut down시키거나, 은행 계좌를 교란하려는 자들이 이제 막강한 힘을 갖게 되었습니다. 과거에는 국가 단위에서나 사이버 공격팀을 꾸리고 생화학 테러 무기 같은 것을 기획할 수 있었지만, 이제는 AI를 활용한 소규모 집단도 강대국이나 할 수 있었던 일을 저지를 수 있게 되었습니다. 정부가 다양한 안전장치를 의무화하지 않는다면, 바로 이 ‘악의+AI’가 치명적인 위협으로 다가올 것입니다. 안전장치를 마련하지 않으면 수많은 대형 악재를 보게 될 것입니다.

진행자: 최근 몇 주 동안 AI와 관련해 가장 큰 헤드라인을 장식한 것은 업계 내부 고발자의 경고였습니다. 온라인 게시글의 일부를 읽어드리겠습니다. “AI를 만드는 사람들은 AI가 이번 십대 말까지 인류를 전멸시킬 수 있다고 진심으로 믿고 있다.” AI가 인류 전체를 종말시킬 만큼 강력하다고 믿으십니까?

빌 게이츠: AI는 10억 명의 사망자를 낼 수 있는 사건을 일으킬 만큼 충분히 강력합니다. 100% 완전한 전멸까지 가기는 어렵더라도, 악의를 가진 인간과 최신 AI 도구가 결합한 것만큼 강력한 무기는 역사상 없었습니다. 그리고 업계 내부에서 자신들의 이익에 반하면서까지 이러한 사실을 인정하고 토론이 이루어지고 있다는 점은 다행입니다. 문제는 나머지 세상이 이를 저평가하거나 단지 경쟁으로만 치부하고 있다는 점입니다. 모든 사상가가 모여 이 기술을 어떻게 형성할지 고민하지 않고 있다는 사실은 매우 두려운 일입니다.

진행자: 그렇다면 인류 전체를 파괴할 수 있다는 AI 내부 고발자의 경고에 대해 사람들은 어떻게 받아들여야 할까요? 지금 이 시점에 무엇을 해야 합니까?

빌 게이츠: 단기적인 위험부터 해결해야 합니다. 이러한 모델이 극도로 강력한 사이버 공격과 개별 사기를 가능하게 한다는 점입니다. 따라서 AI를 그냥 구동되게 두는 것이 아니라, AI가 무엇을 하고 있는지 감시하는 모니터링을 포함한 안전장치를 구축해야 합니다. 사기나 전력망 마비 사건이 터지면 수사 기관이 소환되겠지만, AI 자체에 모니터링과 안전장치가 내장되어 있지 않다면 무슨 일이 일어나는지 파악할 능력이 전혀 없을 것입니다. 따라서 이는 매우 시급한 문제입니다. 이렇게 한다고 해서 발전 속도가 크게 느려지지는 않을 것입니다. 속도를 줄여야 할지 말아야 할지는 별개의 토론이지만, 안전장치와 모니터링을 설치하는 것은 우리가 선택할 수 있는 문제입니다. 유일한 질문은 대규모 사이버 공격이나 생화학 공격이 터지기 전에 할 것인가, 터지고 나서 할 것인가입니다.

4. 규제, 킬 스위치, 그리고 정부의 역할

진행자: 다음 질문으로 자연스럽게 연결되는군요. 어떻게 대처할 것인가에 대한 논쟁 말입니다. 킬 스위치(Kill Switch)를 의무화해야 한다는 주장도 있고, AI 개발을 일시 중단해야 한다는 의견도 있으며, 기업이 자율 규제할 수 있다는 입장도 있습니다. AI를 어떻게 규제해야 한다고 보십니까?

빌 게이츠: 안타깝게도 대부분의 위험한 기술은 정부가 연구 자금을 대거나 핵폭탄, 로켓 등의 주요 고객이었기 때문에 내부 사정을 잘 알고 있었습니다. 하지만 AI는 민간 부문에서 출현했습니다. 그래서 올해 실제로 넘어서버린 생화학 공격 능력, 사이버 공격 능력 등 위험한 임계점에 대한 정부의 이해도가 매우 낮습니다. 게다가 이것이 국가 간의 경쟁 구도로 치부되다 보니 전속력으로 달려가자고만 하는 사람들이 있습니다. 모든 AI에 안전장치와 모니터링 기능을 의무화하지 않는 것은 완전히 무책임한 일입니다. 지금 당장 하느냐의 문제일 뿐입니다. 이러한 노력이 개발 속도를 의미 있게 느려지게 만들지는 않습니다. 어차피 우리는 기하급수적인 성장의 궤도에 있기 때문에 안전장치를 구축하는 것이 상식입니다. 하지만 사람들은 보통 어려운 문제에 대해 미국의 리더십을 기대하는데, 이번에는 그런 리더십이 발휘되지 않고 있어 다들 혼란스러워하고 있습니다.

진행자: 안전장치를 즉시 도입해야 한다는 뜻인가요?

빌 게이츠: 당연합니다. 세상에서 가장 명백한 일입니다. 앤트로픽(Anthropic)의 보고에 따르면 자신들의 AI를 이용해 생화학 무기를 만들거나 타격을 가하려는 시도가 있었다고 합니다. 캄보디아에서 사람들이 일일이 메시지를 입력하는 수준과 비교할 수 없을 정도로, AI는 그보다 1,000배는 더 뛰어난 정교한 사기 범죄를 저지를 수 있습니다. 이러한 부작용들은 확실한 수익 모델을 뒤에 업고 있기 때문에 눈앞에 다가와 있습니다.

진행자: 제가 말하는 안전장치의 의미를 명확히 하고 싶습니다. 모니터링 체계를 갖추는 것 외에 킬 스위치에 대한 논의도 있습니다. 킬 스위치가 가능할까요? 현시점에서 현실적인 방안인가요?

빌 게이츠: 킬 스위치는 좀 이상한 개념입니다. 킬 스위치만으로는 부족합니다. AI가 아직 스스로 컴퓨터를 점령하여 전원을 끌 수 없는 단계까지 간 것은 아닙니다. 그래서 그런 논의는 일부 사람들이 얼마나 비기술적인지 보여줄 뿐입니다. 킬 스위치를 반대하는 것은 아니지만, 악행을 중단시키려면 어떤 작업이 이루어지고 있는지에 대한 통찰과 기록이 필요합니다. 따라서 킬 스위치만으로는 비극을 막을 수 없습니다.

진행자: AI로 인한 비극을 막으려면 구체적으로 무엇이 필요한가요?

빌 게이츠: 질병 치료약을 개발하려는 선의와 생화학 테러 도구를 만들려는 악의를 구별하기가 더 쉬우면 좋겠지만, 두 가지는 너무나 한끗 차이입니다. 따라서 우리는 정교한 모델을 모니터링하고 정확히 무슨 작업이 수행되는지 기록해야 합니다. 미국이 반드시 이 일을 주도해야 하고, 중국도 이를 원할 것입니다. 보통 사람들은 미국이 이에 대해 매우 구체적인 그림을 제시해주기를 기대하며, 업계에서도 이는 충분히 실행 가능한 일이라고 말할 것입니다. 개발을 크게 지연시키지도 않을 것입니다. 따라서 안전장치와 모니터링은 “발전 속도를 줄여야 하는가?”라는 질문과는 별개의 문제입니다.

5. 국제적 협력과 입법의 시급성

진행자: 앤트로픽의 CEO 다리오 아모데이(Dario Amodei)는 최근 AI 기업들에게 위험을 완화하기 위해 모델 개발 속도를 줄일 것을 촉구했습니다. 자율 규제만으로 충분하다고 보십니까, 아니면 워싱턴의 법적 규제가 동반되어야 합니까?

빌 게이츠: 자율 규제만으로는 부족합니다. 따라서 워싱턴에서 입법이 통과되어야 합니다. 수사 기관과 정치인들이 안전장치와 모니터링이 어떤 모습이어야 하는지 논의에 참여해야 하며, 이를 의무화해야 합니다. 업계에 약간의 부담은 되겠지만 개발 속도가 획기적으로 느려지지는 않을 것입니다.

진행자: AI가 결국 인간의 통제를 벗어나기 전에 워싱턴이 조치를 취할 수 있는 시간이 얼마나 남았다고 보십니까?

빌 게이츠: 통제력을 완전히 잃는 것과 생화학 무기로 2,000만 명이 사망하거나 은행 계좌가 교란되는 것은 매우 다른 문제입니다. 우리는 인류 종말이라는 최후의 시나리오보다 훨씬 전에 일어날 일들을 걱정해야 하는데, 종말론적 시나리오가 오히려 사람들의 시선을 분산시키고 있는 것 같아 우려스럽습니다. 현재 AI가 완전히 통제 불능이 될 위험은 없습니다. 악의적인 사람들이 AI를 이용하지 못하도록 설치하는 모니터링이 바로 AI 자체가 유해한 활동을 하는지 감시하는 모니터링과 정확히 일치합니다. 정말 시급한 것은 AI의 자의적 일탈이 아니라 악한 목적을 가진 인간이 AI를 사용하는 것입니다. 통제 상실에 대한 우려 덕분에 사람들이 AI 문제에 집중하게 된 것은 다행이지만, 그것이 당장 눈앞에 다가온 위험은 아닙니다.

진행자: 워싱턴의 의원들과 대화하면서 구체적인 입법 타임라인을 제시한다면 어떻게 말씀하시겠습니까?

빌 게이츠: 정부 내부의 전문성이 부족하기 때문에 책임감 있는 업계 관계자들을 불러 모아 토론하는 구조를 만들어야 합니다. 물론 최종 권한은 정부에 있지만, 현재는 이를 하나로 모을 수단이 없습니다. 모든 국가가 이러한 안전장치를 원해야 합니다. “중국은 이런 안전장치를 안 할 것이다”라고 말하는 사람이 있다면 저는 전혀 동의하지 않습니다. 스스로 할 의지가 있음을 먼저 보여주어야 진정한 논의가 가능합니다. 그저 “우리는 자율 검증을 하고 있는데 당신들은 뭘 합니까?”라고 말하는 수준으로는 아무것도 해결되지 않습니다.

진행자: 효과를 거두려면 글로벌 차원의 대응과 가이드라인이 필요하다는 말씀이시군요.

빌 게이츠: 그렇습니다. 이 모델들이 무엇을 하고 있는지 볼 수 있어야 한다는 것은 상식입니다. 네트워크를 공격하는 AI의 능력은 엄청나며, 우리는 올해 그 임계점을 넘어섰습니다. 제가 폴리오(소아마비)나 말라리아 퇴치에만 전념하지 않고 이 문제에 대해 목소리를 내는 이유는, 업계 밖의 사람들이 이 임계점을 넘었다는 사실조차 깨닫지 못하는 것 같아 충격을 받았기 때문입니다. 매우 명확한 안전장치 대신 그저 ‘자율 검증’에만 의존하고 있는 현상황은 모니터링하는 입장에서 볼 때 사실 매우 두려운 일입니다.

진행자: 명확히 하기 위해 여쭤봅니다. 임계점을 넘었다는 것은 일부 AI 시스템이 실제로 다른 시스템을 해킹했다는 뜻인가요?

빌 게이츠: 아니요, 가장 우려스러운 임계점은 ‘AI가 올해 당장 수백만 명을 죽일 수 있는 생화학 테러 무기를 설계할 수 있는가?’, ‘AI가 코드의 허점을 찾아내어 전력망이나 병원을 마비시키거나 금융 시스템을 교란할 수 있는가?’ 하는 점입니다. 누군가가 악의적으로 AI를 이용해 이런 일을 하지 못하도록 막지 않는다면 매우 위험합니다. 거기에 더해 일부 시나리오에서는 개발자조차 AI가 이렇게까지 자율적으로 행동할 줄 몰랐던 경우가 있는데, 이는 악한 사람들을 막는 것뿐만 아니라 AI 스스로 통제 불능이 되는 것을 막아야 한다는 장기적인 경고입니다. 그 부분도 매우 중요하지만, 오늘 당장 일어날 수 있는 대규모 공격은 인간이 주도하는 공격일 것입니다.

6. 미중 관계와 역사적 교훈

진행자: 최근 트럼프 대통령과 AI에 대해 대화하고 싶다고 말씀하셨습니다. 그에게 어떤 메시지를 전달하고 싶으신가요?

빌 게이츠: 이 분야에 평생을 바친 사람으로서 이 기술이 얼마나 독특하고 다른지, 그리고 제가 얼마나 우려하고 있는지 전함으로써 그가 다른 사람들에게 듣는 이야기에 깊이를 더해주길 바랍니다. 그러면 그도 “내가 할 수 있는 위대한 일 중 하나는 사람들을 모아 안전장치의 모습을 논의하는 것이다”라고 생각하게 되겠죠. 전면적인 개발 중단이나 속도 저하를 요구하지는 않을 것입니다. 미국 내 모든 AI에 의무 규정을 적용해야 한다고 말할 것입니다. 중국 역시 생화학 테러나 비국가 주체의 대규모 공격을 원하지 않습니다. 따라서 이것이 국가 간의 경쟁에 악영향을 주지는 않을 것입니다.

진행자: 트럼프 대통령은 최근 “AI가 세계를 점령하고 인류를 파괴한다는 식의 경고는 모두 사기(Hoax)다”라는 글을 올렸습니다. AI가 인류에게 실존적 위협이 될 수 있다는 경고가 사기라고 보십니까?

빌 게이츠: 아니요, 전혀 사기가 아닙니다. 하지만 그의 초기 반응이 그랬다 할지라도 그는 경청할 것입니다. 그는 미국 국민을 보호하고 싶어 하니까요. 대부분의 사람들은 AI에 무슨 일이 일어나고 있는지 잘 모릅니다. 최신 모델을 직접 써보지 않기 때문이죠. 따라서 그가 한 말은 괜찮지만, 저나 다른 사람들의 설명을 듣고 이것이 국가 간 경쟁에서 발목을 잡는 것이 아니라는 점을 이해한다면 합의에 도달할 수 있을 것입니다. 끔찍한 사건이 터지면 시급성이 더해지겠지만, 안전장치에 대한 논의를 병행한다면 조만간 제도화할 수 있을 것입니다.

진행자: 중국 이야기를 많이 했습니다. 트럼프 대통령이 시진핑 중국 국가주석과 만날 예정인데요. AI와 관련해 미국과 중국이 맺을 수 있는 최선의 합의는 무엇이라고 보십니까?

빌 게이츠: 현재 테이블 위에 올라온 안건은 아무것도 없습니다. 차나 맛있게 마시고 서로 웃어주기를 바랄 뿐이죠. 당면한 위험을 함께 배우고 모니터링하여 방어하자는 제안이 현재로서는 전혀 없습니다. 대화 의지가 있다는 것은 좋지만, AI의 음성적 활동을 억제하기 위한 실질적인 내용은 없는 상태입니다.

진행자: 흥미롭군요. 냉전 시절 미국과 소련은 핵무기 개발 제한에 협력할 수 있었습니다. 그 모델을 지금 미국과 중국 사이의 AI 협정에 적용할 수 있을까요?

빌 게이츠: 네, 당연합니다. 다만 그때보다 지금이 더 어렵습니다.

진행자: 핵무기 때보다 더 어렵다고요?

빌 게이츠: 네, 핵무기는 핵분열 물질에 대한 접근성이나 검증 가능성 등 독특한 특성들이 있었습니다. 물론 지금도 중국을 그런 틀로 끌어들이는 일을 더 잘할 수 있을 것입니다. 관련 협정들이 많이 만료되도록 방치해 두었으니까요. 하지만 2차 세계대전 이후 미국이 글로벌 과제에 직면했을 때 우방국 및 동맹국들과 함께 이성적인 방식으로 주도해 온 점은 자랑스러워할 만합니다. 항공 안전, 오존층 보호, 핵무기 등 독점적 권력을 과시하지 않고 잘 해결해 온 사례가 많습니다. AI 문제에 있어서도 우리는 “인류 전체가 같은 배를 탔다”는 대명제로 돌아가야 합니다.

7. 개인적 회고와 제프리 엡스타인 문제

진행자: AI에 대한 큰 질문들이었습니다. 제프리 엡스타인(Jeffrey Epstein) 관련 문제에 대해서도 말씀하실 기회를 드리고 싶습니다. 지난 6월 의회에 출석해 엡스타인의 범죄 행위에 대해 전혀 몰랐고 참여한 적도 없다고 증언하셨습니다. 또한 그와 함께 보낸 모든 시간을 후회한다고 하셨는데, 정확히 무엇을 후회하시는 건가요?

빌 게이츠: 제프리를 만난 후, 그가 글로벌 보건 사업을 위해 수십억 달러를 모금하는 데 도움을 줄 수 있다는 말을 들었습니다. 본인은 대가를 받지 않고 아무런 역할도 맡지 않겠다고 했죠. 하지만 이는 완전한 실패로 끝났습니다. 다른 많은 사람들처럼 그와 시간을 보낸 것이 결과적으로 그의 평판을 세워주는 데 도움이 되었고, 그 점을 매우 후회합니다. 의회에 출석해 몇 년 동안 10여 차례 가졌던 모든 모임에 대해 명확히 밝힐 수 있어서 다행이었습니다. 그 모임들에 여성이 동석한 적은 단 한 번도 없었고, 재정적인 거래도 없었습니다. 그의 섬에 간 적도 없습니다. 궁금한 점이 있다면 당시 청문회 내용을 읽어보시기를 권합니다. 저는 제기된 모든 질문에 답변하기 위해 그 자리에 있었습니다.

진행자: 엡스타인과 함께 일했던 기간 일부 동안 그가 유죄 판결을 받은 성범죄자라는 사실을 알고 계셨다고 인정하셨습니다. 법무부에 따르면 그의 범죄로 인한 피해자가 1,000명이 넘는다고 합니다. 엡스타인 범죄의 피해자들에게 무슨 말씀을 하고 싶으신가요?

빌 게이츠: 기본적으로 우리는 정부가 법을 집행할 것으로 기대합니다. 플로리다 사건에서 정부가 제대로 된 처벌을 내리지 못하고 지속되던 범죄를 적발하지 못한 것은 사법 시스템의 엄청난 실패였습니다.

8. AI와 교육, 그리고 미래 세대

진행자: AI에 관한 몇 가지 질문이 더 남았는데 시간이 얼마 없군요. 미래와 젊은 세대에 대해 이야기하고 싶습니다. 교육에서 AI가 어떻게 사용되어야 한다고 보십니까? AI를 접하기에 너무 어린 나이가 있나요?

빌 게이츠: AI를 항상 자신에게 동조해주는 친구나 동반자처럼 사용할 수 있기 때문에, 자신에게 아부하지 않는 사람들을 대하는 법을 배우는 데 큰 위험이 될 수 있습니다. 이는 사회성 발달을 저해할 수 있죠. 그래서 중국은 이러한 형태의 사용을 금지했습니다. 따라서 수학을 이해하도록 돕고 개인화된 학습을 제공하여 동기를 부여하는 적절한 수준의 활용과, 장기적으로 도움이 되지 않는 감정적 관계를 명확히 구분해야 합니다.

진행자: 일상생활에서 AI를 어떻게 활용하시나요?

빌 게이츠: 호기심이 생기는 부분에 대해 매우 복잡한 분석과 풍부한 정보를 얻을 수 있다는 점에서 저는 매우 운이 좋습니다. AI가 정말 뛰어난 역할을 해주죠. 게이트 재단 업무에도 큰 도움이 됩니다. 말라리아나 영양실조의 최신 동향을 파악하는 데 활용하고 있습니다. 향후 19년 동안 2,000억 달러가 넘는 모든 재산을 사용할 예정인데, AI를 활용해 업무를 진행하기 때문에 이 자금들이 훨씬 더 효율적으로 쓰일 것입니다.

진행자: 공적으로나 사적으로 AI 사용을 피하고 “이 경우엔 AI를 참고하지 않겠다”고 하는 영역이 있나요?

빌 게이츠: 개인적인 인간관계에는 AI를 쓰지 않습니다. “너 나 좋아하니?”, “나 좋은 사람이지?” 같은 질문은 하지 않죠. 가족과 친구 등 주변 환경에 감사하게 생각하기 때문에 그런 방향으로는 전혀 가보지 않았습니다. AI와 사교 활동을 하지 않으며, AI도 제가 매우 진지한 사람이라는 것을 알고 있습니다.

진행자: 가족 이야기를 해보죠. 자녀가 3명, 손주가 2명 있으시죠. AI와 관련해 국가와 국제 사회가 직면한 과제들을 볼 때, 아이들의 미래에 대해 무엇을 바라십니까?

빌 게이츠: AI에는 두 가지 단계가 있을 것입니다. 지금 우리가 진입하고 있는 첫 번째 단계는 문제 해결의 잠재력은 있지만 아직 완전히 해결하지는 못한 단계입니다. 여전히 집세는 너무 비싸고 의료비는 부담스러운데, 적절한 안전장치가 없다면 일자리 시장을 흔들고 범죄자들에게 힘을 실어줄 수 있죠. 이러한 적응의 시기가 약 20년 동안 지속될 것입니다.

이 시기를 지나고 나면 휴머노이드 로봇과 AI가 결합하여 집을 짓고 식량을 재배하는 등 수많은 일을 해내는, 이른바 ‘풍요의 시대’가 올 것입니다. 그때는 삶의 의미를 찾고 시간을 어떻게 보낼지가 과제가 되겠지만, 오늘날과 같은 물자 부족은 없을 것입니다.

그것이 어떤 모습일지 찾아내는 것은 젊은 세대의 몫입니다. 제 관심사는 너무 큰 피해 없이, 평등을 유지하면서 이 혼란의 시기를 잘 지나갈 수 있느냐입니다. 아프리카에서 의사를 한 번도 만나보지 못한 사람이 부자만큼 좋은 건강 조언을 받게 하거나, 아프리카 농부에게 도움을 주는 등 형평성의 관점을 가져오는 명확한 프로젝트들이 이미 시작되었으며 매우 흥미롭습니다.

아이들에게 AI를 올바른 방식으로 사용하고 호기심을 추구하라고 조언하는 것은 여전히 유효합니다. 하지만 다가올 엄청난 변화 때문에, 향후 10년 뒤의 세상을 예측하는 저의 능력조차 제 평생을 통틀어 지금이 가장 낮습니다. 우주선이 아닌 컴퓨터를 통해 찾아온 외계 지능체와 같은 이 진화적 사건은 이미 우리 곁에 있으며, 엄청난 속도로 발전하고 있습니다.

진행자: 빌 게이츠 씨, 오늘 나와주셔서 정말 감사합니다. 깊이 감사드립니다.