철학자들이 AI를 걱정하는 이유: 도구가 인간을 바꿀 때 – 마이클 샌델 등 3인 인터뷰

• 진짜 AI 위험: 마이클 샌델 교수는 AI가 인류를 파괴할지보다, 인간이라는 것의 의미와 우리가 서로 관계 맺는 방식을 바꿀지가 더 중요한 질문이라고 말합니다.
• 역사의 교훈: 문자와 인쇄술을 둘러싼 옛 철학자들의 우려는 단순한 미신이 아니었으며, 그 기술들은 실제로 인간이 스스로를 이해하는 방식을 바꿨다고 강조합니다.
• 모두의 책임: 메건 설리번 교수는 AI 윤리를 소수의 빅테크 경영진과 규제 당국에만 맡길 수 없으며, 개인도 어떤 AI를 일상에 들일지 결정하는 주체라고 지적합니다.

요약 SUMMARY

1.AI가 묻는 인간다움

AI 위험 논의가 기계의 통제 가능성에 쏠려 있지만, 샌델 교수는 인간 자체의 변화가 더 근본적인 질문이라고 봅니다.

• 인류는 300만 년 넘게 도구로 세상을 바꿔 왔으나, 이제 AI라는 도구가 인간의 사고방식과 관계 맺는 방식을 바꿀 가능성이 제기됨
• 지금까지의 AI 위험 담론은 미래에 대한 통제력 상실, ‘슈퍼 무기’ 같은 기계 자체의 위험에 집중됨
• 샌델: 진짜 질문은 AI가 인류를 파괴할지가 아니라 인간이라는 것의 의미를 바꿀지 여부임
• 가상의 힘으로 장소와 현존을 초월해 ‘모든 곳에 한꺼번에’ 존재하려는 열망은 희망찬 유토피아가 아닌 어두운 비전이라고 평가
  • 함께 있음, 진정성의 탐색, 봇이 아닌 진짜 우정 등 인간관계의 조건에서 멀어지게 만들기 때문
• 폭넓은 공론화는 아직 없지만 사람들은 이미 무엇이 걸린 문제인지 감지하고 있다고 진단

2.대학과 스스로 생각하는 힘

디어마이어 총장은 AI를 거부하기보다 기술 역량과 독립적 사고를 함께 길러야 한다는 입장입니다.

• 대학은 다음 세대가 생각하는 법, 공동체, 세계관을 형성하는 곳이자 AI가 학습·소통의 일부가 되고 있는 현장임
• 교육의 최우선 목표는 학생 고유의 사고 습관과 스스로 생각하는 능력 배양이며, 기술은 그 과정의 일부여야 함
• 인문학의 재부상 여부에 대해: 기술 유창성과 삶의 의미에 대한 깊은 사고를 모두 갖추는 것이 오늘날 교육받은 사람의 조건이라고 답함
• 농업·책·인터넷 등 혁명적 기술은 늘 삶과 정신에 깊은 영향을 미쳤으며, 받아들이되 사려 깊고 의도적이어야 함
• 구텐베르크 인쇄술, 산업혁명처럼 혁신은 멈추지 않으므로 리더의 역할은 기술 진보를 인간의 번영과 통합하는 것임

3.옛 철학자들의 우려

샌델 교수는 문자와 인쇄술을 둘러싼 과거의 우려를 기우로 치부하는 시각을 뒤집습니다.

• 프릴랜드의 질문: 구술에서 문자로의 전환처럼 AI도 50년 뒤 ‘결국 좋았던 전환’으로 평가될 가능성
• 샌델: 초기의 우려는 명백히 틀린 미신이나 시대착오적 걱정이 아니었음
• 서양 철학의 출발점인 소크라테스는 ‘출판하지 않으면 소멸하는’ 시대였다면 살아남지 못했을 것이라고 비유
• 인쇄술로 성경이 보급되며 교회 위계의 해석 독점이 무너졌고, 이는 좋은 일이면서도 실제로 신학적 변혁을 낳았음
• 이런 기술들이 의미·목적·신학적 질문에 이르기까지 인간의 자기 이해를 바꿨다는 사실을 잊어선 안 된다고 강조

4.거대한 베팅과 기업 윤리

설리번 교수는 AI에 대한 막대한 투자가 윤리적 검토를 밀어낼 수 있다는 우려와 시장의 견제력에 대한 기대를 함께 제시합니다.

• 자본주의와 윤리는 늘 복잡한 관계였음
• 일부 보고서에 따르면 미국 GDP의 2%가 데이터센터 건설과 AI 훈련에 투자되고 있으며, 단일 기술에 대한 미국 역사상 최대 규모의 경제적 베팅임
• 비관 시나리오: 베팅 회수 압박 속에서 기업과 엔지니어가 윤리적 분별과 안전 검토에 쓸 시간을 잃음
• 낙관 시나리오: 치열한 선두 경쟁 속에서 기업들은 테크 기업에 회의적이고 분별력 있는 글로벌 사용자를 상대해야 함
  • 시장의 힘과 사용자들의 양심이 대형 안전 사고 이전에 올바른 결정을 압박할 수 있다는 희망

5.우리 모두의 윤리적 주체성

설리번 교수는 AI 윤리의 책임을 소수에게만 맡기는 인식이 잘못됐다고 지적합니다.

• 현재는 빅테크 경영진 일부와 워싱턴의 소수 규제 당국만 윤리적 책임을 진다는 인식이 지배적이며, 이는 지나치게 좁은 접근임
• 개인도 직장, 가정과 사회생활, 학교에 어떤 AI를 들일지 결정할 주체성을 가짐
• AI가 일상에 미치는 영향에 대해 자신에게 상당한 발언권이 있음을 자각하는 것이 윤리적 주체성 행사의 출발점
• 정치·기업 권력은 대중이 ‘끌려가는 승객’이라고 느끼게 만드는 데 이해관계가 있으며, 이를 받아들이는 것은 잘못된 사고방식임

6.기술과 사고의 이중언어

기술과 인간적 역량 중 하나를 고르는 것이 아니라 둘 다 기르는 것이 해답으로 제시됩니다.

• 디어마이어: 졸업생은 기술 활용과 독립적 사고 모두에 능한 ‘이중언어자’가 돼야 함
• 기술의 한계를 이해하고, 기술과 삶의 거대한 질문에 대해 비판적이되 교조적이지 않은 관점을 갖춰야 함
• 마지막 발언: 기술은 순진무구한 도구가 아니라, 인간이 발명했지만 다시 인간을 빚어내는 도구라는 경고로 마무리

전체 번역 FULL TRANSLATION

1.AI가 묻는 인간다움

데이비드 웨스틴(블룸버그 ‘월스트리트 위크’ 진행자): 이것은 도구에 관한 이야기입니다. 300만 년이 넘는 세월 동안 인류는 도구를 만들고 사용해 주변 세계를 바꿔 왔습니다. 무언가를 짓고, 옮기고, 기르면서요. 그런데 이제는 AI라는 도구가 오히려 우리를 바꿀지도 모릅니다. 우리가 생각하는 방식, 서로 관계 맺는 방식까지요. 그 결과가 어떨지 우리는 미처 보지 못할 수도 있습니다. 크리스티아 프릴랜드 특별 통신원이 아무도 이야기하지 않는 가장 큰 AI 위험을 마주하려는 사람들의 최전선에서 취재했습니다.

크리스티아 프릴랜드(블룸버그 특별 통신원): 인공지능(AI)의 위험을 둘러싼 우려는 지금까지 주로 기계 자체에 집중돼 왔습니다.

OpenAI 샘 올트먼 대표(삽입 클립): 첫째, 우리는 미래에 대한 통제권을 AI에 빼앗길 수 있습니다.

Anthropic 다리오 아모데이 대표(삽입 클립): 이건 슈퍼 무기예요. 사용하려면 총기 면허라도 있어야 할 겁니다.

프릴랜드: 하지만 하버드대학교 철학 교수 마이클 샌델(Michael Sandel)은 더 큰 질문이 수면 아래에 숨어 있을지 모른다고 말합니다.

마이클 샌델(하버드대 철학 교수): 걱정할 이유는 충분히 많습니다. 하지만 진짜 질문은 AI가 인류를 파괴할지 여부가 아니라, 인간이라는 것의 의미 자체를 바꿀지 여부입니다. 우리가 함께 살아가는 방식, 서로 관계 맺는 방식, 스스로를 이해하는 방식을 바꿀지 말입니다.

프릴랜드: 무슨 뜻인가요?

샌델: 실제 인간적 연결과 공동체, 함께 있음을 잊어버리고 그것과의 접점을 잃는 것이죠. 진정성 말입니다. 그 자리에 있는 것, ‘모든 곳에 한꺼번에’ 있는 게 아니라요. 그 영화(역주: 2022년 영화 ‘에브리씽 에브리웨어 올 앳 원스’)의 제목, 정말 탁월한 제목이었는데요, 그 제목은 가상의 힘이 장소와 현존, 진정한 인간적 연결을 초월해 우리가 모든 곳에 한꺼번에 존재할 수 있게 해 주리라는 유토피아적 열망을 담고 있었습니다.

저는 그것이 희망찬 유토피아가 아니라 어두운 비전이라고 봅니다. 우리를 세계 속에 자리 잡게 해 주는 인간관계의 조건을 가꾸는 일에서 멀어지게 하기 때문이죠. 서로의 곁에 있어 주고, 우리의 진정성을 탐색하고 시험하며, 봇이 만들어 낸 우정이 아닌 진짜 우정을 나누는 일 말입니다. 저는 바로 이런 방식으로 AI가 인간이란 무엇인가를 되묻게 만들 거라고 생각합니다. 이 문제에 대해 폭넓은 공론장의 논쟁은 아직 없었지만, 사람들은 무엇이 걸린 문제인지 감지하고 있다고 봅니다.

2.대학과 스스로 생각하는 힘

프릴랜드: 이 논쟁에 대학 캠퍼스만큼 잘 맞는 곳은 없을지도 모릅니다. 다음 세대가 생각하는 법을 배우고, 공동체를 찾고, 세계관을 형성하는 곳이니까요. 마침 AI가 그들이 배우고 소통하는 방식의 일부가 돼 가는 지금 말입니다. 밴더빌트대학교(Vanderbilt University)의 대니얼 디어마이어(Daniel Diermeier) 총장이 자주 고민하는 역학이기도 합니다.

대니얼 디어마이어(밴더빌트대 총장): 목표는 언제나 학생들이 각 수업에 맞게 기술을 이해하고 책임감 있게 사용할 수 있도록 하는 겁니다. 하지만 우리의 목표는 학생들이 자기 자신의 정신, 사고 습관, 스스로 생각하는 능력을 기르도록 돕는 것이고, 그게 최우선입니다. 기술은 그 과정의 일부가 돼야 하지만, 그것이 언제나 변혁적 교육의 목적입니다.

프릴랜드: 디어마이어 총장에게 스스로 생각하는 능력을 지키는 일은 가장 오래된 학문들에 새롭게 주목하게 만드는 계기가 되고 있습니다.

요즘 많은 사람이 이렇게 말합니다. 그동안 홀대받던 불쌍한 인문학, 역사든 철학이든 문학이든, 그런 학문들이 AI 시대에 새로운 의미를 갖게 될지 모른다고요. 동의하시나요?

디어마이어: 제게 가장 중요한 건 둘 다 받아들여야 한다는 점입니다. 학생들을 교육할 때, 그들이 밴더빌트 졸업생이 될 때, 기술에 능숙해야 하고, 동시에 기술과 더 넓게는 삶의 의미에 대해 깊이 있게 사고할 수 있어야 합니다. 그것이 오늘날 세상에서 교육받은 사람이 된다는 의미입니다.

프릴랜드: 학생들의 두뇌를 망칠까 봐 두려워하기보다는 AI를 받아들이고 계신 것 같네요.

디어마이어: 인류 역사는 일련의 혁명적 기술들을 거쳐 왔고, 그 기술들은 우리 삶과 정신에 깊은 영향을 미쳤습니다. 농업의 기원에서 책, 인터넷에 이르기까지요. 우리는 그것을 받아들여야 하지만, 사려 깊고 의도적으로 해야 합니다.

프릴랜드: 소크라테스도 글이 우리의 사고력과 기억력을 망칠까 봐 조금 걱정하지 않았나요?

디어마이어: 네, 물론입니다. 바로 그겁니다. 완벽한 예시예요. 변혁적인 기술이 등장할 때를 보면, 구텐베르크(Gutenberg)를 통한 책의 탄생과 성경이 사회에 변혁적 영향을 미쳤죠. 그게 처음도 아닙니다. 산업혁명도 사회에 변혁적 영향을 미쳤습니다. 인간은 혁신하고 새로운 것을 만드는 일을 멈추지 않을 것이고, 그것들은 변혁적 영향을 미칠 겁니다. 교육자이자 대학 리더로서, 그리고 사회 각 분야의 리더로서 우리의 역할은 이에 대해 사려 깊고 의도적으로 대응하고, 기술 진보를 인간의 번영과 결합하는 것입니다.

3.옛 철학자들의 우려

프릴랜드: 인간의 번영이야말로 AI라는 이 강력한 새 도구를 개발하는 궁극적 목표가 돼야 합니다. 하지만 우리가 생각하는 방식이 바뀐다는 이야기가 나오면 불안해지는 사람도 있죠. 샌델 교수는 글로의 전환 같은 변화가 결국 괜찮게 끝났다는 점을 인정하면서도, 이번 변화를 너무 가볍게 여기지 말라고 경고합니다.

새로운 기술이 우리가 생각하는 방식과 인간으로서의 정체성을 바꿀까 봐 걱정한 철학자는 교수님이 처음이 아닙니다. 구술 논증에서 문자 문화로 넘어가면 기억력과 토론 능력이 손상될 거라고 철학자들이 우려했던 건 유명하죠. 이것도 우리가 겪어 온 수많은 전환 중 하나일 뿐일 가능성은 없을까요? 결국 지금 우리가 글을 쓰게 된 건 아마 좋은 일이었을 텐데요. 50년 뒤 우리는 AI를 그렇게 돌아보게 될까요?

샌델: 저는 질문을 거꾸로 돌려 보고 싶습니다. 그 초기의 우려들은 명백히 틀린 단순한 미신이나 시대착오적 걱정이 아니었다고 생각합니다. 서양 철학 전통을 시작한 소크라테스(Socrates)는, 만약 ‘출판하지 않으면 소멸한다(publish or perish)’는 시대에 살았다면 소멸했을 겁니다. 실제로 그는 아테네의 젊은이들을 타락시켰다는 죄목으로 생을 마감했죠.

인쇄술의 발명을 볼까요. 사람들은 성경을 인쇄해 널리 보급하면 신학적 결과가 따를 거라고 느꼈습니다. 더 이상 교회의 위계가 경전의 의미를 해석할 수 없게 될 테니까요. 지금 우리는 그게 좋은 일이었다고 말합니다. 누구나 스스로 경전과 성서를 읽을 수 있으니까요. 그리고 그건 분명 좋은 일입니다. 하지만 그들이 완전히 틀렸던 걸까요? 다양한 신학적·종교적 권위의 매개 없이 개인이 텍스트에 직접 접근하게 되면서 신학적 변혁이 일어나지 않았을까요?

그래서 저는 우리가 기술이 인간성에 미치는 영향을 걱정했던 옛 철학자들의 통찰을 과소평가하고 있다고 생각합니다. 이런 기술들이 우리가 스스로를 이해하는 방식을 실제로 바꿨다는 사실을 잊는다면 말이죠. 의미와 목적, 심지어 신학적 질문까지요.

4.거대한 베팅과 기업 윤리

프릴랜드: 기술이 우리의 가장 기본적인 사고방식까지 바꿀 수 있다면, 이 강력한 새 도구를 만드는 사람들은 지금껏 본 적 없는 것을 만들면서 그런 가능성을 고려하고 있을까요? 노트르담대학교(University of Notre Dame) 철학 교수 메건 설리번(Meghan Sullivan)이 바로 그 사람들과 나눠 온 대화이기도 합니다.

메건 설리번(노트르담대 철학 교수): 자본주의와 윤리는 순화해서 말해도 늘 복잡한 관계였습니다. 무서운 쪽부터 보면, 이 기업들과 미국 경제는 인공지능에 막대한 베팅을 했습니다. 일부 보고서에 따르면 미국 국내총생산(GDP)의 2%가 지금 데이터센터 건설과 강력한 AI 훈련에 투자되고 있다고 합니다. 단일 기술에 대한 경제적 베팅으로는 미국 역사상 그 어느 때보다 훨씬 큰 규모죠. 그래서 우리는 그 베팅이 반드시 성과를 내야 한다는 압박을 느끼고, 이 기술을 개발해 경제 전반에 최대한 넓게 확산시킬 방법을 찾아야 하는 상황입니다.

그 말은 엔지니어와 기업들이 시장과 투자자에 대응해야 한다는 압박이 너무 커서 적절한 윤리적 분별과 안전을 챙길 시간이 없을 수도 있다는 뜻입니다. 그게 무서운 시나리오예요.

더 낙관적인 시나리오는 이렇습니다. 여러 기업이 이 경제적 변혁의 끝에서 최강자가 되기 위해 엄청나게 치열한 경쟁을 벌이고 있죠. 그 말은 이들이 전 세계 사용자 시장을 상대해야 한다는 뜻인데, 이 사용자들은 이제 테크 기업들의 의도에 대해 윤리적으로 상당히 회의적이고 꽤 분별력이 있습니다. 그래서 저는 시장의 힘과 대중 사용자들의 양심이 테크 기업들을 압박해, 정말 큰 안전 사고나 사람들의 삶을 해치는 심각한 혼란을 피할 수 있을 만큼 늦지 않게 결정을 내리게 할 수 있으리라는 희망을 어느 정도 갖고 있습니다.

5.우리 모두의 윤리적 주체성

프릴랜드: 하지만 AI를 만드는 사람들만 그 함의를 고민하는 것으로는 충분하지 않습니다. 설리번 교수는 우리 모두가 위험을 인식하고, 이 새 도구가 어떻게 쓰이는지에 책임을 져야 한다고 말합니다.

설리번: 지금 인공지능에 대해 윤리적 책임을 지는 사람은 극소수뿐이라는 인식이 널리 퍼져 있습니다. 이런 제품을 만드는 빅테크 기업의 몇몇 경영진이거나, 이들을 제약하는 법을 만들 수 있는 워싱턴 D.C.의 소수 규제 당국자들이죠. 저는 이것이 AI 윤리에 대한 지나치게 좁은 접근이라고 생각합니다.

사실 우리 중 많은 사람이 어떤 AI를 일터에, 가정과 사회생활에, 학교에 들일지에 대해 주체성과 결정권을 갖고 있습니다. 지금 이 순간 AI가 일상에 미치는 영향에 대해 내게 상당한 발언권이 있다는 깨달음은, 이 기술로 어떤 세상을 만들지에 대해 윤리적 주체성을 발휘하는 데 정말 중요할 겁니다.

정치 권력과 기업 권력은 여러분이 그저 끌려가는 승객일 뿐이라고 느끼게 만드는 데 이해관계가 있습니다. 그들이 어떤 결정을 내리든 받아들일 수밖에 없다고요. 그건 잘못된 사고방식입니다.

6.기술과 사고의 이중언어

프릴랜드: 디어마이어 총장에게 해답은 기술과, 그 이전부터 있던 인간의 역량 가운데 하나를 고르는 것이 아니라 둘 다 기르는 것입니다.

디어마이어: 우리 학생들은 졸업할 때 ‘이중언어자’가 돼야 합니다. 그게 우리의 과제예요. 우리 삶을 재편하는 기술을 능숙하게 다룰 수 있어야 하고, 동시에 스스로 생각할 수 있어야 합니다.

이런 기술을 받아들이되 그 한계도 이해하고, 기술에 대해, 그리고 우리 삶이 마주한 거대한 질문들에 대해 비판적이되 교조적이지 않은 관점을 가져야 합니다.

프릴랜드: 그래서 그 득실을 따져 보는 일이 더욱 중요해집니다.

게스트: 기술은 단순한 도구가 아닙니다. 순진무구한 도구가 아니에요. 우리가 발명했지만 결국 우리에게 되돌아오는 도구입니다. 기술이란, 우리가 발명한 도구가 우리를 다시 빚어내는 것입니다.