알렉스 스포코이니
체크포인트 소프트웨어 테크놀로지스의 최고 보안 및 신뢰 책임자
| 본 자료는 세계경제포럼(World Economic Forum)이 2026년 5월 7일 세계경제포럼 웹사이트에 영어로 게재한 내용을 AI기계 번역한 후 Biz & Pro가 일부 보완한 것입니다. 따라서 본 번역은 세계경제포럼이 작성한 것이 아니며, 공식적인 번역이 아닙니다. 정확한 영어 원문 확인을 위해서는 아래 링크하는 원문 사이트를 참조하시기 바랍니다. |
- 최첨단 인공지능 모델은 취약점을 지속적으로 대규모로 발견하고 악용할 수 있어 사이버 위험을 일시적이고 관리 가능한 수준에서 지속적이고 확산되는 수준으로 변화시킵니다.
- 공격 시간표가 급격히 단축되고 있으며, 정교한 기능들이 널리 보급되고 있습니다.
- 사이버 복원력을 확보하기 위해 조직은 사고 발생 시 이를 탐지하고, 차단하며, 운영을 지속할 수 있는 능력이 필요합니다.
앤트로픽의 새로운 인공지능(AI) 모델인 미토스(Mythos)가 화제의 중심이 된 지 몇 주가 지났습니다. 앤트로픽은 이 도구가 가장 고도화된 사이버 보안 작업을 수행할 수 있다고 주장하며, 이는 시장의 변동성, 공급업체들의 반응, 그리고 이번 사태의 원인과 중요성에 대한 분석의 물결을 불러일으켰습니다.
대부분의 분석은 Mythos가 대응하도록 설계된 위협에 초점을 맞췄습니다. 그러나 더 중요한 변화는 사이버 위험의 증가만이 아니라 사이버 위험이 발생하는 방식 자체의 구조적 변화입니다. 따라서 대응은 점진적일 수 없습니다. 공격이 구축되고, 확장되고, 실행되는 방식의 근본적인 변화를 반영해야 합니다.
프론티어 AI는 사이버 공격의 생성 및 확장 방식을 혁신합니다.
클로드 미토스는 대규모로 소프트웨어 취약점을 찾아내고 악용할 수 있는 능력을 널리 인정받은 최초의 AI 시스템입니다. 이 시스템은 주요 시스템에서 이전에 알려지지 않았던 심각한 결함, 즉 “제로데이” 취약점을 발견하고, 이러한 취약점들을 자율적으로 연결하여 여러 단계의 방어 체계를 우회할 수 있습니다.
간단히 말해, 이는 제로데이 취약점을 끊임없이 찾아내는 ‘제로데이 팩토리’와 같은 역할을 합니다.
핵심적인 변화는 지속적이고 자동화된 취약점 탐지로의 전환입니다. 취약점 식별은 지속적이고 사실상 무제한적으로 이루어지고 있습니다. 이는 사이버 보안 분야에서 오랫동안 유지되어 온 가정, 즉 노출 정도를 측정하고 우선순위를 정하여 시간이 지남에 따라 줄일 수 있다는 가정에 도전장을 던집니다. 머신 규모에서는 백로그가 줄어드는 것이 아니라 오히려 늘어납니다.
Mythos는 더 광범위한 추세의 일부입니다. 상용 및 오픈 소스 모델 전반에 걸쳐 유사한 기능이 등장하고 있으며, 공격 기능을 소프트웨어에 직접 내장하고 있습니다.
과거에는 고도의 전문 지식이 필요했던 공격들이 이제는 훨씬 더 쉽게 접근 가능해졌습니다. 제약 조건이 전문 지식에서 접근성, 즉 모델, 컴퓨팅 능력, 그리고 공격 의도로 옮겨가면서 더욱 복잡하고 통제하기 어려운 위험 환경이 조성되고 있습니다.
AI 기반 위협이 기존 보안 모델을 무너뜨리고 있습니다.
사이버 보안은 전통적으로 공격자가 인간과 같은 속도로 공격하고, 정교한 공격에는 전문 지식이 부족하며, 방어자는 패치, 탐지 및 대응할 시간이 있다는 일련의 가정에 의존해 왔습니다.
그러한 상황은 변화하고 있습니다.
인공지능 기반 공격은 공격 소요 시간을 며칠에서 몇 분으로 단축시키고 있으며, 정교함과 규모 사이의 격차는 계속해서 좁아지고 있습니다. 고급 모델에 대한 접근성이 높아짐에 따라 진입 장벽은 계속해서 낮아지고 있습니다.
동시에 취약점 발견은 지속적으로 이루어지고 있습니다. 기존의 보안 모델은 시간이 지남에 따라 노출을 식별하고 줄일 수 있다는 전제에 기반해 왔습니다. 그러나 이러한 환경에서는 노출이 지속적으로 발생하며, 지속적인 관리가 필수적입니다.
AI 시대를 위한 사이버 복원력 구축
예방은 여전히 필수적입니다. 공격자의 침입을 막는 것이 여전히 목표입니다. 하지만 고도화된 공격 능력이 널리 보급됨에 따라 침해 가능성도 높아지고 있습니다.
침입과 그 영향 사이의 시간 간격 또한 줄어들고 있습니다. 이제 보안은 압박 속에서도 지속적으로 작동해야 하는 실시간 시스템으로 운영됩니다.
조직은 사고 발생 시 이를 탐지하고, 차단하며, 운영을 지속할 수 있는 능력이 필요합니다. 이것이 바로 사이버 복원력의 기본입니다.
두 가지 우선순위가 이러한 변화를 이끌어가는 데 도움이 됩니다.
첫째, 방어는 기계적인 속도로 작동해야 합니다. 대응 시간이 점점 짧아짐에 따라 탐지, 분류 및 초기 대응은 인간의 개입을 기다리지 않고 이루어져야 합니다. 분석가의 역할은 시스템을 감독하고, 예외적인 상황을 조사하며, 더 큰 영향을 미치는 결정을 내리는 방향으로 진화하고 있습니다.
둘째, 조직은 침해 시나리오에 대비해야 합니다. 위협은 손상된 엔드포인트, 공급업체 또는 개발 도구에서 발생할 수 있으므로, 침해 확산을 차단하는 데 초점을 맞춘 아키텍처가 필수적입니다.
AI 시대 사이버 복원력을 위한 5가지 우선 과제
이러한 환경에서 회복력을 실질적으로 구현하기 위해서는 다음 다섯 가지 우선순위가 두드러집니다.
- 탐지 및 대응을 자율적으로 운영합니다. 1단계 분류를 자동화 시스템으로 이전하고, 로깅 격차를 해소하며, 취약점 및 경고 처리를 자동화합니다.
- 고정된 패치 주기를 없애야 합니다. 취약점이 몇 시간 내에 악용될 수 있는 상황에서는 지속적인 조치가 필수적입니다. 가상 패치와 보완 제어가 핵심 방어 메커니즘이 되어야 합니다.
- 기본 보안 제어를 강화하십시오. 최소 권한 원칙을 시행하고, 엔드포인트 탐지 및 대응 기능을 완벽하게 구현하며, 다단계 인증을 일관되게 적용하십시오. AI 도구와 개발자 플러그인도 다른 소프트웨어와 마찬가지로 엄격하게 관리하십시오.
- 생태계를 보호하세요. 공급업체는 AI 기반 위협에 어떻게 대응하는지 입증해야 합니다. 신뢰할 수 있는 계획이 없다면, 공유 공격 표면에 위험을 초래할 수 있습니다.
- 소프트웨어 개발 파이프라인을 보호하십시오. 공격자들이 점점 더 초기 단계를 표적으로 삼고 있으므로, 엄격한 접근 제어를 시행하고, 코드에서 비밀 정보를 제거하며, 개발자 환경을 안전하게 보호해야 합니다.
이미 여러 조직에서 운영상의 영향을 체감하고 있습니다. 아침에 공개된 취약점은 몇 시간 내에 전 세계적으로 스캔 및 분석됩니다. 동시에 경고량도 증가하여 의미 있는 정보와 불필요한 정보를 구분하기가 더욱 어려워지고 있습니다.
공격 활동과 원격 측정 데이터가 모두 증가함에 따라 탐지에 대한 신뢰를 유지하는 것이 탐지 자체만큼 중요해집니다.
현재 모든 조직이 직면한 질문
이러한 변화는 대기업을 넘어 중견 기업, 공공 부문 기관, 중소기업에까지 확대되고 있습니다. 확장 가능한 공격 기능이 더욱 광범위하게 적용됨에 따라 이들 기업들도 위험에 더욱 취약해지고 있습니다.
단기간 내에, 외부에서 노출된 중대한 영향을 미치는 취약점은 누가 먼저 발견하든 관계없이 AI에 의해 발견되고 테스트될 것입니다.
이러한 역동적인 양상은 이미 구체화되고 있습니다.
보안 책임자들에게 중요한 질문은 그들의 조직이 이러한 상황에서 운영할 준비가 되어 있는지 여부입니다.
사이버 복원력은 항상 목표였지만, Frontier AI는 이를 시급한 과제로 만들었습니다.
라이선스 및 재출판
세계경제포럼(WEF)의 기사는 크리에이티브 커먼즈 저작자표시-비영리-변경금지 4.0 국제 공개 라이선스(Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International Public License) 및 이용약관에 따라 재게시할 수 있습니다.
이 글에 표현된 견해는 전적으로 저자의 것이며 세계경제포럼의 공식적인 입장을 대변하는 것이 아닙니다.