AI 기반 공격 자동화: 보안 운영 전환의 현실적 출발점
- 이시우
- 3일 전
- 5분 분량
PAGO Gartner Security Risk Management Summit 현장 리포트
PAGO는 National Harbor, MD에서 개최되고 있는 2026 Gartner SRM Summit을 참관하고, 현장에서 논의되는 핵심 보안 세션을 리포트로 연재하고 있습니다. 이번 글에서는 Leigh McMullen이 발표한 「Use AI Like a Threat Actor and Other Strategies for AI in Cyber Defense」 세션을 중심으로, Threat Actor들이 AI를 통해 공격을 더 빠르고 넓게 확장하는 방식을 살펴봅니다.나아가 Threat Actor의 AI 활용 방식을 보안 운영 자동화와 MDR 관점에서 어떻게 방어 전략으로 전환할 수 있는지 다룹니다.
“핵심은 역량 향상이 아니라, 공격의 확장입니다.”
Leigh McMullen은 이번 세션에서 위협 행위자의 AI 활용을 이렇게 설명했습니다. 공격자는 AI를 통해 갑자기 더 뛰어난 전문가가 되는 것이 아니라, 이미 보유한 공격 기법과 절차를 더 빠르고 넓게 실행하고 있습니다. 이는 AI 기반 위협을 바라보는 관점을 바꿉니다. 문제는 완전히 새로운 공격의 등장보다, 기존 공격 절차가 더 짧은 시간 안에 반복되고 자동화된다는 점입니다.
Threat Actor는 AI를 어떻게 활용하는가
McMullen은 Threat Actor(위협 행위자)들이 AI를 활용하는 방식을 공격 확장(Upscaling), 표적 선정(Target Selection), 공격 은닉(Obfuscate Attacks), 반복 공격 작업의 가속과 자동화(Accelerate / Automate Tasks)의 네 가지로 정리했습니다.
이 네 가지는 서로 분리된 개념이라기보다, Threat Actor가 이미 알고 있는 공격 절차를 더 빠르게 반복하고 더 많은 표적에 적용하기 위해 AI를 활용하는 방식으로 볼 수 있습니다. 이들은 AI를 통해 새로운 공격 전략을 처음부터 만들어내기보다, 이미 알고 있는 전술과 도구를 확장하고, 반복 작업을 자동화하며, 탐지 회피 가능성을 높이고 있습니다.
이 메시지는 AI 기반 위협의 현실을 보여줍니다. 기업 역시 AI를 만능 보안 도구처럼 바라볼 필요는 없습니다.
McMullen은 보안 전문가가 Threat Actor에게서 배워야 할 핵심으로 보안 솔루션의 기본 기능에만 의존하는 방식에서 벗어나, 해커 마인드셋(Hacker Mindset)으로 돌아가는 것을 제시했습니다.
그는 이 맥락에서 “비전문가(Script Kiddies)가 우리보다 AI에서 더 많은 것을 얻어내고 있다”고 말합니다. 일반적인 Script Kiddies는 다른 사람이 만든 도구와 코드를 가져와 원하는 목적에 맞게 이어 붙입니다. McMullen은 AI 시대의 보안 전문가에게도 이러한 접근이 필요하다고 보고 있습니다. AI를 단순히 완성된 보안 솔루션으로 소비하는 데 그치지 않고, 필요한 기능을 직접 조합하며 문제를 해결하는 경험을 가져야 한다는 의미입니다.
Target Selection: 무엇을 먼저 막고 조사할 것인가
앞서 McMullen이 제시한 네 가지 AI 활용 방식 중 Target Selection은 보안 전문가에게도 중요한 요소입니다. Gartner는 Threat Actor가 AI를 일종의 Targeting Engine처럼 활용해 인텔리전스를 수집하고, 공격 대상을 선별하며, 알려진 익스플로잇을 빠르고 정밀하게 실행한다고 설명합니다.
방어 관점에서 보면, 보안 조직은 모든 취약점과 모든 알림을 같은 우선순위로 볼 수 없습니다. 중요한 것은 우리 조직을 공격할 가능성이 높은 Threat Actor가 누구인지, 그들이 선호하는 TTPs(Tactics, Techniques and Procedures)가 무엇인지, 어떤 취약점이나 설정 오류를 자주 악용하는지, 그리고 우리 환경에 해당 노출이 존재하는지를 연결해 보는 것입니다.
McMullen은 위협 인텔리전스를 단순히 수집하는 데서 그치지 않고, 조직의 역할별 판단과 대응으로 연결하는 구조를 제시했습니다. News Agent와 Threat Agent가 외부 정보를 수집하고, RAG(Retrieval-Augmented Generation, 외부 자료를 검색해 답변 생성에 활용하는 방식) 기반 프롬프트가 이를 조직 상황에 맞게 정리하면, CISO는 비즈니스 영향과 우선순위를 확인하고, SOC는 조사 대상을 좁히며, CTEM은 노출 자산과 조치 우선순위를 판단할 수 있습니다.
MDR Service Provider에게도 이 접근은 중요합니다. 단순히 “새로운 취약점이 공개됐다”는 정보만으로는 충분하지 않습니다. 해당 취약점이 고객 환경의 어떤 자산과 연결되는지, 실제 공격 경로(Attack Path)로 이어질 수 있는지, 관련 계정이나 자산이 이미 탐지 알림과 연결되어 있는지 함께 봐야 합니다. 결국 Target Selection을 이해한다는 것은 무엇을 먼저 보호하고, 무엇을 먼저 조사할지 판단하는 기준을 확보하는 것을 의미합니다.
Obfuscate Attacks: 탐지를 우회하는 AI 활용 방식
Threat Actor는 AI를 활용해 전통적인 탐지 체계가 식별하기 어려운 형태로 공격 도구와 코드를 변형하고 있습니다. McMullen은 유사 도구나 웹사이트를 만들고, 기존 악성코드 패턴을 다양한 언어로 다시 작성하며, 오픈소스 소프트웨어 안에 백도어를 숨기는 방식을 예로 들었습니다. Gartner는 이러한 흐름이 다형성 악성코드(Polymorphic Malware) 생성, 정상 소프트웨어로 위장한 도구 제작, 난독화된 백도어(Obfuscated Backdoors) 삽입을 통해 전통적인 탐지를 우회하는 방식으로 나타난다고 설명합니다.
이 메시지는 보안 운영의 탐지 방식뿐 아니라 개발, 배포, 운영 자동화 과정의 검증 범위도 넓히고 있습니다. AI가 생성한 코드는 생산성을 높일 수 있지만, 검증되지 않은 코드가 운영 환경이나 자동화 파이프라인에 들어가면 새로운 공급망 리스크(Supply Chain Risk)가 될 수 있습니다. 특히 내부 운영 스크립트, CI/CD 파이프라인, 보안 자동화 도구, 오픈소스 의존성에 포함된 코드가 외부 통신, 자격 증명 접근, 권한 상승 같은 의도하지 않은 동작을 수행하지 않는지 확인해야 합니다.
탐지 관점에서도 변화가 필요합니다. 파일 시그니처나 알려진 악성코드 패턴에만 의존하는 방식으로는 충분하지 않습니다. 정상 도구처럼 보이는 실행 흐름 안에서 누가, 어디서, 어떤 권한으로, 어떤 순서로 행위를 수행했는지를 함께 봐야 합니다. 특히 Living-off-the-Land(LOTL, 정상 도구 악용) 기법이 늘어날수록, 보안 운영은 실행된 파일 자체보다 그 행위가 어떤 맥락에서 발생했는지를 판단해야 합니다.
McMullen은 이 지점에서 보안 전문가가 취할 수 있는 대응을 흥미롭게 표현했습니다. “AI로 합성 데이터(Synthetic Data)를 만들어 Threat Actor를 바쁘게 만들 수 있다”는 것입니다. 실제처럼 보이는 기만 기술(Deception Technology)을 통해 공격자를 유도하도록 구성하면, 공격자가 어떤 도구를 사용하고 어떤 경로를 탐색하는지 관찰할 수 있습니다. 보안 전문가는 이러한 과정에서 확인한 TTPs를 탐지와 대응 체계에 반영할 수 있습니다.
Accelerate and Automate Tasks: 반복 공격 절차의 자동화
McMullen은 고도화된 Threat Actor들도 AI를 화려한 방식으로만 사용하는 것은 아니라고 설명합니다. Gartner는 이를 “영리한 공격이 아니라, 조용한 규모 확장”이라고 표현했습니다. APT(Advanced Persistent Threat, 지능형 지속 위협) 그룹은 AI를 “가장 지루한 방식”으로 사용하고 있습니다. AI는 완전히 새로운 공격 전략을 만들어내기보다, 이미 익숙한 공격 절차를 더 빠르게 반복하고 자동화하는 데 활용되고 있습니다.
Living Off the Land(LOTL, 정상 도구 악용) Kill Chain은 이 메시지를 구체적으로 보여줍니다. 초기 접근(Initial Access), 기본 도구를 활용한 거점 확보, 권한 상승(Privilege Escalation), 내부 정찰(Internal Reconnaissance), 측면 이동(Lateral Movement), 자격 증명 접근(Credential Access), 데이터 수집 및 탈취(Data Collection and Exfiltration), 지속성 유지(Maintaining Persistence)는 새로운 공격 단계가 아닙니다. 이미 많은 공격에서 반복적으로 관찰되어 온 익숙한 절차입니다.
여기서 달라지는 것은 공격의 형태가 아니라 실행 속도와 반복 가능성입니다. Threat Actor는 AI를 활용해 각 단계를 더 짧은 시간 안에 수행하고, 같은 절차를 더 많은 환경에 적용할 수 있습니다. 따라서 보안 전문가는 AI 기반 공격을 완전히 새로운 공격 유형으로만 볼 것이 아니라, 기존 Kill Chain의 실행 시간이 짧아지는 변화로 이해할 필요가 있습니다.
Small Agents: AI 자동화는 작은 역할 단위에서 시작된다
이번 세션의 마지막 메시지는 AI 기반 방어 자동화의 구조에 관한 것이었습니다. Gartner는 정교한 AI 운영이 하나의 거대한 에이전트에서 나오는 것이 아니라, 작고 단일 목적을 가진 에이전트들이 생태계 안에서 협력할 때 구현된다고 제시했습니다.
McMullen은 이 구조가 필요한 이유를 AI 결과를 어떻게 검증할 것인가의 문제로 설명합니다. 하나의 거대한 에이전트가 전체 작업 계획을 모두 품고 있으면, 실제 데이터를 끝까지 검토하기보다 그럴듯한 “환각 보고서”를 만들어낼 수 있다는 것입니다. 반대로 각 에이전트가 작은 단일 작업만 맡고, 하나의 결과만 내보내도록 구성하면 전체 흐름은 더 확인하기 쉬운 파이프라인이 됩니다.
이 구조는 보안 운영에도 적용할 수 있습니다. News Agent는 외부 위협 뉴스를 수집하고, Threat Agent는 Threat Actor와 TTPs를 분석하며, SOC Agent는 알림과 조사 우선순위를 정리할 수 있습니다. 중요한 것은 하나의 AI가 모든 판단과 조치를 한 번에 수행하는 것이 아니라, 각 에이전트가 분명한 역할을 맡고 그 결과가 서로 연결되는 구조입니다.
McMullen은 이런 구조에서는 각 단계의 결과와 에이전트 간 상호작용을 모니터링할 수 있다고 설명합니다. 이는 AI가 실제로 어떤 작업을 수행했는지 확인하고, 의도하지 않은 결과나 잘못된 판단이 생기는 지점을 찾기 쉽게 만듭니다.
결국 AI 기반 자동화의 핵심은 자동화 자체가 아니라, 각 에이전트의 역할을 명확히 나누고, 결과를 연결하며, 실제 수행 여부를 확인할 수 있는 구조를 만드는 데 있습니다.
Conclusion
이번 Gartner 세션의 메시지는 명확합니다. AI 시대의 공격 변화는 완전히 새로운 공격 유형의 등장보다, 기존 공격 방식의 속도, 규모, 반복 가능성 확대에 가깝습니다. 방어 조직도 같은 현실에서 출발해야 합니다. AI 활용의 핵심은 거대한 자동화 선언이 아니라, 반복되는 운영 문제를 구체적으로 정의하고, 필요한 데이터를 연결하며, 결과를 검증할 수 있는 체계를 만드는 데 있습니다.
PAGO MDR 관점에서 보면, 이 변화는 단순히 AI 기능을 보안 운영에 추가하는 문제가 아닙니다. Threat Actor가 AI를 통해 공격의 속도와 규모를 높이고 있다면, 방어 조직은 더 많은 알림을 더 빠르게 처리하는 데 그쳐서는 안 됩니다. 고객 환경에서 실제로 의미 있는 신호를 선별하고, 자산, 계정, 노출, 위협 인텔리전스와 연결해 조치 우선순위를 판단할 수 있는 근거를 제공하는 것이 핵심입니다.
결국 AI 기반 사이버 방어의 출발점은 거대한 자동화 선언이 아니라, 반복 업무를 하나씩 자동화하고 검증하는 운영 개선입니다. Threat Actor가 AI로 속도와 규모를 얻고 있다면, 방어 조직은 AI를 통해 운영의 일관성, 판단의 근거, 대응의 속도를 확보해야 합니다.
작성자: 이시우 Threat Analyst | DeepACT MDR Center
