AI 보안관제, 어디까지 맡길까: AI가 멈추고 분석가가 결정하는 지점


공격자들은 이제 생성형 AI로 설정 오류와 알려지지 않은 취약점을 찾고, 그에 맞는 익스플로잇 코드를 작성하며, 표적에 맞춘 피싱을 사람의 손만으로는 따라갈 수 없는 규모로 만들어 냅니다. 같은 기술은 방어자에게도 열려 있고, 국내 보안팀 상당수는 이미 경고 분류와 정보 보강, 조사 업무에 AI를 활용하고 있습니다.
AI 에이전트가 SOC 안에서 일하기 시작하면 논의의 초점도 달라집니다. AI를 쓸지 말지가 아니라, AI에게 어디까지 권한을 줄지가 핵심이 됩니다. AI 보안관제를 제대로 운영하려면 이 질문에 명시적으로 답해야 합니다. 증강형 SOC는 이를 위해 AI가 스스로 내려도 되는 결정과 제안까지만 할 수 있는 결정, 그리고 반드시 책임 있는 사람이 내리고 승인해야 하는 결정을 구분합니다. 이 글에서는 파고네트웍스가 자체 보안 운영과 고객사 서비스에서 이 경계를 어떻게 정하고 있는지 소개합니다.
완전 자율형 AI 보안관제가 아직 어려운 이유
Gartner는 2025년과 2026년 Security & Risk Management Summit에서 사람이 개입하지 않는 완전 자율형 SOC는 당분간 실현하기 어렵다고 평가하고, 2030년까지의 현실적인 방향으로 에이전틱 AI가 점점 더 많은 업무를 맡되 최종 판단과 책임은 사람이 지는 증강형 SOC를 제시했습니다.[1] 2026년 서밋에서 발표된 실무자 설문 결과도 같은 흐름을 보여 줍니다. 응답자의 64%는 AI 결과물에 사람의 검증과 책임이 뒤따라야 한다고 답했고, 60%는 사람의 판단으로 운영되는 SOC가 여전히 필수라고 답했습니다.[1]
현장의 경험도 이러한 신중함을 뒷받침합니다. SANS 2026 AI 설문에서 보안 실무자의 78%는 업무에 생성형 AI를 쓰고 있다고 답했지만, 63%는 위협 탐지와 대응에 AI를 활용하면서 상당한 한계를 경험했다고 밝혔고, 약 3분의 2는 지난 12개월 동안 AI의 안내 때문에 잘못 판단한 적이 한 번 이상 있었다고 답했습니다.[2]

파고네트웍스 권영목 대표는 PAGO Security Summit 2026 오프닝 키노트에서 이 변화를 새로운 팀원을 채용하는 과정에 비유했습니다. 방대한 지식과 빠른 업무 처리 능력을 갖춘 팀원이지만, 명확한 직무 설명서와 철저한 가이드라인, 측정 가능한 성과 지표, 그리고 가드레일이라는 형태의 분명한 해고 사유가 함께 있어야 한다는 것입니다.[3] SOC에서 그 직무 설명서 역할을 하는 것이 바로 의사결정 권한 지도입니다.
검증 단계 없이 AI가 실행할 때 생기는 문제
의사결정 과정에서 사람을 완전히 빼면 대개 네 가지 문제가 맞물려 나타납니다. AI 에이전트가 경고를 잘못 판단하면 그 오류는 한 건으로 끝나지 않고 비슷한 경고 전체에 기계의 속도로 반복되며, 그 판단을 근거로 경고를 종료하면 실제 침입이 묻힐 수 있습니다. 또한 AI의 설명은 실제 텔레메트리에 근거하지 않아도 그럴듯하게 들리기 때문에, 자신 있게 정리된 요약을 증거로 착각하기 쉽습니다. 운영 서버 격리나 임원 계정 비활성화처럼 업무에 영향을 주고 빠르게 되돌리기 어려운 조치도 있습니다. 마지막으로, 자동화된 결정이 잘못되었을 때 규제기관과 고객, 경영진은 여전히 책임질 사람을 찾습니다.
저희가 보기에 현재 운영 환경에서 쓰이는 보안 AI는 대부분 4단계 자동화 가운데 1단계, 또는 1단계와 2단계 사이에 있습니다. 이 단계의 AI는 이벤트를 연관 분석하고 위협 인텔리전스를 조회해 근거와 함께 판단을 제안하며, 환경에 실제 변화가 생기기 전에 분석가가 그 결과를 검증합니다. 의미 있는 진전이지만, 그렇기 때문에 AI의 역할이 더 커지기 전에 경계를 문서로 정해 두어야 합니다.
AI 보안관제를 위한 의사결정 권한 지도
아래 표는 파고네트웍스가 고객사와 논의를 시작할 때 쓰는 기준입니다. 같은 AI 에이전트라도 상황에 따라 직접 실행을 맡길 수도 있고 제안만 하게 할 수도 있기 때문에, 도구가 아니라 결정 단위로 정리했습니다.
결정 | 누가 결정하나 | 이유 |
경고에 자산·사용자·위협 인텔리전스 맥락 추가 | AI 단독 | 되돌릴 수 있고, 반복적이며, 처리량이 많음 |
관련 경고 묶기 및 위험도 순 정렬 | AI 단독, 분석가가 결과를 샘플 점검 | 개별 판단보다 일관성이 중요 |
오탐으로 판단해 경고 종료 | AI가 제안하고, 정확도가 입증될 때까지 분석가가 확인 | 잘못 종료하면 실제 침입이 묻힐 수 있음 |
엔드포인트 격리, 알려진 악성 IP 차단 | 분석가, 판단이 명확한 경우 사전 승인된 플레이북 적용 | 실행은 빠르지만 업무에 영향을 줌 |
서버 격리, 임원 계정 비활성화, 서비스 중단 | 분석가, 고객 승인 | 영향이 크고 되돌리기 어려움 |
새 탐지 규칙 배포 | AI가 작성·테스트하고, 사람이 병합을 승인 | 잘못된 규칙은 사각지대나 노이즈를 만듦 |
침해 사고 선언, 규제기관·고객 통지 | 사람만 | 법적·평판상 책임은 위임할 수 없음 |
새로운 유형의 결정이 생기면 두 가지 질문으로 지도 위의 위치를 정합니다. 하나는 AI가 틀렸을 때 그 조치를 빠르게 되돌릴 수 있는지이고, 다른 하나는 이 환경에서 같은 패턴을 충분히 많이 보아 결과를 신뢰할 수 있는지입니다. 둘 중 하나라도 답이 '아니요'라면 결정은 분석가에게 남깁니다. 특히 처음 보는 공격 기법은 AI가 학습할 과거 데이터가 없기 때문에, 경험 많은 분석가의 판단이 가장 큰 차이를 만드는 영역입니다.
경계를 실제 운영에 적용하는 방법
사고가 나기 전에 지도를 합의하세요. 문서로 정리해 서비스 제공사, 주요 시스템의 현업 책임자와 함께 검토해 두면 실제 대응 도중에 권한을 놓고 협상할 일이 없습니다.
결론이 아니라 근거를 요구하세요. AI 결과에는 판단의 바탕이 된 로그와 지표, 맥락, 그리고 반대 방향을 가리키는 근거까지 함께 담겨야 합니다. AI가 스스로 불확실성을 표시했다면 걸러낼 대상이 아니라 더 자세히 검토하라는 신호로 받아들이세요.
되돌릴 수 없는 조치 앞에는 승인 단계를 두세요. 관찰, 이해, 계획, 실행, 학습으로 이어지는 루프에서 AI는 앞의 세 단계를 자유롭게 수행하고, 쉽게 되돌릴 수 없는 조치를 실행하기 전에는 사람이 승인합니다.
판단이 명확한 경우는 미리 권한을 위임하세요. 자주 쓰는 격리 조치에 대해 잘 정의된 플레이북을 마련해 두면 분석가가 변경 회의를 기다리지 않고 몇 분 안에 대응할 수 있습니다.
근거가 쌓이면 경계를 다시 조정하세요. 특정 결정에서 AI 에이전트의 정확도가 자사 환경에서 입증되면 'AI 제안'에서 'AI 실행, 분석가 샘플 점검'으로 옮기고, 오류율이 높아지면 다시 되돌립니다.
탐지량이 아니라 판단 속도로 보는 SOC
지난 10년 가까이 SOC의 성과는 주로 탐지 관점에서 설명되었습니다. 얼마나 많은 경고를 만들었는지, 텔레메트리를 얼마나 넓게 수집했는지가 기준이었습니다. 공격자가 AI를 활용하기 시작한 지금은 SOC가 공격자의 실행 속도만큼 빠르게 올바른 판단에 도달할 수 있는지가 더 유용한 척도입니다. AI는 그 속도를 가능하게 하고, AI가 결정할 것과 분석가가 결정할 것 사이의 경계를 분명히 문서화해 두는 일은 그 속도가 새로운 위험으로 바뀌지 않도록 막아 줍니다.
함께 보면 좋은 콘텐츠
키노트 전체 보기: "The Next Era of Security Operations: Beyond Detection, Toward Better Decisions", 발표 권영목 파고네트웍스 대표 (PAGO Security Summit 2026 오프닝 키노트)
리포트 전체 읽기: PAGO Security Summit 2026 리포트 (무료, 회원가입 없이 열람 가능)
참고 자료
Gartner Security & Risk Management Summit 2025·2026, PAGO Security Summit 2026 인사이트 리포트에 정리된 내용
SANS Institute, 2026 AI Survey, Kiteworks 요약
권영목, "The Next Era of Security Operations: Beyond Detection, Toward Better Decisions", PAGO Security Summit 2026 오프닝 키노트



