91%의 성취보다 중요한 것은 보안 AI를 통제하는 9%다

사이버보안 AI의 진짜 경쟁력은 얼마나 그럴듯하게 답하느냐가 아니라, 실제 취약점을 끝까지 재현하고 자신의 판단을 검증할 수 있느냐에 달려 있다고 본다. 그런 점에서 숭실대학교 AI안전성연구센터가 개발한 ‘무네메’가 CyberGym Level 1의 1,507개 과제 중 1,372개를 해결해 정제 점수 91.0%를 기록한 결과는 눈여겨볼 만하다. 특히 보안 지식베이스, 전문 분석 도구, 여러 에이전트의 협업과 반복 검증을 결합했다는 점이 핵심이다. 이는 생성형 AI를 말 잘하는 상담자가 아니라 행동하고 확인하는 보안 작업자로 설계하려는 시도이기 때문이다.

보안은 정답보다 증거가 중요하다

기존의 취약점 탐지는 이미 알려진 공격 특징이나 정해진 규칙을 대조하는 방식에 크게 의존해 왔다. 반면 AI 에이전트는 목표를 여러 단계로 나누고 도구를 사용하며, 결과가 틀리면 경로를 바꿔 다시 시도할 수 있다. 여기서 에이전트란 질문에 답만 하는 프로그램이 아니라 주어진 목표를 향해 작업 순서를 스스로 정하는 소프트웨어를 뜻한다. 여러 에이전트가 역할을 나누는 구조는 한 명이 분석하고 다른 한 명이 검산하는 팀과 비슷하다.

필자는 무네메의 91%보다 반복 검증 구조를 더 높이 평가한다. 사이버보안에서는 틀린 경고가 너무 많으면 담당자가 지치고, 놓친 취약점 하나는 실제 침해로 이어질 수 있다. 따라서 최종 답만 맞히는 모델보다 어떤 근거로 명령을 실행했고 무엇을 관찰해 성공으로 판정했는지를 남기는 시스템이 현장에서는 더 가치 있다.

남은 9%와 통제 장치를 함께 공개해야 한다

다만 하나의 평가 단계에서 얻은 높은 점수를 곧바로 실제 조직망의 대응 능력으로 확대해석해서는 안 된다. 현실의 시스템에는 불완전한 권한, 오래된 장비, 복잡한 네트워크, 예측하기 어려운 사용자 행동이 얽혀 있다. 해결하지 못한 과제가 어떤 유형이었는지, 같은 조건에서 결과가 반복되는지, 잘못된 공격 명령이나 과도한 권한 사용을 어떻게 막는지가 함께 제시돼야 성과의 산업적 의미를 판단할 수 있다.

더구나 취약점을 재현하는 기술은 방어와 공격 양쪽에 쓰일 수 있다. 우리는 성능 향상과 동시에 실행 범위 제한, 사람의 승인 절차, 전 과정 기록, 민감한 결과의 책임 있는 공개 기준을 마련해야 한다. 국내 보안 AI가 세계적 경쟁력을 가지려면 점수표의 선두만 겨냥해서는 부족하다. 실패를 설명하고 위험한 행동을 멈출 수 있는 AI, 현장 전문가가 결과를 다시 확인할 수 있는 AI를 만들어야 한다. 무네메의 성과는 그 출발점으로 반갑지만, 다음 평가는 ‘얼마나 많이 풀었는가’와 함께 ‘얼마나 안전하게 풀었는가’를 물어야 한다고 본다.