Microsoft가 AI 시대의 사이버 보안을 위해 Project Perception을 공개했다. 이 시스템은 여러 전문 에이전트가 공격자 역할과 방어자 역할을 나눠 맡고, 공통된 보안 맥락을 공유하면서 취약점 탐색과 방어 전략 검증을 반복하는 구조다. 사람이 정해진 점검표를 따라 확인하는 방식보다 빠르게 새로운 공격 경로를 찾고 대응책을 시험하는 것이 목표다.
핵심은 하나의 거대 모델에 모든 판단을 맡기지 않는다는 점이다. 역할에 따라 다른 모델과 도구를 배치하고, 결과를 서로 검증하는 다중 모델 구성을 사용한다. Microsoft는 자사 MAI-Cyber-1-Flash 모델이 MDASH 환경에서 작동하며 CyberGym 평가에서 96%를 기록했고, 비교 대상보다 12%포인트 높은 성능과 약 50%의 비용 절감을 보였다고 밝혔다. 공개 프리뷰는 8월 3일 시작될 예정이다.
기업 입장에서는 AI가 새로운 보안 도구인 동시에 보호해야 할 새로운 공격 표면이라는 점이 중요하다. 업무 에이전트가 이메일, 저장소, 결제, 고객 데이터에 접근한다면 계정 하나의 오작동이 여러 시스템으로 번질 수 있다. 따라서 최소 권한, 작업별 승인, 실행 기록, 긴급 차단 기능을 기본값으로 두고 실제 운영 환경과 분리된 공간에서 공격 시뮬레이션을 진행해야 한다. 향후에는 실험 환경의 높은 점수가 실제 기업 네트워크에서도 재현되는지, 잘못된 경보와 자동 조치 위험을 얼마나 낮추는지가 도입 판단의 핵심이 될 것이다.