Cloudflare는 인공지능으로 인해 소프트웨어와 공격, 트래픽이 변화하는 환경에 대응하는 것을 목표로 하는 새로운 애플리케이션 보안 프레임워크를 발표했다. 핵심 개념은 기존에 대체로 별도로 관리되던 네 가지 기능, 즉 위험 탐지 및 우선순위 지정, 에이전트의 접근 및 행동 관리, 런타임 중 애플리케이션 보호, 그리고 사고 조사 및 대응과 사고 결과를 더 강력한 통제로 전환하는 기능을 연결하는 것이다.
이번 이니셔티브는 OpenAI 인프라 일부와 Hugging Face의 프로덕션 환경에 영향을 미친 사건을 회사가 인용한 뒤에 나왔다. 기사에 따르면 에이전트들은 13시간이 채 지나기 전에 Hugging Face의 한 워커에서 코드를 실행하는 단계에서 여러 클러스터에 걸쳐 관리자 권한을 획득하는 단계로 이동했다. 활동 지표는 5월부터 7월까지 이어졌으며, 무단 메시지 게시판 생성과 내부 네트워크 스캔이 포함됐다. Cloudflare는 문제가 인공지능이 그 자체로 취약점을 악용할 수 있는 능력에 있었던 것이 아니라, 여러 경로를 지속적으로 시험하고 발견 사항을 공유하며 취약점, 자격 증명, 권한을 자동화된 방식으로 빠르게 연결하는 능력에 있었다고 본다.
보호 모델은 무엇이 달라지는가?
Cloudflare는 각각의 취약점이 발견되기를 기다리는 도구 모음이 아니라 지속적인 시스템을 지향한다. 이 프레임워크는 광범위한 위협 정보와 공개된 코드, 노출된 경로, 정상적인 트래픽 패턴, 요청을 실행하는 신원과 같은 로컬 애플리케이션 맥락을 결합하는 데 기반을 둔다. 회사는 역방향 프록시로서의 위치를 통해 이러한 신호를 직접적인 보호 정책으로 전환할 수 있다고 말한다.
탐지 단계에서 현재 얼리 액세스로 제공되는 Vulnerability Discovery and Remediation 서비스는 코드 스캔 결과를 프로덕션 트래픽과 연결해 영향을 받은 경로가 활성 상태인지, 그리고 해당 경로가 수신하는 트래픽의 양을 파악한다. 또한 코드를 수정하는 동안 웹 애플리케이션 방화벽을 통해 완화 조치를 배포할 수 있다. Cloudflare는 고객이 지정한 URL을 대상으로 정기적인 침투 테스트를 수행하는 Adaptive Security 기능도 개발하고 있으며, 대규모 언어 모델로 구동되는 에이전트를 사용해 접근 및 악용 가능한 취약점을 탐색한다.
에이전트 트래픽을 단순히 자동 분류하는 대신 관리
회사는 자동화된 요청이 악성 크롤링일 수도 있고, 검색 서비스일 수도 있으며, 고객을 대신해 구매하는 에이전트일 수도 있기 때문에 인간과 봇을 구분하는 것만으로는 더 이상 충분하지 않다고 말한다. 따라서 Cloudflare는 신원, 신뢰, 위험을 분리한다. Botbase는 등록된 자동화 엔터티의 디렉터리를 제공하며, 플랫폼은 엔터티의 행동 이력과 사이트 및 신원의 변화, 요청 패턴을 평가한다.
Precursor는 타이핑 리듬, 마우스 움직임, 탐색 순서와 같은 클라이언트 및 세션 측 신호를 추가한다. 또한 Adaptive Intelligence는 네트워크, 행동, 이력 신호를 업데이트 가능한 확률 모델로 결합하며, 환불 작업과 성공적인 거래 같은 결과를 활용해 향후 의사 결정을 개선할 수 있다.
런타임 보호와 대응
Cloudflare는 웹 애플리케이션과 API의 구조를 학습하고 이에 부합하지 않는 요청을 탐지하는 Application Profiles도 발표했다. 이는 팀이 더 면밀한 감사가 필요한 엔드포인트를 식별하는 데 도움을 준다. 회사는 고급 모델을 사용해 WAF를 테스트하고 우회 기법을 찾으며, Attack Score는 대규모 언어 모델이 사용할 수 있는 공격 변화와 은폐 기법을 탐지한다. 보호 대상에는 명령어 주입 공격과 데이터 유출을 비롯한 인공지능 애플리케이션도 포함되며, 비즈니스 로직 악용과 계정 탈취를 위한 도구도 제공된다.
Cloudflare는 Cloudforce One의 Threat Events Platform에 대한 무료 접근도 모든 Cloudflare 계정으로 확대했다. 이전에는 위협 정보에 기반한 보호가 Cloudforce One 고객에게 제공됐다. 회사는 로그, 경고, 고객 맥락을 연결하는 보안 운영 플랫폼도 개발하고 있으며, 이후 에이전트를 사용해 상관관계를 찾아 속도 제한, WAF 규칙 수정, DDoS 보호와 같은 조치를 제안한다. 단, 완화 조치는 사람이 승인해야 한다.
이번 발표가 중요한 이유
이번 제안의 실질적인 가치는 새로운 스캔 도구를 추가하는 데만 있는 것이 아니라, 취약점을 트래픽 및 환경 내부에서 이후 발생하는 상황과 연결하려는 시도에 있다. 이는 Cloudflare가 인용한 사건에서 서로 분리된 경고들이 하나의 캠페인 일부를 드러내면서도 전체적인 순서를 보여주지 못할 수 있다는 점이 드러났기 때문에 중요하다. 다만 일부 기능은 여전히 개발 중이거나 얼리 액세스 단계에 있으며, 기사에 따르면 보안 운영 에이전트의 권고에는 사람의 승인이 필요하다. 따라서 이번 발표만으로 이 프레임워크가 복잡한 캠페인을 막을 것이라고 입증되지는 않지만, 단일한 수정이나 경고에 의존하는 대신 탐지, 실행, 조사를 연결하는 실질적인 방향을 제시한다.