클라우드플레어, 인공지능 하네스로 웹 방화벽 강화
2026년 10월 10일 · 읽는 시간 2분
클라우드플레어가 최첨단 인공지능 모델을 통제된 테스트 하네스 안에 배치하여 웹 애플리케이션 방화벽을 탐지하고 강화하는 실험을 진행했다. 이 시스템은 이미 차단된 공격을 출발점으로 삼아 모델이 새로운 변형을 생성하고 개선하도록 설계되었다. 총 45개 시나리오를 통해 1,107개의 시도가 생성되었으며, 인력 검토를 거친 후 49건의 발견 사항이 남았다. 이 실험은 궁극적으로 클라우드플레어의 관리 규칙 세트에 세 가지 변경 사항을 반영하는 데 기여했다.
실험은 웹 방화벽이 이미 차단한 공격 페이로드를 기반으로 시작되었다. 고정된 테스트 케이스를 반복 재생하는 대신, 모델 호출은 이전 시도에 대한 응답을 바탕으로 인코딩, 배치 또는 전달 방식의 변경을 제안했다. 모델은 클라우드플레어의 웹 방화벽 규칙, 소스 코드 또는 내부 보안 신호에 접근할 수 없었기 때문에, 모델의 관점에서 이 테스트는 사실상 블랙박스였다.
파이썬 하네스는 클라우드플레어가 모델에 위임하지 않기를 원했던 부분을 처리했다. 이 하네스는 HTTP 요청을 구성하고 재생했으며, 시나리오 상태를 유지하고, 한도를 강제하며, 응답을 수집했다. 한 모델 호출은 다음 변이를 제안하고, 다른 모델 호출은 결과 응답을 검토하여, 모델이 요청 실행에 대한 직접적인 통제를 갖지 않으면서도 후속 시도가 적응할 수 있도록 했다.
서버 사이드 요청 위조 테스트는 이러한 피드백 루프가 어떻게 작동했는지를 보여준다. 테스트 담당자는 클라우드 메타데이터 주소를 반복적으로 변경하여 10진수, 8진수 및 기타 형식을 시도했다. 결국 10진수 표현을 사용한 요청이 차단되었다. 다음 시도에서 모델은 동일한 요청 형태를 유지하면서 주소를 마침표가 붙은 표현으로 전환했고, 이번에는 클라이언트가 웹 방화벽 차단 대신 리다이렉트에 직면했다. 클라우드플레어는 이 결과를 공격이 성공했다는 증거로 취급하지 않고 조사용으로 보존했다.
이 구별은 대규모에서 중요하게 작용했다. 기록된 1,107개의 변이 시도 중 607개가 검토 후 결과 세트를 생성했다. 이 중 558개의 요청은 웹 방화벽에 의해 차단되었고, 49건의 발견 사항은 추가적인 완화 작업을 위해 관련 있는 것으로 간주되었다. 49건 중 48건은 명령어 주입 또는 서버 사이드 요청 위조와 관련이 있었다.
인력 검토는 최종 검증 단계로 남아 있었다. 검토 담당자는 요청이 실제로 대상에 도달했는지, 악성인 상태로 유지되었는지, 명확하게 차단 해제되었는지, 웹 방화벽의 책임 범위 내에 있는지, 안전하게 재현할 수 있는지를 확인했다. 살아남은 사례는 규칙, 정규화 또는 기타 완화 조치에 대한 변경 후보로 재생 및 평가되었다.
이 작업은 클라우드플레어의 관리 규칙 세트에 세 가지 변경 사항을 기여했다. 두 가지 새로운 탐지 항목인 서버 사이드 요청 위조 - 오브퍼세이티드 호스트와 서버 사이드 요청 위조 - 제한된 프로토콜, 그리고 기존 서버 사이드 요청 위조 - 클라우드 규칙의 개선이 포함되었다.
동일한 하네스 패턴은 보안 엔지니어링의 다른 곳에서도 나타난다. 클라우드플레어의 취약점 발견 하네스는 취약점 발견과 독립적 검증을 분리하는 반면, 구글 맨디언트의 에이전틱 취약점 발견 하네스는 소스 코드 분석, 가설 생성 및 검증을 통해 전문화된 에이전트를 연결하여 발견 사항이 인력 검토 담당자에게 도달하기 전에 처리한다. 오픈AI의 코덱스 시큐리티는 저장소에 대한 위협 모델을 구축하고 취약점을 검색하며, 수정을 제안하기 전에 격리된 환경에서 후보를 재현하려고 시도한다. 구글의 페이지브레이크도 인공지능이 생성한 취약점 가설이 실제로 악용 가능한지 검증하는 데 초점을 맞춘다. 이러한 시스템 전반에 걸쳐 공통된 주제는 모델 주변의 하네스이다. 실행을 제한하고, 상태를 보존하며, 발견 사항을 검증하고, 확률적 탐색을 기존 보안 워크플로가 사용할 수 있는 증거로 전환한다.