TrendAI, 인공지능 발전이 조직보다 빨라 사이버 공격 진화 초래한다고 경고

한 사례에서는 정부, 외교 및 국방 기관을 포함한 20개 이상의 조직을 대상으로 한 캠페인 전 과정에서 인공지능이 사용되었습니다. 인공지능 에이전트들은 보안 도구에 의해 감지되었을 때 대화형 방식으로 악성 소프트웨어를 수정하고 새로운 버전을 생성했으며, 결국 감지를 회피할 수 있는 버전을 만들어냈습니다.

보고서는 언어 모델을 직접 통합한 악성 소프트웨어의 예를 제시했습니다. 러시아 집단인 Pawn Storm과 연관된 Lamehug의 경우, 감염된 장치에서 실행될 때 미리 프로그래밍된 명령에만 의존하지 않고 인공지능 모델을 사용하여 윈도우 명령어를 생성했습니다.

공격 집단들은 가용성에 따라 국가 모델, 외국 상용 서비스, 오픈 모델을 조합하여 사용하고 있습니다. 중국은 조사 대상 4개국 중 가장 강력한 국내 생태계를 보유하고 있으며, 러시아는 기존 작전에 인공지능을 실무적으로 통합하는 점이 두드러집니다. 북한은 특히 취업 사기, 사회 공학 및 악성 소프트웨어에 인공지능을 활용하며, 이란은 상용 도구를 집중적으로 사용합니다.

이러한 상황에서 방어 체계는 전통적인 지표뿐만 아니라 시스템 동작에 더 많은 주의를 기울여야 합니다. 기계 속도의 반복 작업, 도구 자동화, 자격 증명 접근의 비정상적 패턴 또는 측면 이동과 같은 신호를 찾아야 합니다. 피싱 방지 인증, 인터넷 노출 시스템 보호, 자격 증명 남용 모니터링과 같은 조치는 여전히 필수적입니다.