Развитие агентного искусственного интеллекта создает новые риски кибератак
2 ноября 2026 г. · 2 мин чтения
Также опубликовано на 日本語, 한국어, Deutsch, Nederlands, Svenska, Norsk, Türkçe, हिन्दी, Indonesia, ไทย, Polski, العربية
Появление систем искусственного интеллекта, способных автономно участвовать в различных фазах циклов атаки и защиты, меняет правила кибербезопасности. Это приводит к увеличению количества атак, которые выполняются быстрее и становятся более сложными для обнаружения.
Агенты искусственного интеллекта отличаются от генеративного искусственного интеллекта способностью планировать подзадачи, использовать инструменты, интерпретировать результаты и продолжать последовательность действий с минимальным участием человека. Ранее генеративный искусственный интеллект использовался для автоматизации разведки, анализа публичной информации, адаптации кампаний социальной инженерии, разработки вредоносного кода и поиска уязвимостей.
Компания Anthropic сообщила о пресечении кампании кибершпионажа против примерно тридцати организаций. В ходе этого инцидента инструмент Claude Code был использован для разведки, поиска уязвимостей, эксплуатации, бокового перемещения, получения учетных данных, а также анализа и эксфильтрации информации. По оценкам компании, искусственный интеллект самостоятельно выполнял от 80% до 90% определенных тактических операций. При этом люди продолжали авторизовать переход между фазами, а галлюцинации модели требовали проверки результатов, хотя общее количество необходимых человеческих усилий на операцию резко сократилось.
В сентябре 2026 года Anthropic опубликовала новые случаи вредоносного использования, выявленные в период с декабря 2025 года по август 2026 года. Эти операции были связаны с субъектами, поддерживаемыми государствами, преступниками с экономическими мотивами и поставщиками коммерческого шпионского программного обеспечения.
Технологии также расширяют возможности защиты. Центры управления безопасностью переходят от моделей на основе правил к средам анализа поведения и аномалий. Это помогает контекстуализировать большие объемы телеметрии, коррелировать события и приоритизировать задачи. Искусственный интеллект может помогать аналитикам в расследовании, обогащении оповещений, анализе вредоносного ПО и адаптации процедур реагирования.
Новые риски включают инъекции промптов, манипулирование данными обучения, раскрытие конфиденциальной информации и злоупотребление подключенными инструментами. С ростом автономности систем возрастает важность идентификации, авторизации и прослеживаемости. Для защиты агентов предлагается применять принцип минимальных привилегий, использовать отдельные идентификаторы для каждого агента, ограниченные разрешения, эфемерные учетные данные, изолированные среды и явное одобрение человеком действий с высоким уровнем воздействия.