Google Cloud прогнозирует ускорение хакерских атак с помощью ИИ к 2027 году
14 ноября 2026 г. · 2 мин чтения
Компания Google Cloud представила прогноз по безопасности на 2027 год, согласно которому агентный искусственный интеллект ускорит темпы кибератак и защиты, а также изменит объекты защиты предприятий.
Специалисты отмечают, что автономные агенты могут взять на себя ценообразование, переговоры с поставщиками, распределение капитала и корректировку цепочек поставок. В связи с этим компаниям потребуется возможность проверять основания и полномочия, на которых агенты выполняли свои задачи, помимо защиты от утечек данных и системных сбоев.
Chris Betz, главный директор по информационной безопасности Google Cloud, сообщил, что поиск и исправление уязвимостей на базе больших языковых моделей и агентов распространяются по всем предприятиям. Циклы развертывания программного обеспечения сократились с нескольких месяцев до нескольких дней или часов, что требует одновременного проведения разработки и проверки безопасности.
Google Cloud предлагает фиксировать входные данные, логику принятия решений, используемые инструменты и политики разрешений для каждого важного действия автономного агента. Это позволит реконструировать и проверять автоматизированные решения. Также предлагается расширить концепцию нулевого доверия до уровня отдельных транзакций, предоставляя каждому агенту проверяемую личность и минимальные привилегии, чтобы предотвратить распространение взлома между системами.
В центрах управления безопасностью ожидается расширение использования агентов для сбора логов и анализа связи между оповещениями. Операционная модель предполагает, что сотрудник должен понять основание автоматического реагирования за 60 секунд и при необходимости отменить его за 30 секунд.
Риски включают атаки на цепочки поставок через инструменты кодинга и протоколы контекста моделей. Также прогнозируется переход преступников от шифрования файлов к краже данных и шантажу. Целями могут стать веса моделей ИИ, функции агентов и библиотеки промптов. Отдельной угрозой назван LLMJacking, связанный с несанкционированным использованием ресурсов графических процессоров в облаке.
Для предотвращения появления теневых ИТ-решений Google рекомендует четко определять роли агентов и точки передачи управления человеку до начала развертывания. Также подчеркивается необходимость проведения тренировок красных команд для проверки механизмов контроля полномочий.