Эксперты обсуждают создание надежного искусственного интеллекта для кибербезопасности
8 ноября 2026 г. · 1 мин чтения
Также опубликовано на 日本語
Специалисты по кибербезопасности анализируют методы построения надежного искусственного интеллекта в условиях повышенной угрозы в цифровом пространстве.
Злоумышленники уже применяют технологии искусственного интеллекта для проведения кампаний фишинга, которые невозможно отличить от законных сообщений. Также используются голосовые дипфейки для имитации руководителей и автоматизированное исследование инфраструктур в масштабах, недоступных человеческим командам.
Индустрия кибербезопасности предлагает использовать те же технологии для защиты, включая интеллектуальное обнаружение, автономное реагирование и виртуальных аналитиков. Однако существует риск использования языковых моделей с неполными данными, когда система заполняет пробелы в информации, создавая вымышленные отчеты вместо реальных данных.
Особое внимание уделяется привилегированным доступам, таким как учетные записи администраторов, внешние поставщики и сессии в критических системах, где сосредоточен риск большинства серьезных инцидентов. В этих случаях частичная телеметрия делает рекомендации искусственного интеллекта недостоверными с технической и доказательной точек зрения.
Подход к внедрению искусственного интеллекта должен соответствовать европейским нормативным требованиям. Директива NIS2 обязывает важные организации обеспечивать прослеживаемость управления рисками и ответственность руководства. Регламент по искусственному интеллекту вводит обязательства по прозрачности и человеческому надзору для систем высокого риска.
Автоматизация не снимает ответственности с организации. Прослеживаемость действий системы является необходимым условием для использования искусственного интеллекта в регулируемых средах, так как в контексте аудита доказательства являются основным продуктом. Интеллектуальные слои должны строиться на базе видимости и понимания данных.