---
title: Эксперты обсуждают создание надежного искусственного интеллекта для кибербезопасности
url: https://www.elseif.net/ru/eksperty-obsuzdaiut-sozdanie-nadeznogo-iskusstvennogo-intellekta-dlia-kiberbezopasnosti
published: 2026-11-08T08:24:26+00:00
language: ru
section: Модели
source: https://www.redseguridad.com/especialidades-tic/amenazas-y-vulnerabilidades/como-construir-una-ia-fiable-en-ciberseguridad_20261105.html
publisher: elseif
---

# Эксперты обсуждают создание надежного искусственного интеллекта для кибербезопасности

Специалисты по кибербезопасности анализируют методы построения надежного искусственного интеллекта в условиях повышенной угрозы в цифровом пространстве.

Злоумышленники уже применяют технологии искусственного интеллекта для проведения кампаний фишинга, которые невозможно отличить от законных сообщений. Также используются голосовые дипфейки для имитации руководителей и автоматизированное исследование инфраструктур в масштабах, недоступных человеческим командам.

Индустрия кибербезопасности предлагает использовать те же технологии для защиты, включая интеллектуальное обнаружение, автономное реагирование и виртуальных аналитиков. Однако существует риск использования языковых моделей с неполными данными, когда система заполняет пробелы в информации, создавая вымышленные отчеты вместо реальных данных.

Особое внимание уделяется привилегированным доступам, таким как учетные записи администраторов, внешние поставщики и сессии в критических системах, где сосредоточен риск большинства серьезных инцидентов. В этих случаях частичная телеметрия делает рекомендации искусственного интеллекта недостоверными с технической и доказательной точек зрения.

Подход к внедрению искусственного интеллекта должен соответствовать европейским нормативным требованиям. Директива NIS2 обязывает важные организации обеспечивать прослеживаемость управления рисками и ответственность руководства. Регламент по искусственному интеллекту вводит обязательства по прозрачности и человеческому надзору для систем высокого риска.

Автоматизация не снимает ответственности с организации. Прослеживаемость действий системы является необходимым условием для использования искусственного интеллекта в регулируемых средах, так как в контексте аудита доказательства являются основным продуктом. Интеллектуальные слои должны строиться на базе видимости и понимания данных.