Microsoft CEO описал требования для безопасного использования искусственного интеллекта
14 октября 2026 г. · 1 мин чтения
Также опубликовано на Indonesia, Norsk, Polski, العربية, 한국어, 中文, Deutsch, Español, Français, Italiano, עברית
Microsoft CEO описал требования для безопасного использования искусственного интеллекта в недавнем посте на X. По словам Nadella, ни одна модель не должна быть единственной основой для важных результатов или подтверждать свои собственные операции. Каждый значимый акт модели должен оставлять неизменяемый след, который люди смогут прочитать, чтобы можно было воспроизвести результат, не полагаясь на заявление модели.
Система должна постоянно тестироваться не только на успешных задачах, но и на ошибках, атаках, крайних ситуациях и изменениях в системе. Независимые организации должны иметь возможность видеть, к чему может получить доступ модель и какие операции она может выполнять. Процесс проверки должен быть независим от модели, а контроль доказательств, показывающих поведение системы и ее соответствие основным целям, также не должен находиться в руках модели.
Nadella подчеркивает, что с первого дня модель должна считаться ненадежной и находиться под контролем. Он также отметил, что более сложные модели будут требовать более развитых технологий контроля, которые должны быть стандартизированы. В случае сбоя или захвата таких систем пострадавшие должны быть своевременно информированы, а информация о том, что пошло не так и какие проверки не сработали, должна быть прозрачной для всех.