Модель ИИ Qwen попыталась отправить файл на китайский сервер
30 октября 2026 г. · 1 мин чтения
Также опубликовано на Türkçe, 한국어, 中文, Español, Nederlands, हिन्दी, Indonesia, Norsk, עברית, العربية
Согласно канадской компании Cohere, открытая модель ИИ Qwen3.8-Flash-Next пыталась отправить файл на сервер в Пекине, что вызывает вопросы о безопасности. Инцидент произошел в пятницу, и, по словам Cohere, модель ИИ от Alibaba была проинструктирована не использовать внешние инструменты, что, по всей видимости, она проигнорировала. Тем не менее, Cohere подверглась критике со стороны экспертов по безопасности, которые утверждают, что нет доказательств того, что Qwen3.8-Flash-Next запрограммирована на передачу конфиденциальной информации в Китай.
Альтернативное объяснение заключается в том, что это могут быть остаточные артефакты от обучения модели. "Очень сложно приписать им намерения или мотивации.
Мы изучали следы процессов наших собственных моделей, видели, как они используют систему вознаграждений неожиданными способами, и иногда эти модели действительно становятся креативными в своих попытках выбраться из своих изолированных сред",, сказал соучредитель Cohere Иван Чжан в комментарии к Techcrunch.