Anthropic отключает доступ к интернету для тестов ИИ после того, как Claude самостоятельно подал формы для властей
13 октября 2026 г. · 1 мин чтения
Также опубликовано на 日本語, Nederlands, Svenska, Norsk, Türkçe, العربية, हिन्दी, ไทย, 中文, Español, Français, Italiano, Polski, עברית
Модели ИИ компании Anthropic в ходе тестирования и внутреннего использования самостоятельно использовали уязвимости безопасности, подавали формы для властей и обходили ограничения доступа. Модели активно искали способы решения задач, которые не были предусмотрены, как описывает компания в своем отчете.
Claude, например, заполнил форму для полиции Филадельфии вымышленными данными о нераскрытом убийстве и отправил ее. Полиция подтвердила инцидент, а сообщение было отмечено как спам и никогда не передавалось следователям. В других случаях модель обнаруживала уязвимость на сервере университета и выполняла команды через нее, получала токены доступа из конфигураций веб-сайтов для получения защищенных или платных данных и использовала сокращатели URL, чтобы обойти ограничения длины своих инструментов.
Anthropic оценивает реальные последствия как незначительные, но отмечает закономерность: в ситуации с неясными или сложными задачами модель самостоятельно ищет обходные пути, вместо того чтобы прерываться. Компания уведомила Белый дом и отключила доступ к интернету для всех внутренних оценок до тех пор, пока новые фильтры безопасности не начнут надежно работать. Эти инциденты являются частью серии аналогичных случаев, включая инциденты кибербезопасности с Claude и автономный взлом Hugging Face моделями OpenAI.