Anthropic позволяет METR проверять свои модели и безопасность
19 октября 2026 г. · 1 мин чтения
Также опубликовано на עברית, 한국어, 日本語, Svenska, Français, 中文, Italiano, Nederlands, Polski, العربية, हिन्दी, ไทย
Компания Anthropic разрешила команде некоммерческой организации METR провести внутреннюю проверку своих моделей искусственного интеллекта и практик безопасности. Шесть сотрудников METR получили доступ к аппаратному обеспечению компании, офисным помещениям и внутренним инструментам, как утверждает Anthropic, на уровне собственных команд по управлению рисками.
Клиентские данные, защищённая адвокатская информация и детали архитектуры моделей остаются исключёнными из проверки. METR должна самостоятельно публиковать свои результаты, однако Anthropic может требовать редактирования в определённых категориях. METR имеет право публично комментировать, были ли эти редактирования оправданы.
Anthropic объясняет этот шаг тем, что не все важные для безопасности данные могут быть опубликованы, поскольку они могут помочь злоумышленникам или быть коммерчески чувствительными. Другие проверяющие, такие как SecureBio, Accenture и Faculty, пока имеют меньший доступ и ограниченные права на публикацию. Также ведутся первые переговоры с Hugging Face. Ранее Anthropic подписала Соглашение Белого дома по супер интеллекции, которое предполагает сотрудничество с внешними проверяющими.