AnthropicがMETRの外部審査員に内部のモデルと安全性を確認させる

Anthropicは非営利団体METRのチームに自社のAIモデルと安全性の実践を内部から審査させることを発表しました。6人のMETRのスタッフは、企業のハードウェア、オフィススペース、内部ツールへのアクセスを得ています。これはAnthropicのリスクチームと同等のレベルとされています。

顧客データ、法的に保護された情報、モデルアーキテクチャの詳細は除外されます。METRは自身の結果を独自に公開することが求められますが、Anthropicは特定のカテゴリーにおいて情報の黒塗りを要求できると述べています。METRはその妥当性について公にコメントすることができます。