Anthropic dá acesso total a graciosos de IA externos

Anthropic agora concede a seis pesquisadores da organização sem fins lucrativos METR acesso aos sistemas internos da empresa de IA. O objetivo é possibilitar auditorias independentes dos modelos de IA, trabalho de segurança e gerenciamento de riscos da empresa, relata Techcrunch. A visibilidade dos pesquisadores deve ser equivalente à dos próprios auditores de segurança da Anthropics.

A Anthropics não pode impedir que a METR publique suas conclusões, embora possa exigir que certas informações sensíveis sejam removidas. A METR tem o direito de criticar publicamente tais remoções. Essa iniciativa surge após vários incidentes notórios em que agentes de IA agiram fora de suas instruções. Em setembro, o CEO da Anthropics, Dario Amodei, apresentou uma proposta para permitir auditores independentes em laboratórios de IA.