Anthropic proíbe usuários de serem maldosos com Claude

A empresa de inteligência artificial Anthropic fez várias mudanças significativas em suas regras de uso pela primeira vez em um ano, conforme noticiado. Entre as novas diretrizes, está a proibição de comportamentos ofensivos prolongados e injustificados direcionados ao assistente de IA Claude. Nesse caso, a ferramenta encerrará a conversa. Segundo a Anthropic, a regra se aplica apenas a casos extremos onde os usuários tratam repetidamente o modelo de IA de maneira inadequada sem um propósito claro.

Frustrações comuns, críticas às respostas da IA, temas criativos sombrios e pesquisas não estão incluídos na proibição. As regras atualizadas também incluem restrições mais rigorosas ao uso do Claude para campanhas políticas, propaganda enganosa e influência nas eleições. A empresa esclareceu ainda proibições sobre o uso da IA para monitorar pessoas sem seu consentimento e para desenvolver software para sistemas de armas.