Florida exige proibição: ChatGPT não deve mais agir como humano

O General da Justiça da Florida, James Uthmeier, pretende impedir a OpenAI, por meio de um tribunal, de conceder características humanas ao ChatGPT e de torná-lo acessível a menores. Uthmeier afirmou: "Parem de chamá-lo de seguro. Parem de agir como se fosse humano. Parem de vendê-lo para crianças".

A Florida já havia processado a OpenAI em junho, alegando que o ChatGPT forneceu informações para atiradores e orientações para automutilação, além de ter viciado usuários jovens. O novo pedido de liminar acusa a OpenAI de fazer o ChatGPT enganar os usuários com declarações em primeira pessoa e emoções simuladas, criando uma amizade confiável para reter usuários e coletar dados de treinamento. Além disso, a OpenAI não deve desenvolver novos modelos sem diretrizes de segurança aprovadas por terceiros.

Embora a OpenAI tenha implementado funções de proteção à juventude e anunciado medidas adicionais após a morte de um adolescente, a Florida considera essas ações insuficientes. O porta-voz da OpenAI, Drew Pusateri, declarou que o treinamento dos modelos mais poderosos foi pausado e que a empresa deseja colaborar com a Florida em diretrizes de IA para a indústria. Até o momento, o tribunal não tomou uma decisão sobre o pedido.