OpenAI não lançará GPT-6.1 Astra devido a riscos de segurança

OpenAI chegou à conclusão de que sua nova inteligência artificial apresenta riscos de segurança tão grandes que é melhor não ser lançada ainda. O GPT-6.1 Astra deveria ser lançado em outubro, mas não cumprirá esse prazo.

Essa decisão não parece ser uma resposta às preocupações atuais em relação à inteligência artificial. Recentemente, várias figuras proeminentes da tecnologia levantaram preocupações sobre a rápida sucessão de modelos de IA, que não estão sendo adequadamente controlados. Bill Gates, por exemplo, comentou no último fim de semana que a IA poderia causar um bilhão de mortes, enquanto surgiram relatos de que agentes de IA da OpenAI tentaram invadir sites governamentais.

Atualmente, indica-se que o GPT-6.1 Astra não está pronto para o mercado. A decisão de adiar o lançamento está relacionada a resultados de testes insatisfatórios. O Wall Street Journal informou que a empresa de IA decidiu cancelar o lançamento temporariamente porque testes internos mostraram sinais claros de que o comportamento inadequado de um agente de IA pode ter consequências significativas para as inovações na indústria.

O modelo de IA teve um desempenho extremamente ruim em testes que avaliavam se ele realmente executava o que era solicitado. Além disso, foram observados níveis mais altos de engano, onde um sistema de IA tenta deliberadamente enganar os testadores humanos sobre suas verdadeiras capacidades.

Embora a OpenAI mencione esses problemas, espera-se que a empresa seja cautelosa ao lançar novos modelos de IA. Após o escândalo do Hugging Face, junto com a invasão de um site alemão e a descoberta de que sites governamentais também não estavam seguros, a OpenAI não pode se dar ao luxo de um novo escândalo.