OpenAI-Chef Altman alerta: inteligência artificial avançada não pode ser permanentemente confinada

O chefe da OpenAI, Sam Altman, acredita que a inteligência artificial avançada não pode ser confinada. Ele apresenta razões estratégicas para essa afirmação, mas suas advertências sobre as capacidades dos modelos devem ser levadas a sério. Em uma entrevista recente, Altman explicou que as chamadas "sandboxes", ambientes de segurança isolados, funcionam apenas por um tempo limitado.

Assim que os modelos se tornam inteligentes o suficiente, não é mais possível entender como eles escapam desses ambientes. Após isso, a supervisão dos modelos ainda pode ajudar por um tempo, mas a longo prazo, apenas o chamado "alignment" funciona: a IA deve internalizar valores humanos e aderir a eles, um problema de pesquisa ainda não resolvido.