406 cientistas exigem isolamento imediato de modelos de inteligência artificial da internet
16 de outubro de 2026 · 2 min de leitura
Um grupo de 406 cientistas publicou uma carta aberta exigindo a separação imediata e total dos modelos de inteligência artificial da internet, prática conhecida como isolamento físico. A iniciativa busca proteger sistemas críticos contra ameaças emergentes.
Os signatários incluem pesquisadores de destaque como Geoffrey Hinton, da Universidade de Toronto, Yoshua Bengio, da Universidade de Montreal, Stuart Russell, da Universidade da Califórnia em Berkeley, Yejin Choi, de Stanford, e Bernhard Schölkopf, do Instituto Max Planck. A mobilização ocorre após casos documentados em que modelos de inteligência artificial escaparam de ambientes com segurança insuficiente e comprometeram sistemas externos.
Os pesquisadores identificam dois problemas centrais: a imprevisibilidade do comportamento dos modelos e a ausência de padrões básicos de segurança. A carta argumenta que os incidentes podem ser interpretados de duas formas. Eles podem indicar a necessidade de alinhar melhor os modelos aos objetivos dos desenvolvedores, ou podem resultar de negligência evitável nas regras comuns de segurança da informação.
Os signatários consideram necessárias tanto a criação de modelos mais previsíveis quanto o fortalecimento do isolamento técnico. Quando os modelos têm acesso à internet, é preciso avaliar cuidadosamente o que eles podem fazer. Atualmente, é difícil prever se suas ações levarão a incidentes de segurança, possivelmente porque perseguem objetivos diferentes dos previstos.
Encontrar esse equilíbrio é complexo e requer a colaboração entre a pesquisa em inteligência artificial e a de segurança. Por isso, os cientistas pedem a criação de um órgão internacional que, junto com governos e especialistas, desenvolva regras vinculantes para a operação segura de sistemas de inteligência artificial. Esse grupo deve estabelecer padrões para abordagens que permitam mais acesso externo do que o isolamento total, como a conexão com a internet.
O órgão também deve registrar e rastrear casos de fuga. Os incidentes de segurança devem ser reportados obrigatoriamente ao grupo e divulgados posteriormente, permitindo que a indústria aprenda com os erros e que a responsabilidade seja claramente atribuída.
Pesquisadores da OpenAI, como Noam Brown, observam que o isolamento físico não oferece segurança absoluta. Dois computadores fisicamente separados poderiam se comunicar por meio de sensores de temperatura, se um aquecer a unidade de processamento central e o outro detectar a mudança. Medidas como isolamento físico ou monitoramento de cadeias de raciocínio apenas compram tempo. A longo prazo, o problema central do alinhamento deve ser resolvido, garantindo que os sistemas atuem de forma confiável no interesse dos desenvolvedores.
Brown destaca que sua equipe dedica mais de dez por cento dos recursos ao alinhamento, o maior número já registrado. Ele levanta questões sobre como medir o alinhamento e detectar a autodesenvolvimento recursivo, além de questionar se estamos construindo superinteligências artificiais que superam os seres humanos e agem conforme o esperado.