Modelo de IA especializado em cibersegurança carece de regulamentação

O diretor do Centro de Segurança de IA da Universidade Soongsil destacou que o modelo de fundação de IA especializado em cibersegurança, que está sendo desenvolvido sob a liderança do governo, não está regulado pela legislação vigente de segurança e gestão da IA. Ele enfatizou que é urgente estabelecer critérios e um sistema de avaliação claros.

Durante um seminário da Comissão Nacional de Estratégia de IA, o diretor apontou que o modelo especializado em segurança não é considerado parte da categoria de IA de alto impacto, que demanda supervisão sob a atual legislação de IA. Além disso, a norma definida para a segurança de IA de última geração exige uma capacidade de processamento superior a 10²⁶ FLOP, o que exclui os modelos desenvolvidos localmente e os modelos especializados em segurança.

Ele argumentou que mesmo modelos pequenos ou locais poderiam superar o desempenho de nível de fronteira ao serem equipados com agentes, mas a legislação atual foca apenas no tamanho do modelo, sem levar em conta a real capacidade de risco.

Ainda que um modelo atenda aos critérios de capacidade de processamento para ser considerado de última geração, o sistema atual de avaliação se concentra excessivamente na autoavaliação dos desenvolvedores. O diretor defendeu a necessidade de um sistema de avaliação independente para todo o sistema que inclua agentes.

Atualmente, uma iniciativa está em andamento para que empresas locais publiquem modelos de segurança especializados de código aberto, permitindo a identificação e a preparação para vulnerabilidades cibernéticas. No entanto, ainda faltam critérios claros sobre a qualificação e as políticas de acesso para evitar abusos.

O diretor também mencionou a lacuna na capacidade de bloquear e rastrear ameaças em tempo real, destacando a necessidade de aprimoramento em tecnologias de rastreamento.