Organizações enfrentam incertezas na implementação de inteligência artificial

As organizações estão implementando um número crescente de modelos e aplicativos de inteligência artificial, embora ainda estejam aprendendo a avaliar os riscos associados a essas tecnologias.

De acordo com o relatório 2026 State of Application Strategy da F5, as organizações utilizam, em média, sete modelos de inteligência artificial. Quase 90 por cento dessas entidades relatam pelo menos um desafio operacional ou de segurança, embora a F5 estime que 88 por cento sejam apenas as organizações que têm consciência de seus problemas.

O processo de adoção geralmente começa com aplicações internas de baixo risco, como a análise inicial de currículos ou a redação de descrições de cargos. Posteriormente, as empresas migram para tarefas mais complexas, como análises financeiras, antes de introduzir interações simples de atendimento ao cliente e, finalmente, processos mais sofisticados voltados ao público externo.

Atualmente, algumas empresas estão transitando de aplicativos de resposta para agentes capazes de acessar diversos sistemas organizacionais e executar ações. No entanto, agentes autônomos que acessam sistemas de terceiros e contatam clientes ainda não são uma prática comum em grandes empresas. A introdução desses agentes altera o modelo de segurança, pois surge a questão se eles devem operar com a identidade do usuário humano ou possuir uma identidade própria, não havendo ainda um padrão aceito para isso.

A segurança nessas etapas envolve a proteção contra ataques, a prevenção da exposição de dados e o controle de respostas, que podem ser inadequadas mesmo sem a ocorrência de um ataque. Existe também o risco do uso de ferramentas externas por funcionários que podem inserir dados sensíveis acidentalmente, tornando a simples existência de uma política de uso insuficiente.

Para expandir a visibilidade do uso de inteligência artificial, a F5 adquiriu a CalypsoAI em setembro de 2025 por 180 milhões de dólares. Em junho de 2026, a empresa adquiriu a Surepath AI, especializada na detecção de inteligência artificial oculta, e lançou a F5 AI Security Platform. Essas medidas visam ajudar as empresas a monitorar quais serviços externos os funcionários utilizam, quais modelos as equipes escolhem e quais novas vulnerabilidades surgem após a implementação.