Segurança de Dados na IA: Desafios Reais e Soluções para Empresas

Os desafios da segurança na inteligência artificial

A segurança de dados desponta como o maior desafio para empresas que adotam inteligência artificial (IA), segundo um relatório global da Hitachi Vantara. A falta de estruturação adequada dos dados, governança fragilizada e infraestrutura insuficiente são pontos críticos que preocupam executivos da área. Com a popularização da IA generativa, esses problemas ganham ainda mais relevância, especialmente diante do crescimento dos agentes de IA, que podem agir de forma inesperada se não forem monitorados de perto.

Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta para os riscos associados à implementação desses agentes: “Eles podem tomar ações com consequências não intencionais se não houver supervisão constante, e existe um grande mal-entendido sobre o funcionamento dessas ferramentas.”

Uso acelerado e vulnerabilidades criadas

Segundo Gibson, a empolgação com a tecnologia tem levado muitas empresas a confiar excessivamente nos resultados produzidos pela IA e a acelerar a adoção de soluções sem uma análise criteriosa. Essa prática pode ampliar as vulnerabilidades de segurança no ambiente corporativo. O relatório revela que a chamada “alucinação” em agentes de IA ocorre em cerca de 91% dos casos, conceito que se refere a informações incorretas geradas pela tecnologia, enquanto 76% dos dados utilizados pelas corporações são não estruturados — justamente o tipo mais explorado por aplicações de IA.

No Brasil, o cenário apresenta particularidades. Apesar do ritmo acelerado de digitalização, muitas organizações ainda operam em ambientes legados e heterogêneos. A Hitachi Vantara percebe os executivos brasileiros como mais cautelosos em relação à adoção da IA, o que pode ser uma vantagem diante dos riscos envolvidos.

Conservadorismo brasileiro diante da IA

Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, destaca esse comportamento: “Os executivos brasileiros demonstram interesse em realizar uma due diligence mais aprofundada antes de investir em IA. Há uma apreensão quanto ao custo inicial, fundamentada nos estudos divulgados até aqui.”

Esse cuidado é visto como positivo, já que a IA, apesar do potencial, deve ser aplicada com parcimônia. Wick enfatiza a importância de questionar se um problema pode ser resolvido sem o uso da inteligência artificial, evitando investimentos desnecessários.

Educação e preparo para o uso seguro da IA

Para mitigar riscos, os executivos apontam a educação dos usuários como um passo fundamental. Compreender exatamente como a tecnologia funciona e quais são as implicações de seu uso é essencial para evitar problemas. No entanto, esse processo demanda tempo, algo que, na visão de Gibson, tem sido negligenciado pelas organizações.

“É imprescindível definir claramente os objetivos da IA, conhecer seus perigos e evitar pressa na implantação. Testes prévios são indispensáveis para garantir a segurança antes da adoção definitiva”, ressalta o especialista.

Segurança em primeiro lugar na adoção da IA

O relatório também mostra um aumento significativo na preocupação com a segurança dos dados dentro das empresas. Atualmente, 56% das lideranças apontam esse tema como o maior obstáculo na implementação da IA, um crescimento de 19 pontos percentuais em relação ao ano anterior.

Esse movimento se reflete na popularidade dos modelos de linguagem de grande escala (LLMs), como ChatGPT e Copilot, que viram sua taxa de sucesso percebida cair de 95% para 81%. Paralelamente, aumentam os investimentos em governança e qualidade dos dados. A proporção de empresas que aprimoram os dados para treinamento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também cresceram de 36% para 44%, e o número de organizações sem estratégia de explicabilidade dos modelos caiu de 42% para 24%.

Governança não freia inovação, mas traz segurança

Gibson reforça que os desafios enfrentados não indicam que a IA deva ser abandonada. Pelo contrário, a governança e a segurança são ferramentas para usar a tecnologia de forma segura e eficiente. “A IA pode ser muito útil, mas também apresenta riscos para os negócios, já que nem sempre é determinística. É necessário equilibrar inovação e controle para garantir o retorno sobre o investimento.”

O futuro da inteligência artificial nas empresas

O especialista prevê que, no futuro, a interação com a IA será mais simples e integrada. “Provavelmente teremos uma única interface, ou poucas interfaces, onde será possível solicitar resultados com facilidade. A tecnologia continuará evoluindo, mas para alcançar esse estágio é fundamental que as organizações estejam estruturadas.”

Essa estruturação envolve não apenas tecnologia, mas também processos, governança e capacitação, garantindo que a adoção da IA traga benefícios reais e minimizando riscos para o negócio.

Assinar essa transformação com responsabilidade é o principal desafio para as empresas que buscam incorporar a inteligência artificial em suas operações.

Renato Oliveira assina a cobertura de tecnologia no portal Joinews, atento aos impactos da inovação no cotidiano, economia e serviços.