A inteligência artificial passou de inovação pontual a ferramenta presente na rotina de grande parte das empresas. Segundo o relatório The State of AI, da McKinsey & Company, 88% das organizações já utilizam a tecnologia em pelo menos uma função de negócio. Em muitos casos, porém, a adoção ocorre antes da definição de políticas e controles internos, o que pode aumentar riscos relacionados à segurança e ao uso de dados.

Não quer perder as últimas notícias de tecnologia? Siga o perfil do 33Giga no Instagram e no Bluesky

Um relatório da Gartner, uma das maiores e mais respeitadas empresas de consultoria no setor de tecnologia e negócio, estima que, até 2027, mais de 40% das violações de dados relacionadas à inteligência artificial terão origem no uso indevido de ferramentas de IA generativa.

Para Fernando Trota, CEO da Triven, boa parte desses problemas nasce ainda no início da adoção, antes de a empresa ter clareza sobre regras de uso, automação e proteção de dados. “Muitas companhias adotaram a inteligência artificial antes de criar mecanismos para administrá-la. O resultado é que a inovação avança mais rápido do que a proteção dos dados”, afirma.

Além disso, o executivo destaca que os problemas mais recorrentes não estão necessariamente na tecnologia em si, mas na forma como ela é implementada e utilizada dentro das organizações. A seguir, o especialista destaca os quatro erros mais comuns observados durante a adoção da IA nas empresas:

1. Liberar o uso da IA sem definir regras

Permitir que colaboradores usem ferramentas de IA sem diretrizes sobre quais informações podem ser compartilhadas é um dos equívocos mais comuns. Na prática, dados de clientes, contratos, relatórios financeiros e documentos internos acabam inseridos em plataformas digitais sem critérios claros de segurança. De acordo com Trota, esse cenário é especialmente sensível em áreas financeiras, em que a exposição indevida de informações pode gerar impactos operacionais, jurídicos e reputacionais.

2. Acreditar que a tecnologia resolve problemas de gestão

“Imaginar que a inteligência artificial, sozinha, vai corrigir falhas de processos ou compensar dados desorganizados é outro erro recorrente”, aponta Trota. Embora 64% das empresas afirmem que a tecnologia impulsiona a inovação, apenas entre 5% e 6% conseguem obter retorno financeiro significativo sobre os investimentos realizados, segundo o Gartner. O dado reforça que ganhos consistentes dependem da qualidade dos dados, da integração aos processos internos e da definição de objetivos claros.

3. Substituir supervisão por automação

A busca por eficiência leva muitas organizações a automatizar atividades sensíveis sem criar mecanismos de validação. Para Trota, esse é um dos riscos mais relevantes quando a tecnologia passa a apoiar processos financeiros e administrativos.

Por isso, a empresa deve manter supervisão humana em operações críticas: a automação é usada apenas em etapas de menor risco, enquanto validações e autorizações permanecem sob responsabilidade das equipes. “Nos processos críticos, mantemos sempre a validação humana. A tecnologia deve ampliar a capacidade das pessoas, não substituir os mecanismos de controle”, explica o CEO.

5. Tratar segurança como uma etapa posterior

Casos recentes mostram que os riscos não são apenas teóricos. A startup chinesa DeepSeek teve um banco de dados exposto devido a uma configuração inadequada, tornando públicos históricos de conversas, metadados operacionais e chaves de API.

Para o executivo, situações como essa mostram que segurança, compliance e gestão de riscos precisam fazer parte da estratégia desde o início da implementação. “Antes de qualquer implementação, é preciso definir quais dados podem circular, quem terá acesso e como essas interações serão monitoradas. Sem essa estrutura, o potencial da tecnologia pode ser comprometido pelos próprios riscos que ela cria”, conclui.

Quer ficar por dentro do mundo da tecnologia e ainda baixar gratuitamente nosso e-book Manual de Segurança na Internet? Clique aqui e assine a newsletter do 33Giga