O relatório NTT DATA Technology Foresight 2026 coloca essa pergunta no centro da terceira macrotendência: Intelligence we trust. Mais do que uma questão técnica, trata-se de uma questão estratégica. Afinal, podemos confiar na inteligência que estamos implementando?
Há vinte anos, a cibersegurança se concentrava principalmente na proteção do perímetro. Hoje, essa mesma área desempenha um papel decisivo: habilita a inovação, sustenta a reputação e influencia diretamente a continuidade dos negócios. A inteligência artificial segue uma trajetória semelhante, mas em um intervalo muito mais curto.
O debate sobre IA deixou rapidamente de se limitar à capacidade. Ainda é importante saber se um modelo funciona, se é suficientemente preciso ou quais casos de uso consegue solucionar. Então, o debate ganhou novas dimensões. À medida que os sistemas de IA ganham autonomia, conectam-se entre si e passam a integrar operações críticas, torna-se cada vez mais relevante saber se essa inteligência é explicável, verificável, governável e auditável.
Essa é a nova fronteira da cibersegurança. Proteger a própria inteligência, incluindo os dados que alimentam os modelos, os modelos contra manipulações, os resultados contra erros sistemáticos e os agentes contra comportamentos indesejados.
Garantia contínua: do controle periódico à confiança em tempo real
As organizações estão acostumadas a validar seus sistemas em ciclos, como auditorias anuais, revisões trimestrais e testes antes do lançamento. Esse modelo foi concebido para ambientes mais estáticos. Os modelos de IA, no entanto, não são estáticos. Quando os dados do mundo real mudam, os modelos aprendem, se ajustam e podem passar a se comportar de maneiras que ninguém havia previsto.
O Technology Foresight 2026 apresenta o conceito de garantia contínua da IA: integrar explicabilidade, monitoramento de drift, linhagem de dados, evidências automáticas e controles de governança diretamente aos pipelines, em vez de tratá-los como mecanismos externos avaliados apenas ao final do processo. A confiança deixa de ser algo validado apenas uma vez e passa a ser continuamente monitorada e reforçada ao longo da operação, em tempo real.
Na prática, isso significa que uma organização madura sabe, por exemplo, que seu modelo de crédito tem 94% de precisão, mas também com quais dados esse modelo foi treinado. Assim, a organização consegue identificar quando o comportamento do modelo começa a mudar, explicar a um regulador por que determinada solicitação foi negada e contar com mecanismos para revisar ou reverter decisões automatizadas quando necessário.
O mercado já está respondendo
A urgência não é apenas conceitual. O mercado de gestão de confiança, risco e segurança de IA (AI TRiSM), alcançou US$ 2,34 bilhões em 2024 e deve chegar a US$ 6,22 bilhões em 2029, com crescimento anual sustentado de 21,6%.
Segundo as previsões do Technology Foresight 2026, 90% das empresas adotarão estruturas de governança para agentes de IA nos próximos 18 meses e, até 2028, 85% dos produtos de dados incluirão um AI Bill of Materials que documente como os dados foram coletados, editados e limpos.
Na prática, estamos diante de uma reestruturação da forma como as organizações demonstram que sua IA merece ser utilizada.
O papel da governança e do trust by design
Um dos erros mais comuns nas organizações é tratar a governança da IA como um problema da equipe de dados ou como uma extensão da conformidade normativa. O relatório Technology Foresight 2026 deixa claro que a IA confiável exige uma governança transversal, capaz de conectar segurança, compliance, arquitetura, ética, operações e estratégia.
Isso exige a construção de uma linguagem comum entre áreas que historicamente operaram em silos. Um CISO precisa entender o que significa um modelo ter “baixa explicabilidade”. Um CDO deve compreender as implicações de governança do uso de dados de terceiros para treinar um agente. Um CEO precisa ter condições de explicar ao conselho quais processos críticos estão automatizados e em quais condições podem falhar.
As organizações mais maduras incorporarão a confiança desde o início, com modelos explicáveis desde a concepção, dados rastreáveis desde a ingestão, controles automatizados nos pipelines, testes adversariais antes da implementação e autenticação contínua em tempo de execução.
Uma IA confiável acelera decisões porque as equipes passam a delegar com mais segurança. Permite personalizar sem receio porque há rastreabilidade dos dados. Ajuda a reduzir fraudes porque há observabilidade do comportamento. E é essencial para inovar com mais velocidade porque existem mecanismos para reverter erros.
Na era da inteligência maciça, a confiança é muito mais do que um valor declarado, é uma infraestrutura essencial. Por isso, as organizações que construírem essa confiança antes, e melhor, terão mais liberdade para se mover rapidamente quando o mais importante for não errar.