Governança, auditoria e supervisão humana são essenciais para reduzir os riscos de erros da IA, evitando desinformação, prejuízos e falhas operacionais.
Segundo um relatório da Microsoft divulgado no início de 2026, a adoção global da inteligência artificial alcançou 17,8% da população mundial; mas quando ela erra, quem é culpado? Créditos: Igor Omilaev/Unsplash
O uso disseminado de ferramentas de inteligência artificial aumentou o debate sobre quem é responsável por um erro cometido por modelos de linguagem amplos (LLMs). O avanço rápido dessa tecnologia gerou preocupações com desinformação, decisões equivocadas e potenciais prejuízos jurídicos, reputacionais e operacionais para as empresas.
O tema ganhou força porque os erros da IA podem ter várias causas: dados usados para treinar os sistemas, supervisão humana e a forma como a tecnologia é incorporada nos processos. Ou seja, se a IA é alimentada por dados inconsistentes, colocada em processos desorganizados ou usada sem coordenação entre áreas, pode ampliar falhas existentes e passar a impressão falsa de precisão.
IA: solução ou problema no mundo corporativo
No ambiente corporativo, a situação é parecida: o aumento de assistentes e projetos de IA que não se comunicam entre si eleva o risco de falhas. A discussão sobre responsabilidade envolve quem definiu os dados, as regras, os limites, a supervisão e o controle do sistema que cometeu o erro.
Especialistas afirmam que o problema não está apenas no sistema que erra, mas nas decisões humanas que definem dados, regras e governança. Em muitos casos, a ausência de uma arquitetura que coordene diversas ferramentas resulta na proliferação de sistemas que não colaboram entre si, gerando inconsistência nos processos e perda de controle estratégico.
Segundo Rodrigo Cruz, vice-presidente de estratégia de crescimento e inovação da Keyrus no Brasil, a falha não é da IA, mas da ausência de um sistema que a governe corretamente. Ele explica que diante da multiplicação de assistentes de IA, sem uma arquitetura que os coordene, os resultados tendem a ser descoordenados e de difícil auditoria.
Como usar a IA de forma responsável
Desenvolver IA responsável exige mais do que tecnologia: é preciso organizar processos, definir regras de governança e capacitar equipes. Entre as medidas importantes estão: identificar onde a IA já é usada; envolver áreas como jurídica, segurança e tecnologia desde o início; registrar como os modelos funcionam; e treinar profissionais.
Com uma arquitetura sólida, a IA pode ajudar a compreender contextos, criar soluções e apoiar decisões complexas, sem substituir o humano, mas liberando-o para atuar como arquiteto da diferenciação da empresa.
- IA exige governança clara para evitar riscos
- Erros podem vir de dados, processos ou supervisão
- Arquitetura integrada de IA reduz inconsistências
- Empresas devem envolver áreas técnicas e jurídicas
- Resultados auditáveis aumentam confiança
O tema permanece relevante, pois a IA pode espalhar desinformação caso suas decisões não sejam verificáveis. Em casos de uso público, erros podem ter impactos reais, desde decisões administrativas até consequências legais.
