Governança de IA: 4 níveis de risco e quem aprova cada uso

Governança de IA é o conjunto de decisões, papéis e rotinas com que a diretoria sabe quais sistemas de IA a empresa usa, em que decisões eles pesam e quem responde por cada um. Pergunte na próxima reunião quantas IAs a empresa usa hoje e você vai ouvir respostas diferentes do CIO, do jurídico e da diretoria comercial, porque cada um conhece um pedaço. O NIST, instituto de padrões do governo americano, publicou em janeiro de 2023 o AI Risk Management Framework, de uso voluntário, e incluiu entre os resultados da função de governança a existência de mecanismos para inventariar os sistemas de IA (NIST, 2023). Em dezembro do mesmo ano, a ISO publicou a ISO/IEC 42001, que ela apresenta como a primeira norma de sistema de gestão de IA do mundo (ISO, 2023). Numa empresa de porte médio, a governança que funciona tem inventário de casos de uso, matriz de risco em quatro níveis, comitê pequeno, dono por caso, ciclo de aprovação com prazo, rota de incidente e cláusulas mínimas com fornecedores, tudo sustentado pela capacitação de quem ocupa cada papel.

Na Iasbeck&Co a gente implanta CRM e agentes de IA em operações B2B, e escrevi este texto para diretoria, jurídico, TI e RH. As regras para o colaborador estão em política de uso de IA, e o estado da lei europeia e do PL 2338/2023 está em regulação de IA. Aqui eu trato do nível acima, de como a empresa decide, aprova, acompanha e desliga cada uso. O conteúdo é orientação de gestão e não substitui parecer jurídico.

O que é governança de IA e no que ela difere da política de uso?

A política de uso diz ao vendedor o que ele pode colar numa ferramenta e o que precisa revisar antes de enviar. A governança diz à empresa quem aprova um agente que responde clientes sozinho, com que critério, por quanto tempo e quem manda desligar quando a taxa de erro sobe. A política o time lê, e a governança a liderança opera, com reunião, registro e indicador.

A unidade da governança é o caso de uso, que eu defino como uma tarefa concreta feita com IA, sobre dados definidos, com um resultado que alguém consome. O mesmo assistente corporativo pode resumir a ata de uma reunião interna e, na sala ao lado, ordenar currículos para o recrutador. A ferramenta é a mesma e o risco é outro, porque no segundo caso a IA influencia uma decisão sobre uma pessoa, e quem governa por ferramenta perde essa diferença.

A lógica repete a que a empresa aplica aos dados, com dono, regra e rotina, e por isso o comitê de IA precisa conversar com quem cuida da governança de dados. Um agente que lê uma base sem dono herda todos os problemas dessa base.

NIST AI RMF e ISO/IEC 42001: quais referências usar?

O NIST AI RMF 1.0 organiza a gestão de risco de IA em quatro funções. Map estabelece o contexto em que cada sistema opera, Measure analisa e acompanha os riscos com métodos quantitativos e qualitativos, Manage aloca recursos para tratar os riscos mapeados e medidos, e Govern é a função transversal que permeia as outras três (NIST, 2023). Dentro de Govern, o documento pede inventário dos sistemas (GOVERN 1.6), processo para desativá-los sem aumentar riscos (1.7), papéis documentados (2.1), pessoas treinadas (2.2), liderança executiva responsável pelas decisões sobre risco (2.3) e políticas para riscos de terceiros (6.1). Em julho de 2024, o instituto publicou o NIST AI 600-1, um perfil que aplica o mesmo modelo à IA generativa (NIST, 2024).

A ISO/IEC 42001:2023 especifica requisitos para estabelecer, implementar, manter e melhorar de forma contínua um sistema de gestão de IA, e vale para organizações de qualquer porte que desenvolvem, fornecem ou usam produtos e serviços baseados em IA (ISO, 2023). Sistema de gestão, no vocabulário da ISO, é o conjunto de políticas, objetivos e processos com que a organização persegue esses objetivos. Minha leitura para a empresa média brasileira: use o NIST, que é gratuito, como roteiro de trabalho, e trate a ISO 42001 como referência para o dia em que um cliente grande pedir evidência formal de governança.

Como fazer o inventário de usos e de ferramentas de IA?

O inventário tem duas camadas. A primeira lista ferramentas e fornecedores, com contrato, licenças, quem paga e onde o dado fica. A segunda lista os casos de uso, onde mora o risco, e cada ferramenta pode aparecer em vários. Para encontrar o que existe, cruze o financeiro (assinaturas no cartão e reembolsos), a TI (aplicativos com login corporativo), o administrador do CRM (agentes e automações ligados) e uma pesquisa anônima com as áreas, que traz à tona o uso por conta própria.

Falta ainda a fonte que quase ninguém olha: os recursos de IA embutidos nos sistemas já contratados. CRM, plataforma de atendimento, ERP e gravador de reuniões ganharam assistentes e agentes nas últimas atualizações, e parte deles vem ligada por padrão. Nos inventários que acompanho, essa IA embutida costuma ser a parte que ninguém listou, porque ninguém comprou nada novo.

Para cada caso, registre nome, área, dono, ferramenta, dados lidos, o que o caso produz ou executa, quem é afetado (cliente, candidato, funcionário ou só a equipe), nível de risco e datas de aprovação e de próxima revisão. Os agentes entram com os campos que descrevi em agentes de IA. Uma planilha resolve até algumas dezenas de casos, desde que tenha dono e revisão no calendário do comitê.

Como classificar o risco de cada caso de uso de IA?

Eu classifico cada caso com cinco perguntas: o resultado afeta alguém de fora da equipe, a IA decide ou só sugere, o conteúdo sai da empresa sem revisão, há dado pessoal ou sensível, e o erro é fácil de desfazer. As respostas levam a um de quatro níveis, com exigências proporcionais. O AI Act europeu e o PL 2338 usam a mesma lógica por risco, com listas próprias de alto risco que o jurídico deve conferir. A matriz abaixo é o instrumento que levo para a primeira reunião do comitê.

Nível	Exemplos	Revisão humana	Registro	Teste antes de ligar	Quem aprova
1. Baixo	Resumo de documento interno, rascunho de post, pesquisa de mercado	Quem usa confere o que aproveita	Ferramenta no catálogo aprovado	Avaliação da ferramenta	A área, dentro da política de uso
2. Moderado	Follow-up rascunhado por agente, resposta de chamado, resumo de call no CRM	Uma pessoa aprova antes de sair da empresa	Caso no inventário com dono, dados e ações	Algumas dezenas de casos reais comparados com o trabalho da equipe	Dono do caso e TI
3. Alto	Triagem de currículos, apoio à avaliação de desempenho, desconto ou crédito automático, agente que executa sem aprovação item a item	A IA recomenda e uma pessoa decide, com registro de quem decidiu	Ficha completa, histórico das decisões e canal de contestação	Teste de erro e de viés por grupo, antes e a cada revisão	Comitê, com parecer do jurídico e do encarregado de dados
4. Vedado	Reconhecimento de emoções de funcionários, desligamento decidido pela IA, dado sensível em ferramenta sem contrato	Não se aplica	Lista publicada	Não se aplica	Só a diretoria muda a lista

Na dúvida entre dois níveis, o caso fica no de cima. A classificação acompanha o escopo, então o agente que passa de rascunhar para enviar sozinho volta ao comitê, mesmo com a mesma ferramenta. No nível 3, alguém precisa conseguir explicar à pessoa afetada por que a decisão saiu daquele jeito, o que conversa com a revisão de decisões automatizadas da LGPD que detalhei em IA e LGPD.

Papéis e responsabilidades: quem é dono de quê na governança de IA?

Eu traduzo a exigência do NIST de liderança executiva responsável em um patrocinador com nome na diretoria. Abaixo dele ficam um comitê pequeno e um dono por caso, com TI, jurídico e RH em papéis definidos. A tabela separa quem responde, quem aprova e quem executa, porque a confusão entre esses verbos produz a maior parte dos casos sem dono.

Papel	Responde por	Aprova	Executa
Diretoria e patrocinador	Apetite de risco, orçamento, lista de vedados	Mudanças na lista de vedados	Revisão trimestral do painel
Comitê de IA (TI e segurança, jurídico e encarregado de dados, RH, uma liderança de negócio, RevOps)	Matriz, inventário, calendário de revisões	Casos de nível 3 e reclassificações	Reunião mensal e revisão pós-incidente
Dono do caso (líder da área que consome o resultado)	Resultado e qualidade do que a IA produz	Casos de nível 1 e 2 da área, com a TI	Ficha, revisão de 90 dias, pedido de desligamento
TI e segurança	Avaliação técnica do fornecedor, acessos, logs	Ferramentas novas no catálogo	Configuração e desligamento técnico
Jurídico e encarregado de dados	Base legal, contratos, transparência, incidentes com dado pessoal	Cláusulas e parecer no nível 3	Revisão de contratos e de incidentes
RH	Capacitação e IA que afeta candidatos e funcionários	Uso em recrutamento e desempenho, com o comitê	Trilha de formação

O comitê precisa caber numa reunião de uma hora por mês. Se ele aprovar todo caso, vira fila e devolve as áreas às ferramentas por conta própria; por isso os níveis 1 e 2 se resolvem na área, com a TI, e o comitê fica com o nível 3, as reclassificações e os incidentes. O dono do caso vem do negócio: a TI configura e protege, e quem sabe se o follow-up do agente serve ao cliente é a diretoria comercial.

Como funciona o ciclo de aprovação de um novo caso de uso?

O ciclo começa com uma ficha de uma página que o futuro dono preenche, com a linha de base do indicador desde o pedido, porque sem ela ninguém consegue dizer depois se o caso deu resultado, como detalhei em ROI de IA. A TI e o dono propõem o nível com a matriz. No nível 1, a TI confirma que a ferramenta está no catálogo e o caso entra no inventário. No nível 2, a TI avalia o fornecedor, o dono roda o teste e os dois aprovam com data de revisão. No nível 3, o caso vai ao comitê com o teste, o parecer jurídico e o desenho de quem decide e de como a pessoa afetada contesta.

Todo caso aprovado entra como piloto, com escopo limitado e critério de desligamento escrito antes de ligar, como “taxa de correção acima de 20% por dois meses” ou “qualquer envio fora da permissão”. Na revisão de 90 dias, o dono apresenta indicador, correções, incidentes e custo, e o comitê mantém, reclassifica ou desliga. O prazo também é regra: eu proponho alguns dias para o nível 1, até duas semanas para o 2 e o ciclo mensal do comitê para o 3, publicados junto da ficha.

Monitoramento e incidentes: o que acompanhar depois que a IA entra em produção?

O NIST descreve, na função Manage, planos de monitoramento depois da implantação, com retorno dos usuários, contestação e correção do resultado, desativação, resposta a incidentes e gestão de mudanças (NIST, 2023). Na operação, isso vira um painel mensal por caso com a taxa de correção (a parte do que a IA produziu que o revisor editou ou rejeitou), as reclamações ligadas ao caso, o custo do mês e o resultado de uma amostra auditada pelo dono. No nível 3, o comitê olha também os resultados por grupo, para ver se a triagem descarta um perfil mais do que os outros.

O incidente de IA precisa de definição escrita: conteúdo indevido que chegou a um cliente, dado pessoal enviado a ferramenta fora do catálogo, decisão contestada por uma pessoa afetada e agente que agiu fora da permissão. Na rota, o dono pausa o caso, a TI preserva os registros, o comitê avalia a causa e o encarregado de dados decide se cabe comunicar à ANPD e aos titulares, como a LGPD prevê para incidentes de segurança com dados pessoais. A revisão termina com decisão registrada, e desligar entra na rotina: caso sem dono, caso que falhou o indicador em duas revisões e ferramenta descontinuada saem do inventário com data e exclusão dos dados no fornecedor.

Fornecedores e contratos de IA: o que revisar antes de assinar?

Parte do risco mora no contrato. O fornecedor pode trocar o modelo por trás da ferramenta e mudar o comportamento de um caso que funcionava, usar subcontratados para processar o dado e ligar recursos novos sem aviso. Nos níveis 2 e 3, o jurídico e o encarregado de dados conferem estas perguntas antes da assinatura ou na renovação seguinte.

Cláusula	Pergunta ao fornecedor
Treinamento de modelos	O que enviamos treina ou melhora modelos, e como desligamos isso?
Local e subcontratados	Em que países o dado é processado e quais terceiros, incluindo provedores de modelo, participam?
Retenção e exclusão	Por quanto tempo vocês guardam prompts, arquivos e respostas, e como comprovam a exclusão?
Incidentes	Em quanto tempo vocês avisam um incidente com nossos dados?
Mudança de modelo	Vocês avisam antes de trocar o modelo ou ligar recursos novos de IA?
Registros	Temos acesso aos logs de uso para auditoria interna?
Responsabilidade	Quem responde por violação de direitos de terceiros no conteúdo gerado?

Para cada caso de nível 3, o dono escreve também como a área trabalha se o fornecedor sair do ar, porque a equipe que esqueceu como operar sem a IA para quando ele falha.

Capacitação: quem precisa aprender o quê

O NIST trata o treinamento das pessoas e dos parceiros como resultado da própria governança. A diretoria aprende a ler o painel e decidir apetite de risco. O comitê aplica a matriz e avalia fornecedores, os donos preenchem a ficha e conduzem a revisão de 90 dias, e os revisores dos níveis 2 e 3 aprendem o que conferir antes de aprovar. O RH coordena a trilha e garante que quem usa IA sobre candidatos e funcionários saiba explicar e revisar o resultado. Para medir, acompanhe os casos com dono e revisão em dia e as fichas que chegam completas na primeira tentativa.

Erros comuns na governança de IA

Governar a ferramenta em vez do caso de uso

Aprovar ou bloquear uma ferramenta inteira libera o uso de alto risco junto com o de baixo, ou bloqueia os dois. Classifique o caso e use o catálogo de ferramentas como pré-requisito.

Comitê que aprova tudo

Nos projetos que conduzo, as áreas param de pedir aprovação quando a resposta demora mais do que assinar uma ferramenta no cartão. Delegue os níveis 1 e 2 e publique os prazos.

Inventário feito uma vez

O inventário montado para uma auditoria e esquecido descreve a empresa de seis meses atrás. Dê a ele dono, revisão mensal e uma regra: caso fora do inventário é caso não aprovado.

Esquecer a IA embutida nos sistemas contratados

Recursos que chegam por atualização no CRM, no atendimento e no ERP entram em produção sem ficha e sem dono. Pergunte pelos recursos de IA ativos a cada renovação e a cada nota de versão relevante.

Aprovar sem critério de desligamento

Caso aprovado sem condição de saída continua rodando por inércia, mesmo com o indicador piorando. Escreva o critério na ficha e cobre a decisão na revisão de 90 dias.

Roteiro de 30 dias para a liderança

1. Dias 1 a 5: nomeie patrocinador e comitê. A diretoria escolhe o patrocinador, forma o comitê e publica a primeira lista de usos vedados.
2. Dias 6 a 12: monte o inventário. Cruze financeiro, TI, administrador do CRM e pesquisa anônima, e peça a cada dono de sistema os recursos de IA ativos.
3. Dias 13 a 17: classifique os casos. Aplique a matriz, dê um dono a cada caso e pause os de nível 3 sem dono ou sem revisão humana.
4. Dias 18 a 22: publique o ciclo de aprovação. Divulgue a ficha, os prazos por nível e o canal de pedidos, com data para regularizar o que está fora do inventário.
5. Dias 18 a 25: revise os contratos. O jurídico confere as cláusulas nos fornecedores de nível 2 e 3, começando pelos que tratam dado pessoal.
6. Dias 23 a 27: ligue o monitoramento. Defina o painel mensal, escreva a definição de incidente e teste a rota com um caso simulado.
7. Dias 28 a 30: capacite e marque a revisão. Treine comitê e donos na matriz e na ficha, apresente o inventário classificado à diretoria e marque a revisão trimestral.

O roteiro coloca a estrutura de pé, e quem faz a governança rodar são as pessoas que preenchem a ficha, revisam o que a IA produz e decidem quando desligar. Esse é o trabalho do treinamento in company de IA aplicada, com turmas para diretoria, comitê, donos de caso e equipes de vendas, marketing, CS e RH, montado sobre os processos da empresa, que entrega a biblioteca de prompts por área e a arquitetura de agentes, com o que cada agente lê, o que executa e quem aprova, a base do inventário e da classificação por risco.

Perguntas frequentes

O que é governança de IA?

É o conjunto de decisões, papéis e rotinas com que a empresa sabe quais sistemas de IA usa, classifica o risco de cada caso de uso, aprova os novos, acompanha os que estão em produção e desliga os que deixaram de servir. Ela inclui inventário, matriz de risco, comitê, donos por caso, monitoramento, contratos com fornecedores e capacitação.

Qual a diferença entre governança de IA e política de uso de IA?

A política de uso traz as regras para o colaborador, como ferramentas aprovadas, dados permitidos e revisão antes do envio. A governança é o processo da liderança que decide quais casos de uso existem, com que nível de risco, quem aprova e como a empresa monitora e responde a incidentes. A política é uma das peças da governança.

A empresa precisa da certificação ISO/IEC 42001?

Nenhuma lei brasileira exige a norma hoje. Para a maioria das empresas de porte médio, o NIST AI RMF serve como roteiro gratuito para montar a governança, e a ISO/IEC 42001 vira referência quando clientes grandes passam a pedir evidência formal de gestão de IA em contrato ou em due diligence.

Quem deve liderar a governança de IA na empresa?

Um patrocinador na diretoria, que responde pelo apetite de risco, apoiado por um comitê pequeno com TI e segurança, jurídico e encarregado de dados, RH, uma liderança de negócio e RevOps. Cada caso de uso tem um dono na área que consome o resultado, e a TI configura e protege sem decidir sozinha sobre risco de negócio.

Como classificar o risco de um caso de uso de IA?

Responda se o resultado afeta alguém de fora da equipe, se a IA decide ou só sugere, se o conteúdo sai sem revisão, se há dado pessoal ou sensível e se o erro é fácil de desfazer. As respostas levam a um de quatro níveis, de baixo a vedado, cada um com exigências próprias de revisão humana, registro e teste, e na dúvida o caso fica no nível de cima.

Como preparar o time para a governança de IA?

Treine por papel: a diretoria aprende a ler o painel e decidir apetite de risco, o comitê aplica a matriz e avalia fornecedores, os donos preenchem a ficha e conduzem a revisão, e os revisores aprendem o que conferir antes de aprovar. Acompanhe quantos casos estão no inventário com dono e revisão em dia e quantas fichas chegam completas na primeira tentativa.