NIST AI RMF 1.0

A organização documentou políticas e responsabilidades para o ciclo de vida de IA, incluindo desenvolvimento e monitoramento de modelos.

Existem papéis definidos (AI Risk Owner, Model Validator) para supervisão dos sistemas de IA em produção.

A organização realiza avaliações de risco de IA antes da implantação de novos modelos ou atualizações significativas.

Existe processo de revisão e aprovação para modelos de IA usados em decisões que afetam pessoas (crédito, saúde, emprego).

A organização mantém inventário atualizado de todos os sistemas de IA em uso, incluindo finalidade, dados utilizados e componentes de terceiros (modelos, provedores e bibliotecas).

Existem controles para garantir conformidade dos sistemas de IA com regulamentações aplicáveis (LGPD, leis de IA).

A organização identifica e documenta os contextos de uso dos sistemas de IA, incluindo usuários afetados e potenciais impactos negativos.

Riscos de viés algorítmico são identificados e avaliados para modelos que tomam ou suportam decisões sobre indivíduos.

A organização identifica dependências de fornecedores de IA de terceiros (APIs, modelos pré-treinados) e avalia os riscos associados.

Dados de treinamento e inferência são mapeados quanto à sensibilidade com controles de privacidade correspondentes.

A organização avalia cenários de falha dos modelos de IA, incluindo ataques adversariais e envenenamento de dados.

Métricas de desempenho e equidade são definidas e monitoradas continuamente para modelos de IA em produção.

Testes de robustez e adversariais são realizados antes da implantação de modelos críticos.

A organização avalia e documenta a explicabilidade dos modelos de IA, especialmente para decisões de alto impacto.

Existe processo de validação independente dos modelos de IA antes de sua implantação em ambientes produtivos.

Logs de inferência e decisões automatizadas são retidos por período suficiente para auditoria, incluindo conteúdo e metadados de entrada e de saída para permitir detecção de uso indevido.

A organização monitora desvios de performance (model drift) e define critérios para retreinamento.

Existe plano de resposta a incidentes específico para falhas de sistemas de IA, incluindo procedimentos de rollback.

A organização tem capacidade de desativar rapidamente modelos de IA com falhas críticas sem interrupção das operações.

Contratos com fornecedores de IA incluem cláusulas sobre responsabilidade, portabilidade de modelos e notificação de incidentes.

A organização treina equipes relevantes sobre riscos de IA, uso responsável e procedimentos de reporte de anomalias.

Existe processo documentado para revisão periódica dos sistemas de IA, incluindo reavaliação de risco e atualização de controles.

As responsabilidades sobre o sistema de IA estão alocadas de forma explícita ao longo da cadeia — provedor de modelo, provedor de aplicação, orquestrador e contratante — com matriz documentada e comunicada.

O fornecedor declara ao contratante quais responsabilidades permanecem com o cliente — supervisão humana, validação de saída, restrição de uso e dado que não deve ser submetido ao sistema.

O pipeline de treinamento e de ajuste fino é protegido com controle de acesso, segregação de ambiente e registro de execução.

Existem medidas de prevenção e detecção contínua de envenenamento de dados de treinamento, ajuste fino e aumento de contexto.

Datasets de treinamento e ajuste fino são versionados, com verificação de consistência e restrição de alteração não autorizada.

Dados usados em treinamento, ajuste fino ou aumento de contexto são adquiridos com base legal, licença e autorização documentadas, incluindo dados originados de clientes.

A proveniência dos dados de treinamento é rastreável ao longo da cadeia, com registro de origem, transformações aplicadas e responsável por cada etapa.

A qualidade e a adequação à finalidade dos dados usados em IA são avaliadas — completude, representatividade, atualidade e aderência ao contexto de uso pretendido.

Existe processo documentado de avaliação de impacto do sistema de IA, com critérios definidos, aplicado antes da implantação e revisado ao longo do ciclo de vida, gerando artefato por sistema avaliado.

A avaliação de impacto considera efeitos sobre grupos e sobre a sociedade, além do impacto individual direto — incluindo exclusão, reforço de desigualdade e efeitos ambientais.

Existe política de uso aceitável do serviço de IA, comunicada a usuários e clientes, com mecanismo de aplicação e revisão frente a mudanças de risco e regulação.

A política de IA está alinhada e não conflita com as demais políticas organizacionais, com pontos de interface documentados.

Os recursos de sistema, computação e ferramental dedicados aos sistemas de IA são identificados e documentados, incluindo ambientes de treinamento, inferência e experimentação.

Existem objetivos declarados de desenvolvimento e uso responsável de IA, orientando as decisões de projeto e as restrições de aplicação.

Existe processo definido de projeto e desenvolvimento responsável de sistemas de IA, com pontos de verificação ao longo do ciclo e critérios explícitos para prosseguir ou interromper.

O sistema distingue de forma explícita instruções do sistema, entradas do usuário e conteúdo de dados recuperados, impedindo que dado tratado seja interpretado como instrução.

Existem guardrails aplicados a entradas e saídas do sistema de IA, com critérios documentados e reavaliação periódica frente a mudanças regulatórias e de cenário de risco.

Ferramentas, plugins e código executados por sistemas de IA rodam em ambiente isolado, com privilégio mínimo e sem alcance lateral a sistemas ou dados críticos.

Agentes de IA operam dentro de fronteiras de segurança definidas, com escopo de ação, sistemas acessíveis e limites de autonomia documentados e aplicados tecnicamente.

Alterações em conteúdo gerado por IA antes da entrega ao usuário final são restritas a identidades autorizadas, com registro de quem alterou e o quê.

Caches de contexto, prompt e embeddings são segregados por tenant e por sessão, com política de expiração definida.

Existe processo definido de implantação de sistemas de IA, com critérios de aprovação, ambiente segregado, plano de reversão e registro da autorização.

A integridade dos artefatos de modelo é verificada por hash criptográfico dos checkpoints, com comparação periódica e a cada transferência de custódia.

Artefatos de modelo são submetidos a varredura de vulnerabilidade e código malicioso antes da implantação e a cada ponto de transferência do ciclo de vida.

Modelos são armazenados e carregados em formato de serialização seguro, sem execução arbitrária de código no carregamento.

Modelos são assinados digitalmente e sua origem é verificada antes do carregamento em produção.

Modelos abertos ou de terceiros passam por avaliação de risco documentada antes do uso, com reavaliação periódica e monitoramento de vulnerabilidades conhecidas.

A organização determinou as questões internas e externas relevantes ao seu programa de IA e as partes interessadas afetadas por seus sistemas de IA, com suas expectativas documentadas.

Existe sistema de gestão de IA com escopo declarado, processos estabelecidos e controle operacional sobre as atividades de desenvolvimento, aquisição e operação de sistemas de IA.

A alta direção demonstra liderança sobre o programa de IA — integra seus requisitos aos processos de negócio, provê recursos e responde pelos resultados.

Existem objetivos de IA mensuráveis, com plano definido para alcançá-los, responsáveis nomeados e prazo de verificação.

Riscos de IA identificados têm plano de tratamento documentado, com opção escolhida, responsável e aceitação formal do risco residual por quem tem autoridade.

Os recursos necessários ao programa de IA — pessoas, orçamento, infraestrutura e ferramental — são determinados e providos.

As pessoas que atuam sob o controle da organização estão conscientes da política de IA, de sua contribuição para o programa e das implicações de não conformidade.

As comunicações internas e externas relevantes ao programa de IA estão determinadas — o que comunicar, quando, a quem e por qual meio.

A informação documentada do sistema de gestão de IA é criada, atualizada e controlada — com identificação, revisão, aprovação e proteção contra uso indevido.

O programa de IA é monitorado e medido — o que monitorar, por qual método, com qual periodicidade e quem analisa e avalia os resultados.

Existe programa de auditoria interna que avalia periodicamente a conformidade e a eficácia do sistema de gestão de IA.

A alta direção realiza análise crítica periódica do sistema de gestão de IA, avaliando desempenho, riscos, incidentes e necessidade de mudança.

Não conformidades do programa de IA geram ação corretiva com análise de causa e verificação de eficácia, alimentando a melhoria contínua do sistema de gestão.

O fornecedor mantém documentação atualizada dos modelos utilizados no serviço — provedor, versão, finalidade e limitações conhecidas — e valida periodicamente que ela corresponde ao que está em produção.

Existe inventário declarável dos componentes de IA que compõem o serviço — modelos, provedores, bibliotecas e fontes de dado externas — mantido atualizado e revisado ao menos anualmente.

Existe canal para que colaboradores e usuários reportem preocupações sobre o comportamento do sistema de IA, com tratamento definido e proteção contra retaliação.

O fornecedor mantém canal externo de comunicação sobre seus sistemas de IA — capacidades, limitações, mudanças relevantes e incidentes — acessível a clientes e partes interessadas.