Normas
ISO/IEC 27090:2026 define controles técnicos de segurança para IA
A ISO e a IEC publicaram a ISO/IEC 27090:2026, uma norma de 56 páginas que define controles técnicos para ameaças à IA, como envenenamento de dados e injeção de prompt.
Em 14 de outubro de 2026, a Organização Internacional de Normalização e a Comissão Eletrotécnica Internacional (abre em nova aba) publicaram a ISO/IEC 27090:2026. Intitulado Cibersegurança, Inteligência artificial, Abordagem de ameaças de segurança e comprometimentos a sistemas de IA, o documento de 56 páginas é uma norma de orientação. Ele define controles técnicos de detecção e mitigação em todo o ciclo de vida da inteligência artificial. A publicação fornece um modelo estruturado para proteger os sistemas contra vulnerabilidades que surgem desde a coleta de dados até o retreinamento do modelo.
A quem se aplica
A norma se aplica a organizações de todos os tipos e tamanhos que desenvolvem ou usam sistemas de inteligência artificial. Este escopo abrange empresas públicas e privadas, entidades governamentais e organizações sem fins lucrativos. Ela atende a equipes de segurança, desenvolvedores, cientistas de dados, engenheiros de software, gestores de risco, equipes de governança e profissionais de compras que avaliam os controles de fornecedores.
A introdução aponta para setores onde as falhas trazem consequências graves, incluindo saúde, robótica e a indústria automotiva.
O que exige
A ISO/IEC 27090:2026 é uma norma de orientação. Ela fornece uma estrutura de controles técnicos que as organizações podem implementar para apoiar esforços mais amplos de governança. Ela serve como uma norma complementar à ISO/IEC 42001 (abre em nova aba) para sistemas de gestão de inteligência artificial e à ISO/IEC 27001 para gestão de segurança da informação.
Desenvolvido no âmbito do subcomitê ISO/IEC JTC 1/SC 27, o documento define controles técnicos para categorias específicas de ameaças à inteligência artificial. A norma organiza sua orientação em torno da aplicação da segurança da informação, dos tipos de comprometimento potencial e das mitigações necessárias.
A Cláusula 5 orienta as organizações a aplicar controles estabelecidos de segurança da informação em todo o ciclo de vida do sistema. Isso significa proteger os ambientes de software, hardware e rede que cercam o modelo, em vez de apenas o modelo em si. O texto recomenda um programa de governança de inteligência artificial com um inventário de sistemas e seus usos. As organizações precisam de visibilidade sobre onde a inteligência artificial é usada antes de poderem gerenciar a exposição e a responsabilidade.
Um componente central da Cláusula 5 é a aplicação de princípios de confiança zero. O texto aconselha as organizações a presumir a violação, verificar todas as solicitações, usar criptografia de ponta a ponta, aplicar o privilégio mínimo e autenticar cada ação. Isso se aplica a dados de treinamento, acesso ao modelo, geração aumentada por recuperação e agentes autônomos. Um modelo não deve ser considerado confiável simplesmente porque uma solicitação se origina de um sistema interno ou de um usuário autenticado.
A norma faz a ponte entre a engenharia de software tradicional e o desenvolvimento de inteligência artificial. Ela recomenda práticas como modelagem de ameaças, exercícios de equipe vermelha, revisão de código e testes de invasão. Ela combina essas práticas com medidas específicas, como validação contínua, testes de obsolescência e rastreamento da proveniência dos dados de treinamento. As falhas de segurança da inteligência artificial frequentemente começam no desenvolvimento de dados e modelos, não apenas no tempo de execução.
A Cláusula 6 organiza os comprometimentos pelo ativo afetado e pela propriedade de segurança comprometida. O texto fornece um resumo dessas relações e mostra se um invasor é necessário. Ele também especifica se o caso se aplica à inteligência artificial generativa, à inteligência artificial preditiva ou a ambas. A norma cobre exemplos como ataques de envenenamento de dados, onde um invasor manipula dados para afetar o comportamento. Ela detalha ataques de injeção de prompt, onde o conteúdo de instruções de entrada manipuladas desencadeia um comportamento não intencional. Ela também explica ataques de evasão, inferência de associação, exfiltração de modelo, inversão de modelo, envenenamento direto de modelo, roubo direto de modelo, vazamentos diretos de dados de treinamento, vazamentos de entrada de modelo, saídas sensíveis de modelo e saídas contendo ataques de injeção. Essa estrutura ajuda os leitores a corresponder ameaças específicas ao controle correto para confidencialidade, integridade ou disponibilidade.
A Cláusula 6 também cobre considerações operacionais. Estas incluem limitação de dados, supervisão, privilégio mínimo do modelo, transparência, validação contínua, explicabilidade e testes de viés indesejado. Esses elementos destacam que muitas falhas são problemas operacionais ou de confiança que se manifestam durante o uso normal.
A Cláusula 7 enfatiza que as mitigações devem ser tratadas como um sistema interconectado. As defesas podem interagir entre si, enfraquecer outros controles e perder eficácia ao longo do tempo. A norma recomenda o registro contínuo, a proteção do ambiente de desenvolvimento, a detecção de entradas maliciosas, a filtragem, a limitação do uso do modelo e a otimização do tamanho do modelo. Ela destaca a continuidade das mitigações em todo o ciclo de vida e a validação contínua quando os modelos ou defesas se deterioram. A segurança deve continuar após a implantação. Os dados operacionais frequentemente alimentam atualizações futuras ou retreinamento. De acordo com os comentários da Internet Security Auditors (abre em nova aba), se esses dados forem manipulados, eles podem introduzir vulnerabilidades em versões posteriores.
O documento inclui três anexos para apoiar a implementação, em vez de adicionar novos requisitos. O Anexo A mapeia os ataques ao ciclo de vida do sistema e aos ativos, incluindo tabelas e fórmulas para relações de treinamento e inferência. O Anexo B fornece exemplos de versões de inteligência artificial de ataques convencionais, como negação de serviço, ataques à cadeia de suprimentos e ataques de porta dos fundos. O Anexo C explica o aprendizado de máquina federado, detalhando seu fluxo de trabalho, benefícios e desafios.
As datas
A ISO/IEC 27090:2026 foi publicada oficialmente em 14 de outubro de 2026. Como uma norma de orientação publicada, as organizações podem adotar suas recomendações imediatamente para informar suas arquiteturas de segurança e avaliações de risco.
O que verificar agora
- Inventarie todos os sistemas de inteligência artificial atualmente em desenvolvimento ou produção em toda a organização.
- Mapeie os dados, modelos e fornecedores associados a cada sistema para entender toda a cadeia de suprimentos.
- Verifique a proveniência dos dados de treinamento e restrinja os privilégios de modificação apenas a pessoal autorizado.
- Confirme se os ambientes de desenvolvimento estão estritamente separados dos ambientes de produção para evitar alterações não autorizadas.
- Estabeleça um processo documentado para revisar os dados operacionais em busca de anomalias antes de usá-los para retreinar modelos.
- Integre a modelagem de ameaças de inteligência artificial e os exercícios de equipe vermelha às avaliações de risco de segurança da informação existentes.
- Revise os controles de acesso atuais para garantir que os princípios de confiança zero se apliquem ao acesso ao modelo e aos sistemas de geração aumentada por recuperação.
Fontes
- International Organization for Standardization and the International Electrotechnical Commission (abre em nova aba) · standards.iteh.ai
- Kertos (abre em nova aba) · www.kertos.io
- Internet Security Auditors (abre em nova aba) · blog.isecauditors.com
Este artigo é informação geral, não aconselhamento jurídico. Para a situação da sua empresa, fale com um advogado qualificado.
Este artigo foi escrito com IA, conferido frase por frase contra as fontes acima e traduzido do original em inglês.