A NVIDIA publicou recentemente uma estrutura poderosa: "A Cadeia de Eliminação da IA", que mapeia como os ataques contra aplicativos com inteligência artificial se desenrolam. É uma das tentativas mais claras até agora de trazer estrutura a uma fronteira de segurança cada vez mais caótica. A estrutura mostra como os adversários passam do reconhecimento e envenenamento de dados à exploração e ao comando e controle, fornecendo às equipes de segurança uma linguagem comum para entender as ameaças específicas à IA.
O que torna isso valioso é que reflete a curva de maturidade que vimos na cibersegurança tradicional. Uma vez que aprendemos a modelar como os atacantes pensam, podemos projetar defesas que antecipam em vez de reagir. Mas como Os sistemas de IA evoluem de modelos passivos para agentes autônomos.Estamos diante de algo novo: esses agentes possuem credenciais, acessam recursos sensíveis e agem em nome dos usuários — contudo, seu comportamento é muito menos previsível do que o de qualquer ser humano. É por isso que a identidade precisa ser o foco. Não apenas o que o agente pode fazer, mas quem ele representa e sob a autoridade de quem.
A mudança de sistemas para atores
Em arquiteturas convencionais, os sistemas processam entradas. Em ambientes orientados por IA, eles agem.
Os agentes de IA consultam bancos de dados, enviam mensagens, acionam fluxos de trabalho e, às vezes, tomam decisões políticas. Eles são, na prática, novos atores na empresa. Cada um opera sob uma identidade que carrega credenciais, permissões e padrões de comportamento.
Essa identidade é o que transforma um sistema de IA de um modelo em um agente. E assim como os usuários humanos ou contas de serviçoEssas identidades podem ser sequestradas, ter permissões excessivas ou serem deixadas sem monitoramento. Isso muda a forma como interpretamos cada fase da cadeia de eliminação.
Reconhecimento Não se trata apenas de mapear sistemas. Trata-se de descobrir quais agentes existem, a que eles podem acessar e quem eles representam.
Exploração Isso ocorre quando um atacante manipula a lógica de um agente para executar uma ação legítima com uma intenção ilegítima.
Comando e controle A mudança ocorre do acesso remoto para o controle delegado, usando a identidade confiável do agente para operar de forma invisível dentro do ambiente.
No momento em que encaramos os ataques de IA pela ótica da identidade, o problema muda. Em vez de perguntarmos "Como protegemos o modelo?", deveríamos perguntar "Como controlamos quem o modelo representa?".
Um cenário em movimento
Imagine um assistente de IA na área financeira, criado para conciliar faturas. Ele está integrado a sistemas de pagamento e possui credenciais para aprovar automaticamente pequenas transações. Um comando malicioso altera sutilmente a lógica que define o que é "pequeno", e o assistente começa a aprovar transferências maiores. Tudo dentro das permissões concedidas.
Nenhuma detecção de anomalias sinaliza isso, porque tecnicamente nada viola a política. A violação não decorre de uma falha do modelo. Ela decorre do uso indevido de identidade. O sistema estava fazendo exatamente o que era permitido, mas com base em um julgamento equivocado.
É aqui que a identidade se torna o tecido conjuntivo em toda a cadeia de eliminação da IA. Cada fase (reconhecimento, exploração e controle) depende da visibilidade de quem ou o que está agindo, sob a autoridade de quem e dentro de quais limites.
Transformando a cadeia de destruição em uma cadeia de confiança.
A segurança de identidade traz disciplinas que se relacionam diretamente com a defesa da IA: privilégio mínimo, continuidade autenticaçãoLinhas de base comportamentais e atribuição rastreável. Juntas, elas transformam controles reativos em garantia proativa. Eu chamaria isso de cadeia de confiança para IA.
Nessa cadeia:
- Toda ação carrega um contexto: quem a iniciou, em nome de quem e dentro de qual âmbito.
- Qualquer desvio do comportamento esperado pode ser observado, auditado e controlado.
Ao conectar modelos baseados no ciclo de vida, como a AI Kill Chain, com controles que levam em consideração a identidade, começamos a fechar o ciclo entre como os ataques se desenrolam e quem os permite.
Olhando para a frente
Com o tempo, a identidade se tornará a camada organizadora da governança da IA. Assim como antes centralizamos o gerenciamento de acesso para usuários humanos, Em breve faremos o mesmo para agentes de IA.Vamos definir, monitorar e autenticar todos os agentes digitais na empresa.
A Cadeia de Eliminação por IA nos ajuda a entender como os adversários se movimentam.
A identidade nos diz por quem eles transitam.
Unir essas duas perspectivas é como transformamos a IA de um sistema opaco em um sistema confiável. Não desacelerando a inovação, mas tornando a responsabilização escalável.
Quer ver como isso funciona na prática? Leia nosso artigo. análise do GTG-1002, a primeira campanha cibernética ativa documentada – e o que ela sinaliza para os defensores.