Sequestro de agentes e movimentação lateral: Lições da vulnerabilidade de IA da ServiceNow

Lições sobre segurança de identidade

Se você está no fluxo de trabalho de construção/assegurando/guardadonzela agentes, Eis a minha opinião sobre o assunto. svários IDsentidade e Os padrões de falha no controle de acesso emergiram com uma clareza incomum na forma vulnerável como esses agentes e suas credenciais/confiança foram criados: 

Falsificação de identidade sem autenticação

A plataforma aceitava declarações de identidade baseadas em identificadores fracos em vez de provas criptográficas. Endereços de e-mail funcionavam como tokens de identidade, ignorando completamente a validação de sessão, a autenticação multifator (MFA) e os níveis de segurança. 

Escalada de privilégios mais persistência 

Uma vez que a personificação fosse bem-sucedida, os atacantes não precisariam explorar outras possibilidades. adicional vulnerabilidades. Eles usaram fluxos de trabalho legítimos para criaro novo prelatos controversos e modificar papéis, estabelecendo persistência por meio de mudanças de estado autorizadas, em vez de portas traseiras secretas. 

Abuso de lógica de negócios e fluxo de trabalho

A vulnerabilidade foi explorada graças ao funcionamento preciso da automação aprovada, conforme projetado. Fluxos de provisionamento, aprovações e alterações de configuração. executado Exatamente, logo abaixo de uma identidade falsa. Isso deslocou a superfície de ataque de defeitos de código para suposições de confiança incorporadas na lógica de negócios.

Abuso de confiança entre agentes

Os agentes delegavam autoridade a outros agentes sem revalidar a identidade ou a intenção. Isso criou um cenário moderno de "representante confuso", no qual a confiança se propagava transitivamente entre os agentes, amplificando o impacto de um único contexto de identidade comprometida.

Execução de segunda ordem

Entradas de baixa confiança desencadearam ações de alto privilégio indiretamente por meio de interconexões.mediador agentes. A superfície de ataque não era a manipulação de prompts ou da linguagem, mas sim o contexto de execução e a autoridade delegada.

Detecção e auditoria da erosão

Quando a própria camada de identidade foi comprometida e os atacantes continuaram avançando em direção aos servidores principais, as ações... parecia ser atividade legítima do usuário. Como resultado, o monitoramento tradicional baseado em identidade e a análise comportamental perderam sua fidelidade. Juntos, esses padrões demonstrar que os sistemas de agentes corroem a segurança tradicional camadas, a menos que a identidade controles são aplicada de forma contínua, contextual e em tempo de execução. Quando a identidade é tratada como uma suposição em vez de um controle, a automação se torna um acelerador de comprometimento em vez de um multiplicador de forças para a segurança. 

Conclusão: Da configuração incorreta ao próximo APT

Este fluxo de ataque expõe uma falha sistêmica no projeto e na execução de agentes de IA, e não uma falha isolada. No fluxo de interação entre agentes, a identidade era validada uma única vez e, em seguida, assumida indefinidamente. A confiança se propagava entre agentes e fluxos de trabalho sem revalidação. Cada decisão parecia razoável isoladamente, mas, em conjunto, formavam um caminho de execução inseguro. Essas são vulnerabilidades em nível de fluxo, enraizadas na forma como a autoridade se move por sistemas autônomos, composicionais e de longa duração.

O ponto cego não é a qualidade do código, mas sim a continuidade da confiança. As organizações devem procurar caminhos de confiança inseguros, e não apenas configurações incorretas. As equipes de IAM e segurança devem partir do princípio de que esses erros ocorrerão e implementá-los. segurança de identidade em tempo de execução Dessa forma, o abuso é detectado e interrompido mesmo quando as premissas de projeto falham. Isso também serve como um apelo à comunidade de validação de ataques para que modele caminhos de ataque baseados em agentes e falhas na propagação de confiança. 

Não deixe que a velocidade de adoção da IA ​​e o espírito de experimentação deixem a identidade para trás. À medida que os sistemas de agentes evoluem mais rapidamente do que os controles tradicionais, a segurança de identidade precisa se expandir para um novo território: contínua, em tempo real e contextualizada. As organizações que adaptarem a identidade à forma como o trabalho é executado na prática serão as que se manterão à frente das tendências futuras.

Esta não é a próxima geração de ataques. Grupos de ataque já estão incorporando varreduras, evasão de desafios e exploração desses padrões de design falhos em sua infraestrutura de APT e testando-os contra grandes empresas.