Détournement d'agents et déplacement latéral : Leçons tirées de la vulnérabilité de l'IA de ServiceNow

Leçons sur la sécurité de l'identité

Si vous êtes en train de construire/sécurisation/garderailingue agents, Voici mon point de vue sur le splusieurs identifiantsentité et Des schémas de défaillance du contrôle d'accès sont apparus avec une clarté inhabituelle, révélant la vulnérabilité avec laquelle ces agents et leurs identifiants/leur confiance ont été formés : 

Usurpation d'identité sans authentification

La plateforme acceptait les affirmations d'identité basées sur des identifiants faibles plutôt que sur une preuve cryptographique. Les adresses électroniques servaient de jetons d'identité, court-circuitant ainsi la validation de session, l'authentification multifacteur et les niveaux de sécurité. 

Élévation de privilèges et persistance 

Une fois l'usurpation d'identité réussie, les attaquants n'avaient plus besoin d'exploiter supplémentaire vulnérabilités. Ils ont utilisé des flux de travail légitimes pour créerle nouveau pcomptes privilégiés et modifier rôles, établissement persistance par le biais de modifications d'état autorisées plutôt que par des portes dérobées secrètes. 

abus de la logique métier et des flux de travail

La faille de sécurité reposait sur une automatisation approuvée fonctionnant exactement comme prévu. Flux de provisionnement, approbations et modifications de configuration réalisé En effet, sous une fausse identité. Cela a déplacé la surface d'attaque des failles du code vers les hypothèses de confiance intégrées à la logique métier.

abus de confiance entre agents

Les agents ont délégué leur autorité à d'autres agents sans revérifier leur identité ni leurs intentions. Ceci a engendré un scénario moderne de délégation de pouvoir confuse, où la confiance se propageait de manière transitive entre les agents, amplifiant ainsi l'impact d'une seule compromission d'identité.

Exécution de second ordre

Des contributions de faible confiance ont déclenché indirectement des actions à privilèges élevés par le biais d'interactions.médiation agents. La surface d'attaque ne résidait pas dans la manipulation de l'invite de commande ou du langage, mais dans le contexte d'exécution et l'autorité déléguée.

Détection et audit de l'érosion

Lorsque la couche d'identité elle-même a été compromise et que les attaquants ont continué à remonter le courant, des actions ont été entreprises. semblait être Activité légitime des utilisateurs. De ce fait, la surveillance traditionnelle basée sur l'identité et l'analyse comportementale ont perdu de leur pertinence. Ensemble, ces modèles démontrer que les systèmes agents érodent la sécurité traditionnelle superposition à moins que l'identité Les commandes sont L'application de ces mesures est continue, contextuelle et en temps réel. Lorsque l'identité est considérée comme une supposition plutôt que comme un contrôle, l'automatisation devient un facteur de compromission plutôt qu'un atout pour la sécurité. 

Conclusion : De la mauvaise configuration à la prochaine APT

Ce scénario d'attaque révèle une défaillance systémique dans la conception et l'exécution des agents d'IA, et non une faille isolée. Dans le flux d'interaction entre agents, l'identité était validée une seule fois, puis présumée indéfiniment. La confiance se propageait entre les agents et les flux de travail sans revalidation. Chaque décision semblait raisonnable prise individuellement, mais ensemble, elles formaient un chemin d'exécution non sécurisé. Il s'agit de vulnérabilités au niveau du flux, liées à la manière dont l'autorité circule dans les systèmes autonomes, compositionnels et de longue durée.

Le point aveugle n'est pas la qualité du code, mais la continuité de la confiance. Les organisations doivent rechercher les chemins de confiance non sécurisés, et pas seulement les erreurs de configuration. Les équipes IAM et de sécurité doivent partir du principe que ces erreurs se produiront et les mettre en œuvre. sécurité d'identité en temps réel Ainsi, les abus sont détectés et stoppés même lorsque les hypothèses de conception sont erronées. Il s'agit également d'un appel à la communauté de la validation des attaques pour qu'elle modélise les vecteurs d'attaques automatisées et les défaillances de propagation de la confiance. 

Ne laissons pas la rapidité d'adoption de l'IA et l'esprit d'expérimentation négliger la gestion des identités. Face à la vitesse supérieure des systèmes d'agents par rapport aux contrôles traditionnels, la sécurité des identités doit s'étendre à de nouveaux domaines : continu, en temps réel et contextuel. Les organisations qui adapteront la gestion des identités à la réalité du travail seront celles qui garderont une longueur d'avance sur l'avenir.

Il ne s'agit pas de la prochaine génération d'attaques. Les groupes d'attaquants intègrent déjà des techniques d'analyse, de contournement des défis et d'exploitation de ces failles de sécurité dans leur infrastructure APT et les testent contre de grandes entreprises.