Agentenübernahme und laterale Bewegung: Lehren aus der ServiceNow-KI-Schwachstelle

Lektionen zur Identitätssicherheit

Wenn Sie sich im Workflow des Aufbaus/Sicherung/guardraiLeng Agenten, Hier ist meine Meinung dazu smehrere IDsEntität und Die Muster von Zugriffskontrollfehlern traten mit ungewöhnlicher Deutlichkeit in der anfälligen Art und Weise zutage, wie diese Agenten und ihre Anmeldeinformationen/ihr Vertrauen aufgebaut wurden: 

Identitätsdiebstahl ohne Authentifizierung

Die Plattform akzeptierte Identitätsnachweise auf Basis schwacher Identifikatoren anstelle kryptografischer Beweise. E-Mail-Adressen dienten als Identitätstoken und umgingen so die Sitzungsvalidierung, die Multi-Faktor-Authentifizierung und die Sicherheitsstufen vollständig. 

Privilegienausweitung plus Persistenz 

Sobald die Identitätsfälschung erfolgreich war, mussten die Angreifer keine weiteren Sicherheitslücken ausnutzen. zusätzlich Sicherheitslücken. Sie nutzten legitime Arbeitsabläufe, um diese zu erstellen.te new privalisierende Berichte und ändern Rollen, Festlegung Durch Beharrung mittels autorisierter Zustandsänderungen statt durch verdeckte Hintertüren. 

Missbrauch von Geschäftslogik und Arbeitsabläufen

Der Angriffspfad beruhte darauf, dass genehmigte Automatisierungsprozesse exakt wie vorgesehen funktionierten. Bereitstellungsabläufe, Genehmigungen und Konfigurationsänderungen ausgeführt Korrekterweise geschieht dies unter falscher Identität. Dadurch verlagerte sich die Angriffsfläche von Codefehlern hin zu Vertrauensannahmen, die in der Geschäftslogik verankert sind.

Missbrauch des Vertrauensverhältnisses zwischen Agenten

Die Agenten delegierten Befugnisse an andere Agenten, ohne deren Identität oder Absicht erneut zu überprüfen. Dadurch entstand ein modernes Szenario, in dem sich das Vertrauen zwischen den Agenten ausbreitete und die Auswirkungen eines einzelnen kompromittierten Identitätskontexts verstärkte.

Ausführung zweiter Ordnung

Eingaben mit geringem Vertrauen lösten indirekt über zwischengeschaltete Interaktionen Aktionen mit hohem Privileg aus.Vermittler Agenten. Die Angriffsfläche bestand nicht in der Manipulation von Reaktionsfähigkeit oder Sprache, sondern im Ausführungskontext und der delegierten Autorität.

Aufdeckung und Prüfungserosion

Als die Identitätsschicht selbst kompromittiert wurde und die Angreifer immer weiter nach oben vordrangen, waren folgende Maßnahmen erforderlich: schien zu sein Legitime Nutzeraktivitäten. Infolgedessen verloren herkömmliche identitätsbasierte Überwachungsmethoden und Verhaltensanalysen an Zuverlässigkeit. Zusammen ergeben diese Muster zeigen dass agentenbasierte Systeme die traditionelle Sicherheit untergraben Schichtung, es sei denn, die Identität Die Bedienelemente sind Die Durchsetzung erfolgt kontinuierlich, kontextbezogen und zur Laufzeit. Wird Identität als Annahme statt als Kontrollmechanismus behandelt, beschleunigt die Automatisierung Sicherheitslücken, anstatt die Sicherheit zu erhöhen. 

Fazit: Von der Fehlkonfiguration zum nächsten APT

Dieser Angriffsablauf offenbart einen systemischen Fehler im Design und der Ausführung von KI-Agenten und nicht nur eine einzelne Schwachstelle. Im Interaktionsablauf der Agenten wurde die Identität einmalig validiert und anschließend dauerhaft angenommen. Vertrauen wurde ohne erneute Validierung zwischen Agenten und Workflows weitergegeben. Jede einzelne Entscheidung erschien für sich betrachtet plausibel, doch zusammen bildeten sie einen unsicheren Ausführungspfad. Es handelt sich hierbei um Schwachstellen auf Ablaufebene, die darin begründet liegen, wie Autorität in langlebigen, autonomen und kompositionellen Systemen weitergegeben wird.

Der blinde Fleck ist nicht die Codequalität, sondern die Vertrauenskontinuität. Organisationen müssen unsichere Vertrauenspfade erkennen, nicht nur Fehlkonfigurationen. IAM- und Sicherheitsteams müssen davon ausgehen, dass solche Fehler auftreten werden, und entsprechende Maßnahmen ergreifen. Laufzeitidentitätssicherheit Missbrauch wird somit auch dann erkannt und gestoppt, wenn die Designannahmen nicht erfüllt sind. Dies ist zugleich ein Aufruf an die Community der Angriffsvalidierung, agentenbasierte Angriffspfade und Fehler bei der Vertrauensweitergabe zu modellieren. 

Lassen Sie nicht zu, dass die rasante Verbreitung von KI und der Experimentiergeist die Identitätssicherheit vernachlässigen. Da sich agentenbasierte Systeme schneller entwickeln als herkömmliche Kontrollmechanismen, muss die Identitätssicherheit neue Wege beschreiten: kontinuierlich, in Echtzeit und kontextbezogen. Organisationen, die die Identitätssicherheit an die tatsächlichen Arbeitsabläufe anpassen, werden den zukünftigen Entwicklungen einen Schritt voraus sein.

Dies ist nicht die nächste Generation von Angriffen. Angreifergruppen integrieren bereits Scanning, Umgehung von Sicherheitsabfragen und Ausnutzung dieser fehlerhaften Designmuster in ihre APT-Infrastruktur und testen diese gegen große Unternehmen.