Im April 2026 löschte ein KI-Programmieragent die gesamte Produktionsdatenbank eines Unternehmens in weniger als zehn Sekunden. Auf die Frage nach dem Grund gab er zu, geraten statt überprüft zu haben.
Die Geschichte klingt besorgniserregend, aber tatsächlich können wir viel daraus lernen – vor allem, weil der Agent nicht versagt hat. Er wurde beauftragt, eine Testumgebung aufzuräumen, fand ein vergessenes API-Token in einer anderen Datei und verwendete es. Dieses Token funktionierte wie ein Generalschlüssel, sodass ein falscher Versuch in die Produktionsumgebung gelangte, und der Rest ist Geschichte. Oder wird es zumindest bald sein.
Und Tseine ist nicht ein Einzelfall. Ich hatte kürzlich die Gelegenheit dazu Sprechen Sie mit Susanne Senoff auf unserem podcast, Identität entschlüsselt, Und sie erzählte eine ähnliche Geschichte, in der ein Agent abtrünnig wurde und für die Polizei wie ein Bedrohungsakteur aussah.seine Aufgabe erfüllen.
Der Agent handelte also nicht böswillig und traf auch keine Fehlentscheidung. Er hatte schlichtweg zu viel Zugriff, was zu einem Identitätsproblem führte. Da ich aber etwas allergisch auf Panikmache reagiere, freue ich mich, mitteilen zu können, dass Unternehmen dieses Problem jetzt angehen können.
Kürzlich habe ich mich mit CNBC Explains zusammengesetzt, um über die zunehmenden Risiken von KI-Agenten (und mögliche Gegenmaßnahmen) zu sprechen. Sie können den vollständigen Beitrag hier ansehen oder weiterlesen, um zu erfahren, wie ich solchen Entwicklungen zuvorkommen würde:
Agenten haben Identitäten, daher sollten sie wie digitale Mitarbeiter integriert werden.
Neue Mitarbeiter erhalten eine Identität, einen Vorgesetzten und auf ihre Aufgaben zugeschnittene Zugriffsrechte. KI-Agenten benötigen dasselbe. Sie authentifizieren sich, verwalten Zugangsdaten und agieren innerhalb (und manchmal außerhalb) Ihrer Systeme, oft ohne menschliche Aufsicht, Zuständigkeit oder Anleitung. Wenn ein Agent einen Fehler macht, deutet die rechtliche Einschätzung zunächst auf dasselbe hin: Das Unternehmen, das ihn eingesetzt hat, trägt die Verantwortung für die Folgen.
Die Zugriffsrechte aller KI-Agenten müssen mit der gleichen Strenge behandelt werden wie die von Menschen. Wenn wir über Agenten nachdenken, müssen wir uns angewöhnen, uns zu fragen: „Welche Folgen kann diese Identität haben, wenn sie einen Fehler macht?“
Die besten Vorgehensweisen werden folgen, aber hier ist, was Sie in der Zwischenzeit tun können.
Im Großen und Ganzen sind Agenten noch recht neu, und das bedeutet, dass niemand genau weiß, wie wir sie (und unsere Unternehmen) schützen sollten. Ich habe beobachtet, dass dies viele Identitäts- und Sicherheitsteams betrifft, die zögern, einen Ansatz zur Absicherung von Agenten zu wählen, ohne sich auf etablierte, bewährte Best Practices verlassen zu können.
Dies führt zu einer Art Analyse-Paralyse: Sollten Agenten über eigene Identitäten und Berechtigungsnachweise verfügen oder nicht? Sollte man auf bewährte Ansätze warten oder jetzt handeln, da das Risiko wächst – weil immer mehr Unternehmen Agenten einsetzen?
Ich bin ein fester Anhänger von Ihr Risiko beherrschen Fortschritt steht im Vordergrund, Perfektion ist wichtiger. Hier sind fünf Schritte, die Sie noch heute unternehmen können, um Ihre Mitarbeiter besser zu verstehen, Risiken zu minimieren und ihre Kompetenzen auszubauen, ohne auf bewährte Verfahren oder einen Zwischenfall warten zu müssen.
#1: Finden Sie Ihre Agenten. Ja, alle.
Erstellen Sie eine Bestandsaufnahme der in Ihren Umgebungen laufenden Agenten, einschließlich der von anderen Teams eingerichteten, sowie der jeweiligen Anmeldeinformationen und Zugriffsrechte. Seien Sie auf Überraschungen gefasst (genau darum geht es ja bei der Bestandsaufnahme) und erwarten Sie deutlich mehr zu finden als erwartet, insbesondere da Sie wahrscheinlich mit mehreren Agentenplattformen experimentieren.
Sie müssen nicht jeden einzelnen finden, bevor Sie mit dem Schutz beginnen (siehe Tipp Nr. 5 für weitere Informationen), aber Sie sollten versuchen, sie alle zu erwischen!
#2: Jedem Agenten sollte eine eigene Identität und ein menschlicher Besitzer zugewiesen werden.
Keine gemeinsam genutzten Token oder geliehenen Entwicklerzugriffe. Jeder Agent sollte einer eindeutigen Identität und einem verantwortlichen Mitarbeiter zugeordnet werden können, damit Sie wissen, wen Sie fragen müssen, was Sie deaktivieren müssen und wie Sie die Verwaltung vornehmen.
#3: Begrenzen Sie den Aktionsradius jedes Agenten.
Wenden Sie das Prinzip der minimalen Berechtigungen konsequent an. Beschränken Sie die Zugriffsrechte streng, indem Sie mit den Systemen beginnen, auf die Agenten unter keinen Umständen zugreifen dürfen, und überprüfen Sie bestehende Berechtigungen, z. B. für Zahlungssysteme, regulatorische Systeme, Kundendatenbanken usw. Suchen Sie nach vergessenen Tokens, lassen Sie Agenten mit einer Kopie anstatt mit der Produktionsumgebung arbeiten und bewahren Sie Backups außerhalb der Reichweite von Benutzern auf. Eine Anweisung in einer Eingabeaufforderung ist eine Anfrage. Eine Zugriffsrichtlinie ist eine Kontrollmaßnahme – und sie verhindert solche Vorfälle.
Zuhören
Was passiert, wenn ein gutmeinender KI-Agent außer Kontrolle gerät?
Eine CISO berichtet: Als ein autorisierter KI-Agent auf einer der wichtigsten Datenbanken von Conga wie ein Angreifer agierte, musste Susanne Senoffs Team schnell handeln. Erfahren Sie in „Identity Decoded“, was geschah und warum sie Agenten wie Teenager behandelt.
#4: Kontrollieren Sie Agenten zur Laufzeit und bereiten Sie Ihre Umgebung auf die Schnellen und Neugierigen vor.
Schutz hat zwei Seiten, und man braucht beide.
Die erste Möglichkeit besteht darin, zu kontrollieren, was die Agenten tun, während sie es tun. Gültige Anmeldeinformationen garantieren nicht die Rechtmäßigkeit einer Aktion. Daher müssen Sie jede Zugriffsanfrage sofort prüfen. Ist sie ungewöhnlich, riskant oder untypisch für den Agenten? Indem Sie diese Frage direkt vor der Zugriffsgewährung beantworten, schützen Sie die Richtlinie und verhindern, dass ein Agent seine Befugnisse überschreitet.
Die zweite Möglichkeit besteht darin, Ihr Umfeld so zu gestalten, dass es sowohl schnell als auch spannend ist. Sperren Sie Ihre wichtigsten Systeme ausschließlich für bekannte Benutzer und deren Nutzungsmuster. Integrieren Sie dies in die Plattformentwicklung und -verwaltung, sodass jedes neue Konto von vornherein mit Einschränkungen und einem akzeptierten Anwendungsfall versehen ist. Selbst ein noch nicht überprüfter Mitarbeiter kann so deutlich seltener auf unzulässige Bereiche zugreifen.
#5: Warten Sie nicht, bis die Arbeiten abgeschlossen sind, bevor Sie die Durchsetzung aktivieren.
Ich wiederhole es noch einmal: Fortschritt ist wichtiger als Perfektion. Warten Sie nicht, bis Sie ein vollständiges Inventar, eine fehlerfreie Besitzkarte und alle Aufräumarbeiten abgeschlossen haben, bevor Sie Ihr Risiko durch unkontrollierte oder übermäßig berechtigte Agenten reduzieren. Das bringt Ihnen nur Kopfzerbrechen und eine endlose To-do-Liste.
Daher empfehle ich, für jede Identität – ob menschlich, nicht-menschlich oder KI – Laufzeit-Schutzmechanismen einzuführen, unabhängig von Ihrer aktuellen Konfiguration oder Ihren technischen Schulden. Konzentrieren Sie sich zunächst darauf, die schlimmsten Szenarien zu verhindern und gehen Sie dann schrittweise vor. So behalten Sie den Zugriff unter Kontrolle, während Sie die bestehenden Probleme beheben, und minimieren das Risiko jetzt, nicht erst, wenn die To-do-Liste abgearbeitet ist.
mehr erfahren
Sicherheit trotz Altlasten: Der Leitfaden für IAM-Verantwortliche zur Kontrolle von Identitätsrisiken
Schauen Sie sich meinen Blog an und erfahren Sie, wie Sie trotz Ihrer technischen Schulden Sicherheit erlangen und Ihr Identitätsrisiko in den Griff bekommen.
Unter dem Strich
Um Fehlfunktionen von KI-Agenten zu verhindern, ist der Zugriff entscheidend, nicht die Absicht. Identifizieren Sie Ihre Agenten, weisen Sie jedem eine Identität und einen Verantwortlichen zu, beschränken Sie deren Zugriffsrechte und reduzieren Sie so Ihr Risiko – heute und für das, was Ihrem Unternehmen am wichtigsten ist.
Möchten Sie sehen, wie das in der Praxis funktioniert? Finden Sie heraus, wie es geht Silverfort Hilft Ihnen dabei, Agenten zur Laufzeit zu entdecken, zu steuern und zu sichern.
Ansehen Dieses Video mit CNBC erklärt Bei realen Vorfällen stellt sich die Frage nach der Haftung im Falle eines Fehlers und nach der sicheren Durchführung des Einsatzes von Einsatzkräften.
