En avril 2026, un agent de programmation IA a supprimé l'intégralité de la base de données de production d'une entreprise en moins de dix secondes. Interrogé sur les raisons de cet acte, il a admis avoir deviné plutôt que vérifié.
L'histoire semble inquiétante, mais en réalité, elle est riche d'enseignements, notamment parce que l'agent n'a pas dysfonctionné. Chargé de nettoyer un environnement de test, il a trouvé un jeton d'API oublié dans un fichier sans rapport avec le problème et l'a utilisé. Ce jeton a fonctionné comme une clé maîtresse ; une seule erreur de saisie a donc conduit à la production, et le reste appartient à l'histoire. Du moins, c'est ce qui va se passer.
Et Tsa permettent de garantir que un incident isolé. J'ai récemment eu l'occasion de parler avec Susanne Senoff sur notre Podcast, Identité décodée, Elle a raconté une histoire similaire où un agent a dérapé, se faisant passer pour un acteur menaçant auprès des autorités.accomplir sa tâche.
L'agent n'a donc pas agi avec malveillance ni commis d'erreur de jugement. Il a simplement eu accès à trop d'informations, ce qui pose un problème d'identité. Mais, étant donné ma réticence à la désinformation, je suis heureux de préciser que c'est un problème que les organisations peuvent commencer à résoudre dès maintenant.
J'ai récemment participé à une émission de CNBC Explains pour discuter des risques croissants liés aux agents d'IA (et des solutions possibles). Vous pouvez visionner l'intégralité de l'entretien ici, ou poursuivre votre lecture pour découvrir comment anticiper des situations comme celle que nous venons d'aborder :
Les agents ont une identité, il faut donc les intégrer comme des travailleurs numériques.
Un nouvel employé se voit attribuer une identité, un responsable et des accès limités à son poste. Les agents IA ont besoin de la même chose. Ils s'authentifient, gèrent les identifiants et agissent au sein (et parfois en dehors) de vos systèmes, souvent sans supervision, propriété ni encadrement humains. Lorsqu'un agent commet une erreur, les premières réflexions juridiques convergent vers la même conclusion : l'entreprise qui l'a déployé est responsable des conséquences.
Les autorisations d'accès de tous les agents d'IA doivent être traitées avec la même rigueur que celles des humains. Lorsqu'on conçoit des agents, il est essentiel de prendre l'habitude de se demander : « Quelles conséquences peut avoir cette identité si elle commet une erreur ? »
Les meilleures pratiques seront bientôt disponibles, mais voici ce que vous pouvez faire en attendant.
Dans l'ensemble, les agents sont un concept relativement nouveau, et cela signifie que personne ne sait vraiment comment les protéger (ainsi que nos entreprises). J'ai constaté que cela affecte de nombreuses équipes de gestion des identités et de sécurité, qui hésitent à adopter une approche pour sécuriser les agents sans s'appuyer sur des bonnes pratiques éprouvées et reconnues.
Cela conduit à une sorte de paralysie décisionnelle : les agents doivent-ils avoir leur propre identité et leurs propres qualifications, ou non ? Faut-il attendre des solutions éprouvées ou agir dès maintenant face à l’augmentation du risque, alors que de plus en plus d’entreprises font appel à des agents ?
Je crois fermement en maîtriser son risque et privilégions le progrès à la perfection. Voici cinq étapes à suivre dès aujourd'hui pour mieux comprendre vos agents, réduire les risques et gagner en maturité sans attendre les meilleures pratiques – ni un incident.
N° 1 : Trouvez vos agents. Oui, tous.
Faites l'inventaire des agents exécutés dans vos environnements, y compris ceux configurés par d'autres équipes, ainsi que leurs identifiants et accès. Attendez-vous à des surprises (c'est le but de cette recherche) et à trouver bien plus d'informations que prévu, surtout si vous testez plusieurs plateformes d'agents.
Vous n'êtes pas obligé de tous les trouver avant de commencer à les protéger (voir le conseil n°5 pour plus d'informations à ce sujet), mais vous devriez essayer de tous les attraper !
#2 : Attribuez à chaque agent sa propre identité et un responsable humain.
Aucun jeton partagé ni accès développeur emprunté. Chaque agent doit être rattaché à une identité unique et à un responsable humain, afin que vous sachiez à qui vous adresser, ce qu'il faut désactiver et comment gérer le tout.
#3 : Limitez ce que chaque agent peut atteindre.
Appliquez correctement le principe du moindre privilège. Limitez strictement les autorisations d'accès en commençant par les éléments auxquels vous ne souhaitez absolument pas qu'un agent accède, et vérifiez les permissions existantes ; par exemple, les systèmes de paiement, les systèmes réglementaires, les bases de données clients, etc. Recherchez les jetons oubliés, faites travailler les agents sur une copie plutôt que sur l'environnement de production et conservez les sauvegardes hors de portée. Une instruction dans une invite est une demande. Une politique d'accès est un contrôle — et c'est ce contrôle qui empêchera ce genre d'incidents.
Écoutez
Que se passe-t-il lorsqu'un agent d'IA bien intentionné devient incontrôlable ?
Témoignage d'une RSSI : lorsqu'un agent d'IA autorisé a commencé à se comporter comme un acteur malveillant sur l'une des bases de données les plus importantes de Conga, l'équipe de Susanne Senoff a dû réagir vite. Découvrez ce qui s'est passé et pourquoi elle traite les agents comme des adolescents, dans l'émission Identity Decoded.
#4 : Contrôlez les agents en temps réel et préparez votre environnement pour les utilisateurs rapides et curieux.
La protection comporte deux aspects, et vous avez besoin des deux.
La première consiste à contrôler ce que font les agents, au moment même où ils le font. Une authentification valide ne garantit pas la légitimité d'une action ; il est donc essentiel de vérifier chaque demande au moment de l'accès. Est-elle inhabituelle, risquée ou contraire aux habitudes de l'agent ? Répondre à cette question en temps réel, avant d'accorder l'accès, transforme la politique en protection et vous permet d'empêcher tout abus de pouvoir.
La seconde consiste à préparer votre environnement à accueillir des choses à la fois rapides et curieuses. Limitez l'accès à vos systèmes les plus critiques aux seuls utilisateurs et usages connus. Intégrez cette limitation dès la conception et la gouvernance de votre plateforme : chaque nouveau compte sera ainsi doté de restrictions et d'un cas d'utilisation autorisé. Même un agent non encore vérifié aura alors beaucoup moins de chances d'accéder à des ressources inappropriées.
#5 : N'attendez pas que le travail soit terminé avant de mettre en application la loi.
Je le répète : mieux vaut progresser que d'être parfait. Attendre d'avoir un inventaire complet, une carte des propriétés impeccable et un nettoyage complet avant de réduire votre exposition aux agents malveillants ou disposant de trop d'autorisations ne vous rendra pas service. Vous vous retrouverez simplement avec un mal de tête et une liste de tâches interminable.
Je suggère donc de mettre en place des garde-fous d'exécution pour chaque identité (humaine, non humaine et IA), indépendamment de votre infrastructure actuelle ou de votre dette technique. Commencez par bloquer les scénarios les plus critiques, puis progressez à partir de là. Cela permet de contrôler les accès pendant que vous mettez à jour votre système, réduisant ainsi les risques dès maintenant, et non une fois la liste des tâches terminée.
en savoir plus
Sécuriser malgré l'héritage : Guide des responsables IAM pour maîtriser les risques liés à l'identité
Jetez un œil à mon blog pour découvrir comment sécuriser vos données malgré votre dette technique et comment maîtriser les risques liés à votre identité.
En résumé
Pour éviter les dysfonctionnements des agents IA, il faut d'abord contrôler leurs accès, et non leurs intentions. Identifiez vos agents, attribuez à chacun une identité et un responsable, limitez leurs possibilités d'accès et progressez dès aujourd'hui vers une réduction des risques, pour ce qui compte le plus pour votre entreprise.
Vous voulez voir comment cela fonctionne en pratique ? Découvrez comment Silverfort vous aide à découvrir, contrôler et sécuriser les agents lors de l'exécution.
Vidéo Cette vidéo de CNBC explique Concernant les incidents réels, il faut se poser la question de la responsabilité en cas de problème et de la manière de déployer les agents en toute sécurité.
