Identité décodée — Transcription de Sean O'DellSean O'Dell :[00: 00: 00]
Si vous n'intégrez pas l'identité comme première directive dans tout ce qui concerne l'agentivité, vous passez à côté de l'essentiel.
Rob Ainscough :
Quel est selon vous le rôle d'Identity dans la réalisation de la révolution de l'agentivité ?
Sean O'Dell :
Avec l'avènement de l'agent et de l'identité, l'approche doit être centrée sur le produit. C'est indispensable. Il ne s'agit pas d'un service géré, ni d'un programme, mais d'un produit.
Sean O'Dell :
Que faire maintenant ? Choisir une équipe, un cas d’usage, et fournir une identité d’agent vérifiée. Un seul. Si vous résolvez un cas d’usage, vous avez un client.
Rob Ainscough :
Bienvenue dans Identity Decoded, en direct d'Identiverse. Enfin, pas vraiment en direct pour un podcast enregistré, mais en direct d'Identiverse avec l'incontournable Sean O'Dell, alias Sean O'Dentity. Bienvenue !
Sean O'Dell :
Plaisir d'être ici.
Rob Ainscough :
Bienvenue. Ravi de vous avoir parmi nous. Alors, aujourd'hui, nous allons parler d'un sujet peu abordé, n'est-ce pas ?
Rob Ainscough :
On va parler d'agentique. Je ne crois pas que quiconque en parle en ce moment, n'est-ce pas ?
Sean O'Dell :
Non. C'est le slogan à double tranchant le plus populaire du moment.
Rob Ainscough :
Ouais. Je suis là depuis un jour seulement et je n'ai vu personne en parler… ni même en discuter.
Sean O'Dell :
Nope.
Rob Ainscough :
Pas du tout. Mais on va quand même se pencher sur la question, n'est-ce pas ?
Rob Ainscough :
Nous allons tenter de comprendre le rôle de l'identité dans cette révolution de l'agentivité. Et aussi, un peu, comment on s'y prend. C'est un changement majeur pour nous, les praticiens. Un changement important qu'il nous faut comprendre, alors nous allons l'explorer en profondeur.
Sean O'Dell :
Ouais. Ça te va ? Plongeons-nous dedans. Faisons-le. Génial.
Rob Ainscough :
Pour commencer, Sean, parle-nous un peu de toi, de ton parcours, de ton expérience à Identiverse cette année, et nous verrons ensuite.
Sean O'Dell :
Alors, Sean O'Dell. Je travaille pour un grand groupe de santé et de distribution, où je suis responsable de la gestion des identités et des accès (IAM), des identités des consommateurs et des agents, ainsi que de la sécurité des accès. Mon parcours est très intéressant. J'ai travaillé dans les secteurs de la santé, de la logistique et de l'ingénierie, et le principe commun était que les utilisateurs ont besoin d'accéder aux ressources. J'ai également créé des sites web avec des systèmes de gestion de contenu (CMS), donc c'était très…
Sean O'Dell :
Comme à l'époque du .NET, avec le principe utilisateur et le .quelque chose. Du coup, je me suis dit : « Tiens, c'est plutôt intéressant. » Et puis ils me demandent toujours : « Vous pouvez nous en créer un sur mesure ? » Et je réponds : « Bien sûr. Pourquoi pas ? Allons-y ! » Mais c'était toujours une histoire de principe, d'identité et de contexte, et je me disais : « Hmm, d'accord. » Et puis j'ai réalisé : « Je crois que je fais de la gestion des identités et des accès ? »
Sean O'Dell :
Le tournant décisif est arrivé quand j'ai décroché un boulot chez Walt Disney Company. Ils m'ont dit : « On a besoin que tu fasses de la rétro-ingénierie sur ce truc, c'est basé sur une autorisation, et que tu le construises. » Et j'ai répondu : « Ça pourrait être sympa. »
Rob Ainscough :
Sympa. Oh oui.
Sean O'Dell :
Et puis, on entre dans le monde du « bien faire », on vous sert une plus grande assiette. Puis on vous en met une autre en dessous et on vous apporte encore des spaghettis. Puis une plus grande assiette, et là, on vous sert des boulettes de viande, et vous vous dites : « Ça suffit ! J’en ai assez ! » Et ils vous répondent : « Non, non, non. Je suis rassasié. Encore ! » Et ils vous disent : « Vous êtes rassasié ? Attendez une heure. »
Sean O'Dell :
« Plus de nourriture. » Donc, c'est l'espace le plus complexe intellectuellement.
Rob Ainscough :
Oui.
Sean O'Dell :
On ne résout jamais deux fois le même problème. Oui… à cause de la diversité des intervenants : fournisseurs, intégrations, conception, activités commerciales, et bien d’autres choses encore…
Rob Ainscough :
Mm…
Sean O'Dell :
Une grande partie de ce que je vois, et je vais l'intégrer à mon parcours, à l'évolution actuelle, c'est que… ceci n'est pas lié à l'IA, c'est un phénomène général.
Sean O'Dell :
De nombreuses entreprises recherchent des profils polyvalents. Il ne s'agit pas simplement de dire : « Je suis ingénieur Java. » C'est bien beau, bien sûr… mais elles veulent des compétences en produit, en contexte, en affaires et en ingénierie. Si vous devez interagir avec quelqu'un, elles ne veulent plus de ça.
Sean O'Dell :
Ils veulent que vous maîtrisiez le langage, le jargon, le jargon technique… et que vous passiez ensuite à l'action. C'est intéressant. Dans mon poste actuel, j'adore ma direction. Elle est formidable. Elle me donne une totale autonomie pour présenter des projets, les réaliser, prototyper, concevoir et développer, et c'est vraiment génial.
Sean O'Dell :
Génial ! Waouh !
Roy Akerman :
Génial ! On dirait un poste axé sur le produit, non ? Il faut comprendre l'entreprise, ses services. Observez-vous des différences dans votre travail sur l'identité visuelle selon les secteurs d'activité, par exemple entre un prestataire de soins de santé et un fournisseur de divertissement ?
Roy Akerman :
Des différences énormes, ou au final, le même schéma, la même technologie ?
Sean O'Dell :
Ce sont les mêmes problèmes, mais à une échelle et avec des conséquences différentes. Oui. La différence se situe au niveau du divertissement : vous ne pouvez rien regarder. Au niveau des soins de santé : vos médicaments ne sont pas délivrés. Non, vous ne recevez pas… C’est bien ça ?
Sean O'Dell :
La plupart des domaines et des secteurs d'activité ne maîtrisent toujours pas les méthodes traditionnelles de gestion des identités et des accès (IAM).
Roy Akerman :
Droite.
Sean O'Dell :
L'IA comprime donc tout cela, elle réduit ce laps de temps à des années qui se comptent désormais en mois… peut-être même en semaines. Parce que chaque semaine, on se réveille et on se dit : « Tiens, il s'est passé quelque chose. Super ! »
Rob Ainscough :
Mm.
Sean O'Dell :
Du coup, ça comprime de plus en plus et les choses se resserrent, et on a l'impression de courir après une bulle.
Sean O'Dell :
Et ce n'est pas une question de savoir quand ça va éclater, c'est plutôt : « Hé, on continue de presser la bulle. » Ouais. Ça va éclater.
Rob Ainscough :
Mm.
Sean O'Dell :
Et ça va être… Ce n'est pas la fin du monde, Skynet va débarquer et, genre… Putain
Roy Akerman :
le
Sean O'Dell :
Oui.
Roy Akerman :
Oui. Mais, mais je pense…
Sean O'Dell :
Quelques années. Peu
Roy Akerman :
Des années. Oui, quelques années. Mais il y a donc une belle opportunité de corriger ce que nous avons déjà fait. Oui.
Roy Akerman :
sur un terrain instable. Et il y a là une opportunité de bien construire la prochaine phase de problèmes auxquels nous devons faire face. Exactement. Ce qui nous amène à l'agentivité, dont nous essayons de parler aujourd'hui, n'est-ce pas ?
Rob Ainscough :
Oui, tout à fait. Donc, en termes d'agentivité, comme vous le voyez… Nous avons déjà évoqué les difficultés rencontrées par le passé, et nous les approfondirons par la suite.
Rob Ainscough :
Mais en ce qui concerne cette révolution active, elle se déroule sous nos yeux. Pas une révolution ?
Sean O'Dell :
Non. Tu devrais déposer la marque. Ma-ma-fais-en un t-shirt.
Roy Akerman :
Ouais. C'est génial. Évolution rapide. Ouais.
Rob Ainscough :
Évolution rapide. Donc, en termes d'agentivité et d'identité, quel est selon vous l'élément fondamental qui compte ?
Rob Ainscough :
Quel est, selon vous, le rôle de l'identité dans la réalisation de la révolution de l'agentivité ?
Sean O'Dell :
C'est une notion très récente, comme vous venez de le dire, car… Oui… beaucoup de gens l'envisagent encore de manière traditionnelle. Et pour faire évoluer les mentalités, il faut éviter de considérer l'identité comme une directive primordiale dans tout ce qui touche à l'agentivité.
Rob Ainscough :
Mm-hmm
Sean O'Dell :
Vous ratez le coche parce que… Mm-hmm… l’identité est tellement essentielle pour susciter le sentiment de droit, de sécurité, d’intention, tous ces jolis mots à la mode…
Rob Ainscough :
Ouais …
Sean O'Dell :
Tout le monde se précipite tellement sur le marketing qu'il y a un vrai sentiment de FOMO (peur de rater quelque chose) que je dois… Ouais… je dois me constituer un agent. J'ai… est-ce vraiment un agent, ou est-ce juste une charge de travail ?
Sean O'Dell :
S'agit-il simplement d'une tâche cron ? Avez-vous juste cette tâche ponctuelle qui doit s'exécuter ?
Rob Ainscough :
Mm-hmm.
Sean O'Dell :
Donc même avec ça, cela étant dit… Cuisiner un agent à, je dirais à la naissance… Oui… mais à la création.
Rob Ainscough :
Oui.
Sean O'Dell :
Si vous faites cela, cela quantifie que 80 % de vos problèmes en aval sont résolus, car beaucoup de choses se passent avec, avec agentic star, toutes ces choses-
Rob Ainscough :
Oui
Sean O'Dell :
si vous n'avez pas de justificatif de provenance ou de vérification à la naissance-
Rob Ainscough :
Ouais …
Sean O'Dell :
On ne sait pas vraiment ce qui est légitime et ce qui ne l'est pas. Et même en faisant la distinction entre acteurs légitimes, on peut avoir des conséquences néfastes, comme des menaces internes. Oui. Mais si on ne définit pas ces limites, on va dépenser une fortune à essayer de contrôler quelque chose qui n'a pas de limites.
Roy Akerman :
Alors, double-cliquons dessus. Voilà les limites, les garde-fous, les frontières que nous essayons de définir. Oui. Mais au final, la définition d'agent et d'identité d'agent est… nébuleuse… vague.
Sean O'Dell :
Oui.
Roy Akerman :
Car à la naissance, c'est une chose, puis cela évolue, puis cela développe ses propres capacités.
Roy Akerman :
Bien. Nous avons les consommateurs, c'est-à-dire les personnes qui l'utilisent. Bien. Nous avons d'autres acteurs qui l'utilisent. Nous avons les outils qu'il utilise. Oui. Nous avons les plans, nous avons la justification. Comment définir l'identité d'un acteur, si tant est que ce soit possible ? Ou comment construire un cadre autour de la notion d'identité lorsqu'il s'agit d'acteurs ?
Roy Akerman :
Je sais que c'est une grande question. Allez, continuez. Voyons voir. Voyons comment on gère ça. Vous ne savez pas.
Sean O'Dell :
Disons. Dois-je te payer 20 $ demain ?
Roy Akerman :
pour la chose d'aujourd'hui ?
Sean O'Dell :
Non, tout comme
Roy Akerman :
Je prends des notes. Je vais construire quelque chose ensuite. Prends mon… Je t'ai compris.
Sean O'Dell :
Oui, c'est vrai. J'en ai parlé dans un article de blog que j'ai publié, et c'est mon opinion personnelle, pas celle de mon employeur.
Sean O'Dell :
Ça sort de mon cerveau de dingue… et de mes cheveux en bataille. Mon identité est en pleine mutation, et je vais… je vous promets que j'irai quelque part avec ça. On mélange les mots gouvernance, confiance, identité, accès, intentions, autorisation, mission, périmètre, échelle, alors qu'en réalité, on construit un cadre de confiance.
Sean O'Dell :
Mais il y a tellement de domaines qu'on est, littéralement, à nouveau en train de les fusionner… j'adore ça, de les fusionner. Je pense que la question de l'identité est moins importante en ce moment, car on est tous à la recherche de quelque chose, mais plutôt : « Quelle est l'identité d'un agent ? » C'est tellement éphémère, on n'a personne, est-ce que c'est une simple liste de matériel ?
Rob Ainscough :
Droite.
Sean O'Dell :
Est-ce que je suis une machine qui fait office de cluster Kubernetes ou d'agent s'exécutant dans une charge de travail cloud ?
Sean O'Dell :
Je m'intéresse davantage aux identifiants des agents.
Rob Ainscough :
Droite. '
Sean O'Dell :
Car si vous avez des identifiants, vous pouvez les classer en identités, n'est-ce pas ? Donc, je n'aime pas comparer des non-… Ou je n'aime pas comparer des machines ou des agents à des humains, car c'est comme comparer un steak et du beurre de cacahuète, vous voyez ?
Rob Ainscough :
Mm.
Sean O'Dell :
J'aime les deux, mais je ne veux pas de beurre de cacahuète pour le dîner.
Sean O'Dell :
Je veux un steak pour le dîner, parce qu'à Vegas, un steak, c'est un régal, pas vrai ? Donc, les identifiants ont une importance, car il faut un identifiant stable à la naissance.
Rob Ainscough :
Mm-hmm.
Sean O'Dell :
Numéro d'identification sociale.
Rob Ainscough :
Yep.
Sean O'Dell :
Des concepts similaires, n'est-ce pas ? Mais la différence entre l'évolution naturelle d'un agent et celle d'un être humain n'est pas si importante.
Sean O'Dell :
Donc si je passe de l'enfance à l'adolescence, puis à l'âge adulte, et enfin au monde professionnel, je reste Sean, avec un compte social.
Rob Ainscough :
Yep.
Sean O'Dell :
Mais je joue un rôle, je joue un rôle, comme Sean est un père, un mari, un travailleur. Donc, quand vous et vos agents avez des identifiants, le déroulement naturel des actions de votre agent ne devrait pas changer votre
Rob Ainscough :
identifiant.
Rob Ainscough :
Se mettre d'accord.
Sean O'Dell :
Mais cela change votre identité, astérisque… Intéressant… étoile, dollar, tilde, il y a beaucoup de réserves à ce sujet. Mm. Et encore une fois, c'est très ésotérique, très naissant, et nous allons probablement nous tromper sur la moitié et nous dire ensuite : « Waouh, il y a six mois, à quoi pensions-nous ? » Pas vrai ? Mais en réalité, le niveau de profondeur de l'identité et de l'agent, il y a, il y a sept couches de profondeur, si vous voulez.
Sean O'Dell :
Hmm. J'allais utiliser un autre mot, mais bon, on essaie d'être politiquement correct, hein ? Bref, il y a sept niveaux : l'identifiant, l'authentification, la transaction. On ne peut plus utiliser les termes « intention » ou « portée », car ils sont surchargés. Et puis il y a la tâche, c'est ça ?
Rob Ainscough :
Oui.
Sean O'Dell :
Ensuite, il y a l'instance de la tâche. Mm-hmm. Ensuite, il y a ce que j'essaie de faire avec, et il va falloir, pour avoir une assurance de bout en bout, construire une identité, écoutez-moi bien, dès le début, car il y a les auditeurs, la gouvernance, les risques, le service juridique.
Sean O'Dell :
Vous avez tellement de choses que si vous n'avez pas une trace complète de l'ensemble...
Rob Ainscough :
Ouais …
Sean O'Dell :
Comment sais-tu ce qui s'est passé ?
Rob Ainscough :
Yep.
Sean O'Dell :
Par où cela commence-t-il ? À la porte.
Rob Ainscough :
Oui.
Sean O'Dell :
Il faut donc une vérification et une autorisation à l'entrée. Oui. Et beaucoup de grandes entreprises et de grands fournisseurs disent : « Oui, on s'en occupe. »
Sean O'Dell :
Et je me dis : « Super. Donc, moins de tergiversations. Travaillons tous ensemble, car si l'entreprise A et le fournisseur de services cloud B ne s'accordent pas sur une norme… »
Rob Ainscough :
Mm…
Sean O'Dell :
Les entreprises vont développer, créer et héberger leurs applications chez différents fournisseurs et sur différentes plateformes. C'est inhérent au fonctionnement des grandes entreprises.
Rob Ainscough :
Oui.
Sean O'Dell :
Alors, comment puis-je, en tant qu'entreprise, savoir si je suis présent dans les zones A et B, et comment savoir si mes agents y sont enregistrés ? C'est comme si on utilisait des identifiants numérotés de un à cinq, un GUID. Comment diable cela fonctionne-t-il ? Bref, ce que j'essaie de souligner, c'est que les normes et l'interopérabilité sont essentielles au bon fonctionnement de tout cela.
Roy Akerman :
Je dirai juste une chose à ce sujet. Il y a l'identifiant, et puis il y a beaucoup d'attributs qui changent constamment. Donc, cette identité est dynamique, n'est-ce pas ? Oui. Une identité en constante évolution, une sorte de définition. Je comprends…
Sean O'Dell :
Ma langue. Absolument.
Roy Akerman :
Je comprends. Je vais donc insister sur l'importance des collaborations que vous évoquez.
Roy Akerman :
Et bien sûr, il nous manque des normes, et nous constatons les difficultés liées à l'élaboration de différentes normes. Laissons cela de côté un instant. Nous aurons peut-être le temps d'en parler. Quel est le point numéro un… S'il vous plaît, ne dites pas « identifiants ». Quel est le point numéro un que vous n'obtenez pas de la plupart des fournisseurs aujourd'hui et que vous souhaiteriez obtenir ? Quel est le point sur lequel vous souhaiteriez qu'ils se réunissent et disent : « Voilà comment on entame la première phase. »
Roy Akerman :
Nous sommes encore en train de régler le reste, mais voici quelque chose sur lequel on peut compter.
Sean O'Dell :
Je n'utiliserai pas le terme « identifiant ». Choisissez une norme de référence pour définir un identifiant.
Roy Akerman :
Une norme pour l'identifiant ?
Sean O'Dell :
Oui.
Roy Akerman :
Bien.
Sean O'Dell :
Et ce que j'essaie d'expliquer, c'est que certains utilisent leurs propres solutions, d'autres utilisent des jetons basés sur JWT, d'autres encore utilisent SPIFFE, certains vont utiliser WMSI, et d'autres enfin vont utiliser une solution propriétaire.
Sean O'Dell :
Choisissez-en un ou autorisez-les tous.
Rob Ainscough :
Oui, non, je crois que ce que j'ai observé ici et lors de mes conversations avant la conférence est vraiment intéressant : on constate une variabilité croissante dans les produits et les technologies que les entreprises utilisent pour donner vie à l'agentivité.
Rob Ainscough :
Je vois des gens miser sur plusieurs chevaux, et même sur des chevaux différents. On observe une situation très fragmentée, loin d'être stable en termes de tendances. Oui. Je ne l'avais pas remarqué jusqu'à ces dernières semaines. Cette fragmentation ne fait que s'accentuer, et il va falloir qu'on s'attaque à la question de l'identité des parieurs.
Sean O'Dell :
sommet de.
Sean O'Dell :
C'est tous les jours. Oui. C'est tous les jours. Je suis là, à pleurer. Je me dis : « Oh mon Dieu, encore un ! » C'est comme le paradis sur terre.
Roy Akerman :
D'accord. Entièrement d'accord.
Sean O'Dell :
En tant que fournisseurs, ils laissent suffisamment de latitude pour dire : « Voilà. Allez-y et conquérez. » Mais une grande partie de ce qui est proposé se résume à : « Appuyez sur OK. Faites-nous confiance. À quoi cela ressemble-t-il ? »
Sean O'Dell :
Car si on y regarde de plus près, il s'agit d'une sécurité basée sur le consentement. Et je ne parle pas d'un consentement donné au nom d'un agent utilisateur. Je parle d'un consentement basé sur le consentement, du genre : « Oui, consultez l'accord, consultez les conditions. Vous pouvez y aller. Notre système est sécurisé. » Mais en réalité, comment savoir si ce que vous saisissez ou ce que vous faites est correctement protégé afin de n'accéder qu'aux données que vous souhaitez ?
Sean O'Dell :
C'est donc un terme très nébuleux que de dire : « Veuillez nous donner accès et autorisation. » C'est la prochaine étape, le jeu de mots est voulu. C'est l'aspect le plus complexe de l'agentic actuellement. Les identifiants, on trouvera une solution. Il y a une dizaine de choses, j'exagère un peu… c'est une grosse exagération, mais c'est la partie facile.
Sean O'Dell :
Donc, authentification, puis identifiant, c'est bon. Ça va se faire…
Roy Akerman :
Donc des identifiants et ensuite des points de contrôle dans le raisonnement avant l'exécution - Compris… avant les outils, des choses comme ça - Oui,
Sean O'Dell :
ouais …
Roy Akerman :
Cela deviendra la norme. Donc, vous souhaitez un contrôle plus précis.
Sean O'Dell :
Correct …
Roy Akerman :
sur ce paquet qui- Exactement… est sur le point d’exécuter un plan non déterministe.
Sean O'Dell :
Exact. OK, super. Mais il vous faut… Il vous faut une autorisation préalable avant de pouvoir l'obtenir, car il y a bien plus que de la technologie et des normes à prendre en compte. Il y a des implications financières.
Rob Ainscough :
Oui.
Sean O'Dell :
Il faut le savoir dès le départ, et par « départ », on entend avant même d'entamer un LLM, parce qu'après, c'est comme…
Roy Akerman :
Oui
Sean O'Dell :
Dépenser. Il faut savoir, hé, est-ce que ça a l'air correct ?
Roy Akerman :
Donc, oui, je pense que notre public – et c'est pourquoi Rob est là, pour garder les pieds sur terre – se dit : « Oui, il manque beaucoup de pièces. Il y a beaucoup de lacunes. Que faisons-nous ? Personne n'attend. Tout le monde se précipite pour créer des tas d'agents et apporter des solutions à son organisation. »
Roy Akerman :
Supposons que seulement 50 % de ces données soient des logiciels traditionnels développés par des agents (et nous les appelons « agents », alors qu'ils n'en sont pas vraiment), n'est-ce pas ? Le reste nous submerge, et nous devons laisser les gens faire leur travail, n'est-ce pas ? Oui. Nous devons faire plus avec moins, etc. Alors, par où commencer ? Rob, nous…
Roy Akerman :
Beaucoup de gens sont venus à notre stand. Beaucoup sont venus nous parler pour nous demander : « Alors, par quoi commencer ? » S’il vous plaît, ne revenez pas avec la réponse : « D’abord, la visibilité, ensuite ceci, puis cela. » Ça ne marche pas, ce n’est pas évolutif, et… hum… s’il vous plaît, ne dites pas l’autre chose, que les agents IA viendront nous sauver des autres agents IA, n’est-ce pas ?
Roy Akerman :
Ça n'arrivera pas. Ça n'arrivera pas.
Rob Ainscough :
Peut-être un jour.
Roy Akerman :
Cela vous anéantira.
Rob Ainscough :
Peut-être un jour.
Sean O'Dell :
Attention, divulgation ! Il faudrait ajouter : attention, divulgation ! …les agents ne parviennent pas à résoudre l’énigme de l’agent… Oh non ! Exactement.
Rob Ainscough :
Je trouve donc que c'est une question intéressante. J'ai récemment organisé un petit-déjeuner à l'EIC avec Identity Underground, une super communauté dont je fais partie.
Rob Ainscough :
Il y a eu une discussion très intéressante à ce sujet, car il me semble qu'il y avait un véritable clivage parmi les praticiens quant à la manière d'aborder ce problème. En effet, je pense que certains, plus expérimentés en matière de sécurité des identités et des accès (IAM) traditionnels, disposaient de bases solides sur lesquelles s'appuyer. Ils pouvaient ainsi déterminer les implications pour leur situation et les actions nécessaires pour adapter leurs solutions à ce nouveau cas d'usage.
Rob Ainscough :
Hmm. Mais il y en avait aussi qui avaient vraiment du mal avec le monde humain, le monde non humain, n'est-ce pas ? Et même à appréhender cette dualité. Pour eux, c'était vraiment comme si le problème était un éléphant dans un magasin de porcelaine, n'est-ce pas ? Trop gros pour être résolu.
Sean O'Dell :
Tu as repris mon analogie. Ouais. Exactement.
Rob Ainscough :
C'est bien. C'est bien.
Rob Ainscough :
C'est trop gros pour être démantelé. Ouais. Et ce que j'ai vu de là, c'était une paralysie totale.
Sean O'Dell :
Yep.
Rob Ainscough :
N'est-ce pas ? Et puis, il y avait un mélange d'entreprises ici, n'est-ce pas ? Donc, il y avait à peu près 50/50 entre les entreprises qui travaillaient vraiment dur pour réunir les bonnes personnes afin d'adopter une approche responsable de l'agenticité - oui… c'était généralement le mot employé - et les entreprises qui l'adoptaient tout juste.
Rob Ainscough :
Et il n'y avait aucune corrélation entre cela et leur maturité croissante en matière de gestion de l'identité, ce qui représente un défi de taille pour les entreprises qui se lancent. Cela m'a vraiment fait réfléchir, et c'est un sujet que je voulais aborder aujourd'hui. Donc, si vous n'êtes pas encore au point, si vous rencontrez des difficultés dans le monde humain, vous en rencontrez également dans le monde non humain, ce qui est le cas de nombreuses entreprises. Même si vous avez déjà adopté des agents, vous ne savez probablement pas où ils en sont, ni quelle est la prochaine étape ?
Rob Ainscough :
Parce que passer à un monde de certifications éphémères, etc., c'est un grand pas en avant par rapport à leur situation actuelle. Mais comment s'y prendre pour décomposer le problème ? Par où commencer ? Je trouve la question intéressante.
Sean O'Dell :
C'est une question piège. Oui. Combien de temps avons-nous ?
Sean O'Dell :
I
Rob Ainscough :
ne sais pas.
Sean O'Dell :
Donc en réalité, vous devriez tout simplement fermer boutique, ne pas utiliser d'IA et appeler… Jo- je plaisante, évidemment.
Rob Ainscough :
Certains retiennent le
Sean O'Dell :
vague-
Rob Ainscough :
Je sais. Oui… au fait, certains retiennent la vague.
Sean O'Dell :
Et, et je pense que c'est, pour sortir légèrement du sujet, que ce n'est pas une mauvaise approche.
Rob Ainscough :
Ouais. '
Sean O'Dell :
Parce que certaines entreprises sont très traditionnelles, elles attendent la deuxième génération et adoptent l'approche suivante.
Sean O'Dell :
C'est-à-dire
Roy Akerman :
Vous les voyez ? Moi, je n'en ai vu aucune, aucune entreprise ne retient…
Sean O'Dell :
Il y en a quelques-unes. Il y en a quelques-unes… en termes d'efficacité. Il y en a ? Il y en a quelques-unes, oui. Oui. C'est plutôt pour les entreprises de taille moyenne à petite, parce qu'elles sont juste… Oui… terrifiées à l'idée que la sécurité coûte 1 milliard de dollars… n'est-ce pas ? Pour citer le Dr.
Sean O'Dell :
C'est diabolique, hein ? Hein ? Et il est… C'est juste… c'est tellement effrayant, mais en réalité… Enfin… Ce n'est que mon avis, mais je pense que les gens en ont assez de ce terme. Ils se disent : « Oh, encore l'IA. » Ouais.
Roy Akerman :
Se mettre d'accord.
Sean O'Dell :
Les lettres A et I sont, genre, les voyelles les plus détestées en ce moment.
Sean O'Dell :
D'accord. N'est-ce pas ?
Roy Akerman :
Donc je- je suis
Sean O'Dell :
en allant- …
Roy Akerman :
ignorer le problème.
Sean O'Dell :
Oui.
Roy Akerman :
C'est une seule façon de faire.
Sean O'Dell :
C'est-à-dire… Mais revenons-en à la question : comment s'attaquer au problème petit à petit ? Je donne justement une conférence ce mercredi.
Roy Akerman :
Tu peux glisser un petit spoiler ici ?
Sean O'Dell :
Ouais. Attention, divulgation ! Le piège, c’est que la vérification d’identité est le cheval de Troie des systèmes IAM modernes.
Sean O'Dell :
Vous allez vous demander : « Mais qu'est-ce que ça veut dire, au juste ? »
Rob Ainscough :
Qu'est-ce que ça veut dire, Sean ?
Sean O'Dell :
Cela signifie donc que pour que vous puissiez trouver une solution, tout le monde va se mettre à la recherche de solutions : il faut résoudre ceci, puis cela, puis ceci, puis cela, et puis ceci, et enfin comment élaborer un plan, un cadre, une présentation PowerPoint, obtenir l'adhésion de tous, aller voir vos parties prenantes et vos clients et obtenir leur adhésion.
Sean O'Dell :
Vous vous dites : « Super. » Deux mois plus tard, le problème s'est produit il y a six minutes, n'est-ce pas ?
Rob Ainscough :
Mm-hmm.
Sean O'Dell :
Alors, l'astuce, d'après ce que j'ai constaté, c'est que vous allez vous tromper souvent. Il faut donc s'adapter, changer de cap et recommencer. Voici un petit indice : choisissez une équipe, un cas d'utilisation et fournissez une identité d'agent vérifiée.
Sean O'Dell :
Faites-en un.
Rob Ainscough :
Yep.
Sean O'Dell :
Commencez par un seul. Réussissez-le, et voilà votre modèle. Au fur et à mesure que vous l'enrichissez, vous vous dites : « Hmm, il me faut cette pièce manquante. » Allez la chercher. « Il me faut ce triangle. » Il s'agit peut-être d'un fournisseur. Allez le voir. Mais si vous n'avez aucun plan, et que vous êtes, comme vous l'avez dit, complètement perdu…
Rob Ainscough :
Mm
Sean O'Dell :
Vous allez parcourir le salon et vous dire : « Chaque exposant utilise les mots IA ou sécurité. » Et après Identifirst, vous vous dites : « J'avais déjà un problème. Maintenant, je me dis : "OK, il y a 9 000 entreprises…" » J'exagère, bien sûr. « Il y a 9 000 exposants ici qui prétendent tous faire de la sécurité IA. Que faire maintenant ? »
Rob Ainscough :
Droite.
Sean O'Dell :
Ayez donc un plan et une stratégie, mais ils n'ont pas besoin d'être parfaits. Choisissez la solution la plus discrète et la plus simple ; une erreur n'aura pas d'impact négatif sur votre activité. Allez-y, car si vous résolvez un problème pour un client, vous devez examiner attentivement la situation, notamment avec l'intégration de l'agent et de l'identité. L'approche doit être centrée sur le produit.
Sean O'Dell :
Absolument. Ça ne peut être autrement.
Rob Ainscough :
Se mettre d'accord.
Sean O'Dell :
Ce n'est pas un fournisseur de services, ce n'est pas un programme, c'est un produit.
Rob Ainscough :
Oui.
Sean O'Dell :
Parce que vous avez des clients, et vos clients, scoop, attention spoiler, ce seront des personnes et des non-personnes. Eh oui. Il y a des entreprises qui font des choses concrètes en ce moment même, où elles conçoivent des parcours, pas seulement des parcours utilisateurs, mais des parcours pour les non-humains et les humains.
Sean O'Dell :
Oui, c'est en direct. Ils sont en train de le faire.
Roy Akerman :
Donc, vous supposez quoi ? Qu'on reconnaîtra le schéma, qu'on pourra ordonner une formule répétitive, ou que chaque solution aura sa propre solution discrète… euh… pardon. Chaque problème singulier aura sa propre solution discrète, c'est bien ça ?
Roy Akerman :
Où est-ce qu'on va avec ça ? Parce que, enfin, ça a l'air prometteur, mais est-ce que… est-ce que ça peut être mis à l'échelle ?
Sean O'Dell :
Je crois que je l'ai mal interprété, alors permettez-moi de reformuler ou de me corriger. Si vous choisissez un cas d'utilisation et que vous écoutez vraiment votre client…
Rob Ainscough :
Ouais …
Sean O'Dell :
Il est fort probable que ce soit le même schéma que celui dont vous avez besoin pour 10 clients.
Sean O'Dell :
Bien. J'ai besoin de cet agent pour accomplir cette tâche, et ce pour cette raison. Lorsque vous écoutez vos clients, vous percevez leurs besoins. Ces besoins sont bien présents, mais il faut savoir faire abstraction du bruit ambiant et entendre ce qu'ils demandent réellement. C'est pourquoi il est essentiel de collaborer avec un bon…
Sean O'Dell :
Quelqu'un qui comprend le produit et qui comprend… d'accord… comment, comment, comment livrer, car le monde change si radicalement qu'il n'y a plus de « Je suis ingénieur ». Donc je pense qu'une des entreprises, ou une des entreprises d'IA, recherche des ingénieurs déployés sur le terrain.
Sean O'Dell :
Oui. C'est une façon élégante de dire consultant commercial, ingénieur de solutions, architecte… ingénieur.
Roy Akerman :
Ouais …
Sean O'Dell :
chose.
Roy Akerman :
Oui, on dirait… un costume à porter.
Sean O'Dell :
Oui. Voilà. C'est comme ça. Et c'est devenu une réalité, et les entreprises doivent l'avoir. Vous allez obtenir… Ce que vous allez retirer naturellement de tout cela, c'est un ensemble d'outils dont vous, en tant que personne déployée sur le terrain, ingénieur, architecte, analyste de solutions, peu importe, quel que soit le terme défini par Gartner.
Sean O'Dell :
Vous allez avoir une armée de travailleurs numériques pour vous aider à accomplir vos tâches et ainsi améliorer notre efficacité. Je tiens à être très clair : plus d'efficacité ne signifie pas la suppression de l'emploi. Absolument pas. Oui, je suis d'accord. Cela signifie que l'efficacité et le passage à l'échelle seront facilités. Mais si nous ne prenons pas les mesures nécessaires dès le départ, cette efficacité et cette mise à l'échelle seront truffées de failles de sécurité, et cela risque de… enfin, pas de provoquer une catastrophe mondiale, mais…
Sean O'Dell :
Il va falloir régler un problème qui, dans le cadre de la gestion des identités et des accès (IAM) traditionnelle, par exemple si vous avez déployé l'IGA de manière incorrecte, se résumait à : « Oui, ça prendra quelques années, on réglera ça. » Mais là… Eh bien… il n'est plus question de quelques années.
Roy Akerman :
Tout à fait d'accord. Oui.
Sean O'Dell :
Parce que ça va être… L'échelle est, si elle n'est pas exponentielle, elle est parabolique.
Rob Ainscough :
D'accord. D'accord. Je reviens à ce que tu veux dire par là… Oui
Rob Ainscough :
Le point de départ, c'est de collaborer avec les gens, de vraiment les écouter et de le faire une fois pour toutes. C'est ce que j'ai constaté chez ceux qui progressent, et c'est toujours l'approche que j'ai adoptée. Faire les choses correctement une fois, c'est essentiel. On peut même se permettre d'essayer des choses qui ne sont pas reproductibles à grande échelle, à ce stade.
Rob Ainscough :
Oui. Parce que la chose la plus importante que vous puissiez faire là-bas, c'est apprendre. Exactement.
Sean O'Dell :
Vous aussi
Rob Ainscough :
Je souhaite écouter et apprendre.
Sean O'Dell :
Vous voulez un coup de théâtre ?
Rob Ainscough :
Continue.
Sean O'Dell :
Vous avez tout à fait raison, mais il faut ensuite prendre en compte les fournisseurs.
Rob Ainscough :
Droite.
Sean O'Dell :
Et ce n'est pas un terme négatif, mais c'est plutôt… Vous luttez contre le bruit ambiant, le marché est tellement saturé.
Sean O'Dell :
Et chaque entreprise, tout comme les professionnels, cherche à se réinventer.
Roy Akerman :
Pour conclure, notre équipe de production est sous pression, même si elle apprécie chacun de vos mots : nous attendons de nos fournisseurs, notamment de nos fournisseurs de cloud et de solutions, qu’ils nous fournissent un plan de contrôle actif.
Roy Akerman :
Le… C'est, c'est le plus haut niveau d'un logiciel à usage général.
Sean O'Dell :
Correct …
Roy Akerman :
Et, et je crois avoir entendu ça dans votre discours. C'est pourquoi je m'en inspire un peu. Mais, c'est le niveau le plus élevé de solution à usage général que nous puissions avoir, aussi, aussi, aussi, euh, aussi précisément que possible, pour être granulaire et intelligent, etc.
Roy Akerman :
Mais alors, cette avant-garde, comment l'appelle-t-on déjà ? Avant-garde…
Sean O'Dell :
Je crois que ce n'était pas le mien. Je… je… Oui… je l'ai vu. C'est un ingénieur déployé en première ligne.
Roy Akerman :
Donc, je pense que l'ingénieur déployé en avant-garde...
Sean O'Dell :
Ouais …
Roy Akerman :
Il faudra prendre les devants, parler au client, comprendre le cas d'utilisation, et ensuite, espérons-le, nous pourrons ajuster ce plan de contrôle en fonction du cas d'utilisation, de chaque produit, et je ne sais pas, peut-être que d'autres agents nous aideront à le faire.
Roy Akerman :
Or
Sean O'Dell :
Vous y contribuez en disant : « Je sais que nous devons communiquer avec X dans le plan de contrôle. C'est une simple règle. » Ainsi, lorsque vous enregistrez l'agent, il se contente de dire : « Hé, enregistré ! » C'est un peu simpliste, mais ça fonctionne. Votre agent est enregistré. Vous lui définissez une limite précise : « J'accède à ce domaine. »
Sean O'Dell :
Le domaine pourrait être la finance.
Rob Ainscough :
Mm-hmm.
Sean O'Dell :
Vous savez, le problème, c'est que beaucoup de gens essaient de contrôler quelque chose de probabiliste. Vous n'y arriverez pas. Ce n'est pas du contrôle, c'est de l'orientation.
Rob Ainscough :
Droite.
Sean O'Dell :
Et je pense que beaucoup de bons praticiens se sont retrouvés face à cette conclusion dimanche et lundi, et ils se sont dit : « Ouais, impossible de faire ça. »
Sean O'Dell :
Je me dis : « Tout l'intérêt d'un LLM, c'est de raisonner et d'acquérir quelque chose. C'est un but. » Ouais. C'est comme dire : « Jouez au Monopoly, mais ne gagnez pas. » Genre : « Je veux tous les hôtels. Ils sont à moi. » Ouais. Genre : « Je veux tout l'argent. Donnez-moi la banque », pas vrai ?
Roy Akerman :
Oui. Je pense qu'au final, il y a deux questions que tout le monde devrait se poser systématiquement lorsqu'on lui jette de l'agentic au visage.
Roy Akerman :
La première question est : jusqu’à quel point puis-je contrôler cela avec précision ? La seconde : comment bien comprendre le résultat souhaité, de manière générale, de ce programme, de la personne qui tente de l’exploiter ou de le développer ? Et comment… Enfin, le processus, le nouveau type de travail que j’ai, consiste à protéger et à intégrer ces éléments de manière sécurisée.
Sean O'Dell :
Vous avez tout à fait raison, à 100 %. Je… Il y a un niveau supérieur. Est-ce même de l'agentivité ?
Rob Ainscough :
Mm. '
Sean O'Dell :
Parce que beaucoup de gens disent : « Je veux créer un… » Je l'ai dit plus tôt. Oui. « Je veux créer un agent. » Et moi, je leur réponds : « Non, c'est juste du traitement automatique du langage naturel, ou c'est juste de l'apprentissage automatique. »
Rob Ainscough :
Mm.
Sean O'Dell :
Ce n'est pas un agent. Parce que, encore une fois, c'est la peur de rater quelque chose (FOMO), du genre : « Il faut absolument que je crée un agent, il faut absolument que je crée un agent. »
Sean O'Dell :
Je me dis : « Pourquoi est-ce que tu dois faire ça ? »
Rob Ainscough :
Oui.
Sean O'Dell :
C'est juste une charge de travail. C'est comme ça. Je pense qu'il faut se poser les bonnes questions, en se basant sur des principes précis… Vous avez tout à fait raison. Quel est mon objectif ? Que suis-je en train de faire ? Ai-je besoin d'un master en droit pour y arriver ?
Rob Ainscough :
Mm-hmm.
Sean O'Dell :
Si je sais que la tâche doit être effectuée toutes les 10 minutes, je vérifie ce truc, il n'y a pas de... Non, non, non
Sean O'Dell :
Voilà pourquoi. Tu gaspilles ton argent. C'est clair. Achète des feux d'artifice, tout simplement. Ouais.
Rob Ainscough :
On va tout faire exploser, pas vrai ? Et les entreprises finiront par s'en rendre compte, pas vrai ? Elles comprendront à quoi servent les LLM… Oui… et qu'elles représentent une solution très coûteuse à un problème connu, pas vrai ? Oui. Elles vont se rendre compte
Roy Akerman :
Ils sont en train de le découvrir. Mais je pense qu'ils voient, notamment en matière de R&D, au niveau des terminaux, comme les OpenCloses de ce monde, un amas d'agents d'IA construits par quelqu'un.
Roy Akerman :
Disons que, encore une fois, 80 % d'entre eux sont comme des logiciels traditionnels, que nous appelons des agents, n'est-ce pas ? Parce que nous ne savons pas ce qui se passe ensuite. Il faut bien commencer quelque part, non ? Je comprends donc le processus, comment les construire, etc. Que faisons-nous de cette quantité impressionnante d'agents déjà créés et opérationnels ?
Roy Akerman :
Dans notre environnement ? Je pense que c'est une sorte de, euh, surcharge… C'est un problème… une grande question.
Sean O'Dell :
Oui. C'est le cas. Parce que… le monde des affaires prendra toujours le dessus… C'est toujours le cas, dans tous les domaines. Il prendra toujours le dessus sur la sécurité, toujours.
Roy Akerman :
Ce qui revient à dire : « Calmez-vous, utilisez la méthode que nous venons de proposer, et faites-les un par un. »
Roy Akerman :
Autrement dit, on ne peut pas lutter contre le progrès. On ne peut pas vraiment se trouver au milieu et l'arrêter.
Sean O'Dell :
Non, je dis bien trouver le bon modèle.
Roy Akerman :
Et obtenez le
Sean O'Dell :
Bon schéma. Oui. Et puis, et puis il faut juste, je veux dire, comme pour tout autre déploiement ou intégration, il faut que l'entreprise propage parce que c'est de l'argent, n'est-ce pas ?
Sean O'Dell :
Oui. Mais si vous n'avez pas de moyen de le faire en toute sécurité, l'activité ne va pas s'arrêter. Mm. Et moi… Je suis ingénieur en sécurité de métier. Je me dis : « Je comprends, mais ils vont vouloir gagner de l'argent. »
Rob Ainscough :
Et moi, je crois qu'un point vraiment intéressant qui vient de me venir à l'esprit, c'est : qu'est-ce qui est suffisamment sûr ?
Sean O'Dell :
Big
Rob Ainscough :
Oui. N'est-ce pas ? Qu'est-ce qui est suffisamment sécurisé ?
Rob Ainscough :
Absolument. Et c'est là que j'ai vu des approches vraiment intéressantes de la part de praticiens qui disent – j'imagine… « Bon, j'ai des garde-fous de base pour circonscrire le problème. »
Sean O'Dell :
Correct.
Rob Ainscough :
N'est-ce pas ? Et puis, il y a une dynamique à l'intérieur de ça...
Sean O'Dell :
Ouais …
Rob Ainscough :
pour ensuite me donner le contrôle. Je le fais. Et c'est quelque chose dont on parle souvent comme d'une solution très efficace aux problèmes, commencer à circonscrire le problème. Oui.
Rob Ainscough :
Nous essayons d'atteindre un niveau de sécurité suffisant pour commencer. Et cela ne signifie pas forcément une sécurité parfaite. Ce n'est pas encore notre objectif.
Sean O'Dell :
Ouais …
Rob Ainscough :
mais c'est un excellent point de départ pour les praticiens.
Sean O'Dell :
Es-tu sûr(e) de ne pas être allé(e) à mon atelier hier ? Parce que je... je voulais
Rob Ainscough :
à,
Sean O'Dell :
mais euh, ma mémoire musculaire… Andrew Cameron et moi, on utilise exactement cette réplique.
Sean O'Dell :
On se dit : « Voilà où tu veux arriver. Commence par là. » Genre, comme toi… Un bon exemple, c'est de mettre en place une barrière de sécurité. Ouais. Attention à l'empoisonnement des modèles. Oui, c'est gagné. Ouais. Le prochain point, c'est le routage sémantique. OK. Tu as besoin d'Opus 47 pour discuter avec quelqu'un ? Non. Tu peux, si tu aimes gaspiller de l'argent, hein ?
Sean O'Dell :
Mais c'est petit à petit, ça se construit petit à petit.
Rob Ainscough :
Droite.
Roy Akerman :
Maintenant que vous avez clarifié le sens de ce mot, et que c'était parfaitement du code, merci. « Mot », pas un mot à la mode, mais plutôt un terme comme « Mythos », qui a suscité un véritable engouement. Auriez-vous des réflexions à partager à ce sujet ?
Sean O'Dell :
Cela va vraiment faire de la sécurité un principe de première classe.
Rob Ainscough :
Donc, juste avant de passer aux questions rapides, je voulais ajouter quelque chose, car, vraiment, ce qui me vient toujours à l'esprit quand on pense à la frontière, pas forcément au Mythe, mais à la frontière en général, c'est que si les points d'appui sont plus probables parce que cette chose a démocratisé la possibilité d'essayer aux personnes non qualifiées et qu'elle est douée pour découvrir les vulnérabilités exploitables, ce que cela fait vraiment d'un point de vue identitaire pour moi, c'est que cela place la barre plus haut.
Rob Ainscough :
Cela rehausse la barre par rapport à ce que nous avons dû faire par le passé, et avec quoi nous avons peut-être rencontré des difficultés. En réalité, cela nous confronte directement à la dette technique accumulée en matière d'identité. Et c'est un point essentiel à prendre en compte, indépendamment de l'adoption des agents : la barre est de plus en plus haute, et très haute.
Sean O'Dell :
Je pense que ça va accélérer le nettoyage. J'en suis convaincu. Tout à fait d'accord. Oui, vraiment.
Rob Ainscough :
D'accord. Oui. D'accord. Il le faut. Bien. On va passer aux questions rapides. On fait ça avec tous nos invités. OK. On va commencer par un mythe. Un mythe. Quel est un mythe lié à l'identité ou à la sécurité ?
Sean O'Dell :
Quel est un mythe relatif à l'identité ou à la sécurité ?
Sean O'Dell :
IGA est la réponse à toutes vos questions.
Rob Ainscough :
Sans doute aucune. Je suis d'accord. Ouf. Très bien. Une faute professionnelle. Alors, quelle est l'erreur la plus fréquente des dirigeants, des responsables de la sécurité ?
Sean O'Dell :
Ils ne font pas confiance à leurs praticiens les plus expérimentés et les plus compétents.
Rob Ainscough :
Wow.
Sean O'Dell :
Ils ont tendance à se tourner vers les fournisseurs pour trouver une réponse, alors que s'ils la possèdent en interne, ils devraient faire confiance à leurs ressources internes.
Sean O'Dell :
Je suis d'accord. Être honnête, tout simplement.
Rob Ainscough :
Notamment. Oui. Oui.
Sean O'Dell :
Avis de tiers ? Encore une fois, absolument pas dans mon domaine, je suis tout à fait honnête. Mais, d'une manière générale, c'est… J'ai suffisamment d'amis qui travaillent dans ce secteur, et c'est comme s'ils se battaient contre le système de vente de [insérer le nom de l'entreprise ici], et c'est…
Sean O'Dell :
Vous ne pouvez pas gagner.
Roy Akerman :
Yep.
Rob Ainscough :
Oui, je pense que le fait de privilégier l'avis d'une tierce personne par rapport à celui de la personne elle-même pose clairement problème. Oui. C'est clairement un problème. Bon, une vérité difficile à accepter. Quelle est cette vérité difficile à accepter ?
Sean O'Dell :
Dans la vie ou dans l'identité ?
Rob Ainscough :
Commençons par l'identité, puis la vie.
Sean O'Dell :
Eh bien, c'est génial. Une vérité difficile à accepter : l'autorisation est essentielle.
Roy Akerman :
Wow.
Sean O'Dell :
C'est difficile
Rob Ainscough :
vérité.
Roy Akerman :
Waouh. C'est… C'est un problème facile à résoudre, non ? Les gens l'oublient.
Sean O'Dell :
Oui. Pensées profondes.
Roy Akerman :
Ouais …
Sean O'Dell :
par Sean O'Dell.
Rob Ainscough :
Réponses en deux mots de Sean O'Dell. Dernière réponse : surmédiatisé. Quelle est la tendance surmédiatisée ? Je me doute de ce que vous allez dire. L'IA
Sean O'Dell :
sécurité.
Rob Ainscough :
Je me demandais si vous diriez cela. Je me demandais si vous diriez cela.
Sean O'Dell :
Disons-le. Le choix se résumait à la sécurité de l'identité ou à la sécurité de l'IA.
Roy Akerman :
Oui. Je suis
Sean O'Dell :
Genre : « Allez, on passe à l'IA. »
Roy Akerman :
Nous avons, comment avez-vous dit ? 9 000 fournisseurs ici, et je veux rester neutre un instant. Y a-t-il eu quelque chose qui vous a enthousiasmé durant ces trois ou quatre jours, alors que les informations commençaient à arriver ?
Roy Akerman :
Un concept.
Sean O'Dell :
Oui. C'est plutôt l'aspect juridique, le côté légal des décisions et des raisonnements effectués par les titulaires d'un LLM au nom de quelqu'un. C'est tellement bizarre parce que j'ai toujours pensé que vous vous déchargez de cette procuration, enfin, pas vraiment d'un consentement, à quelque chose. Vous n'avez aucune idée de ce que c'est.
Sean O'Dell :
Il y a donc eu une conférence, je crois que c'était demain ou aujourd'hui.
Roy Akerman :
Mm-hmm.
Sean O'Dell :
Il s'agit d'insuffler une identité, une ou plusieurs identités aux modèles. Car lorsque vous vous adressez à un haïku ou à un sonnet, peu importe, vous ne connaissez pas vraiment l'origine de ce modèle. Vous l'ignorez.
Rob Ainscough :
Mm.
Sean O'Dell :
Il s'identifie de lui-même comme « oui, je suis la prochaine version ». Toi, toi… Quand tu cliques sur le menu déroulant, tu n'en sais rien. Absolument rien. Donc, si tu lui demandes d'agir pour toi, tu dois vérifier sa lignée au niveau LLM pour lui dire : « Prouve-moi que tu as une descendance… ta lignée, que tu as grandi, de l'enfance à l'âge adulte. »
Sean O'Dell :
Et si cela, vous ne pouvez pas le prouver, vous n'avez pas, vous n'avez pas la lignée de comment puis-je faire confiance ?
Rob Ainscough :
Droite …
Sean O'Dell :
Est-ce que la question que j'ai posée il y a six jours devrait me fournir la même réponse ? Et, plus concrètement, cela a des implications dans le monde réel. Imaginez : vous êtes au travail, vous vous fiez à l'IA pour obtenir une réponse, et vous vous trompez…
Rob Ainscough :
Mm
Sean O'Dell :
Et puis, il y a l'aspect financier, qui est responsable ? Est-ce vous ? Est-ce… Il faut que ce soit un principe, une entreprise, quelque chose. On ne peut pas se contenter de dire : « Ah oui, c'est l'IA. » Non, il faut que quelqu'un soit tenu pour responsable. Oui. Et je pense que si on trouve la réponse, on aura enfin la réponse à la question : quel était le but et pourquoi ?
Sean O'Dell :
Et le commerce, le commerce orienté, ils ont en quelque sorte ça.
Roy Akerman :
Mm-hmm.
Sean O'Dell :
Pourquoi faites-vous ça ? Justifiez ce paiement. À quoi sert-il ? Oui. Et l’identité, on travaille sur ce problème. Mais si on regarde le secteur du commerce, ce n’est pas parfait, mais devinez quoi ? C’est déjà ça. Oui. Parce qu’en ce moment, tout le monde parle de « contrôle d’accès basé sur l’intention ».
Sean O'Dell :
Je me dis : « S'il vous plaît, plus de noms à rallonge ! » On n'en a pas besoin. Non, on n'en a plus besoin. On n'en a pas besoin. Ouais. Genre IBAC. Non, arrêtez, s'il vous plaît. Genre, je… enfin, s'il vous plaît. Genre, c'est bon. Si c'est votre truc, pas de problème, mais moi je me dis : « Encore un… » Parce que maintenant, c'est BAC, PBAC et ABAC. Je me dis : « Oh là là, un vrai charabia ! »
Roy Akerman :
Oui.
Sean O'Dell :
Bientôt, on aura l'AIBAC, et je me dis, c'est quoi… C'est plutôt drôle.
Roy Akerman :
Je sens ici une autre, genre, super- On devrait utiliser
Sean O'Dell :
cette.
Roy Akerman :
Nous devrions utiliser cela… un autre- Nous
Sean O'Dell :
devrait utiliser cela…
Roy Akerman :
Oui, encore un excellent sujet pour un épisode. Mais je pense que oui, je vous laisserai aller aussi loin que vous le souhaitez avec le non-déterminisme, mais dès que vous voudrez entreprendre une action, vous devrez revenir en arrière.
Sean O'Dell :
Oui
Roy Akerman :
et de me fournir une justification rationnelle que je puisse ensuite utiliser pour approuver quelque chose.
Sean O'Dell :
Et c'est pourquoi les identifiants sont importants. Oui. Et c'est pourquoi vous devez… Pour revenir à notre point de départ… il faut faire le lien avec la responsabilité. Parce qu'on passe du raisonnement, de l'aide, etc., à l'action.
Sean O'Dell :
Et quand il fait des choses, comme Dieu nous en préserve, car cela ne s'est jamais produit, il supprime quelque chose.
Rob Ainscough :
Oui.
Sean O'Dell :
Pourquoi a-t-il fait ça ?
Rob Ainscough :
Oui.
Sean O'Dell :
Ah, parce que c'était une mauvaise invite. C'est bien ça ? Oui. Ou alors, vous aviez utilisé le mauvais modèle ? Le raisonnement du modèle était-il correct ? Était-ce votre invite qui posait problème ? Ou l'utilisateur final ?
Sean O'Dell :
C'était quoi déjà ? En ce moment, tout le monde dit : « Ouais, c'est… c'est juste de l'IA. » Moi, je me dis : on ne peut plus répondre à cette question en disant que c'est de l'IA. Je veux un point précis sur le problème. En génie logiciel, c'est… c'est l'observabilité. Oui.
Rob Ainscough :
Oui.
Sean O'Dell :
Où est-ce ? Montrez-moi où c'est. C'est
Rob Ainscough :
L'attribution, n'est-ce pas ?
Sean O'Dell :
Ouais. 100 %.
Rob Ainscough :
Très
Roy Akerman :
Intéressant. Super. J'ai encore plein de questions, mais il faut qu'on finalise ça. Alors, merci beaucoup, Sean.
Sean O'Dell :
Du plaisir. À tout moment.
Roy Akerman :
Et merci d'être venu(e), de partager vos idées. Je suis sûr(e) que, même si nous ne nous revoyons que dans un mois ou deux, les réponses…
Sean O'Dell :
Tous différents…
Roy Akerman :
Oui, tout est différent. Les problèmes…
Sean O'Dell :
Malheureusement
Roy Akerman :
grandira.
Sean O'Dell :
Oui.
Roy Akerman :
Mais comme vous l'avez dit, nous sommes là pour itérer, pour nous approprier ce problème. Oui. Je ne crois pas que la situation va se stabiliser ou atteindre un plateau par endroits. C'est la nouvelle réalité. Oui. Tout change très vite, et nous sommes là pour… Mm-hmm…
Rob Ainscough :
moins de concurrence.
Rob Ainscough :
Eh bien, on doit apprendre et progresser ensemble, n'est-ce pas ? Oui. Et c'est pourquoi nous sommes
Sean O'Dell :
Voilà pourquoi nous partageons,
Rob Ainscough :
Voilà pourquoi on fait le podcast. À 100 %. Alors merci encore, Sean.
Sean O'Dell :
Avec plaisir. Bonne chance pour votre intervention. Merci beaucoup.
Roy Akerman :
Merci. Nous suivrons la diffusion en direct.
Rob Ainscough :
Merci. C'est tout pour cet épisode d'Identity Decoded.
Roy Akerman :
Si cette conversation a changé quoi que ce soit dans votre façon de penser à la sécurité de l'identité, partagez-la avec quelqu'un qui rencontre les mêmes difficultés.
Rob Ainscough :
Et n'oubliez pas de suivre l'émission pour ne rien manquer !
Rob Ainscough :
suivant.
