Contenedor-2.svg
Cómo detener los ataques impulsados ​​por IA:

Temporada 1, 7 episodio

Cómo lograr el éxito en la seguridad de la identidad de los agentes: Comience con un equipo y un caso de uso.

Si le preguntas a la mayoría de los equipos de seguridad cómo están protegiendo la IA con agentes, obtendrás una de dos respuestas: un encogimiento de hombros paralizado o una hoja de ruta que no se implementará hasta dentro de meses, mucho después de que los agentes ya estén en producción. 

Sean O'Dell, ingeniero distinguido de identidad y seguridad de CVS Health, ofrece una visión sincera sobre por qué está sucediendo esto: a los equipos que aún trabajan en la seguridad de identidades humanas y no humanas ahora se les pide que gestionen identidades que, por diseño, no son deterministas. Para muchos, el problema parece una montaña insuperable. Algunos incluso se resisten por completo a la IA en lugar de afrontarla.  

Pero la respuesta de Sean es más sencilla de lo que cabría esperar. En lugar de crear primero un marco de trabajo, elige un equipo y un caso de uso, ya que esto inicia el efecto dominó que permite identificar patrones y escalar el programa.  

En este episodio, Sean conversa abiertamente con los copresentadores de Identity Decoded, Roy Akerman y Rob Ainscough, sobre lo que se necesita para lograrlo y por qué la IA con capacidad de gestión de agentes finalmente está impulsando la conversación sobre la deuda técnica en materia de identidad que hemos estado posponiendo durante años. 

Para llevar clave incluyen: 

  • Por qué "suficientemente seguro" es la mentalidad correcta —no la seguridad perfecta— y cómo las medidas de protección limitan el problema. 
  • Las preguntas que hay que hacerse antes de cada proyecto de agencia son: ¿cuál es mi objetivo, qué estoy haciendo y necesito un máster en Derecho para realizar esta tarea? 
  • Por qué no se puede controlar un sistema probabilístico y cómo se ve la orientación práctica en su lugar. 
Identidad decodificada — Transcripción de Sean O'Dell

Sean O'Dell:[00: 00: 00]
Si no incorporas la identidad como principio fundamental en todo lo relacionado con la capacidad de acción, estás perdiendo una gran oportunidad.

Rob Ainscough:
¿Qué papel crees que desempeña la identidad a la hora de garantizar la revolución de la agencia?

Sean O'Dell:
Ahora, con la gestión de agentes y la identidad, debe estar centrado en el producto. Es imprescindible. No es un servicio, no es un programa, es un producto.

Sean O'Dell:
¿Qué hago ahora? Elige un equipo, elige un caso de uso, entrega una identidad de agente verificada. Hazlo. Si resuelves un caso de uso, tienes un cliente.

Rob Ainscough:
Bienvenidos hoy a Identity Decoded, en directo desde Identiverse. No sé si se puede decir "en directo" para un podcast grabado, pero es en directo desde Identiverse con el único e inigualable Sr. Sean O'Dell, también conocido como Sean O'Dentity. Bienvenidos.

Sean O'Dell:
Es un placer estar aquí.

Rob Ainscough:
Bienvenidos. Es un placer tenerlos aquí. Hoy vamos a hablar de un tema del que no se suele hablar mucho, ¿verdad?

Rob Ainscough:
Vamos a hablar de agencia. No creo que nadie esté hablando de eso ahora mismo, ¿verdad?

Sean O'Dell:
No. Es el eslogan bivalente más popular del momento.

Rob Ainscough:
Sí. Llevo aquí un día y no lo he visto mencionado... ni siquiera se ha hablado de ello.

Sean O'Dell:
Nop.

Rob Ainscough:
En absoluto. Pero vamos a profundizar en eso, ¿verdad?

Rob Ainscough:
Vamos a intentar comprender un poco el papel de la identidad en esta revolución de la agencia. También hablaremos un poco sobre cómo empezar, ¿verdad? Es un gran cambio para nosotros como profesionales. Es un gran cambio que necesitamos comprender, así que vamos a profundizar en ello.

Sean O'Dell:
Sí. ¿Te parece bien? ¡Vamos a bucear! ¡Hagámoslo! ¡Genial!

Rob Ainscough:
Para empezar, cuéntanos un poco sobre ti, Sean, un poco sobre tu trayectoria, un poco sobre tu participación en Identiverse este año, y a partir de ahí seguiremos hablando.

Sean O'Dell:
Soy Sean O'Dell. Trabajo para un gran proveedor de atención médica y minorista a cargo de IAM, consumidor, identidad de agente y seguridad de acceso. Mi experiencia es muy interesante. He trabajado en el sector salud, logística e ingeniería, y el principio común era que el usuario necesita acceso a las cosas. También construí sitios CMS, así que fue muy...

Sean O'Dell:
Como en los tiempos de .NET, principio de usuario punto algo. Así que pensé: "Oh, esto es bastante interesante". Luego siempre me preguntan: "¿Puedes crearnos uno personalizado?". Y yo digo: "Claro. ¿Por qué no? Hagámoslo". Pero siempre se trataba de principios, identidad y contexto, y yo pensaba: "Mmm, de acuerdo". Entonces me di cuenta: "Creo que estoy haciendo gestión de identidad y acceso".

Sean O'Dell:
Entonces, la gran oportunidad llegó cuando, cuando conseguí, cuando conseguí cierto trabajo y fue más como... Fue, fue en, fue en The Walt Disney Company. Y me dijeron: "Oye, necesitamos que hagas ingeniería inversa de esto, y está basado en autorización, y simplemente ve y constrúyelo". Y yo pensé: "Esto podría ser divertido".

Rob Ainscough:
Bien. Oh, sí.

Sean O'Dell:
Y entonces entras en el mundo de "si lo haces bien, te dan un plato más grande". Luego ponen un plato debajo del plato más grande y te dan más espaguetis. Luego otro plato más grande, y luego te dan albóndigas, y piensas: "Ya basta. Me rindo". Y ellos dicen: "No, no, no". Estoy lleno. Más. Y es como: "¿Estás lleno? Solo, espera una hora".

Sean O'Dell:
“Más comida”. Entonces, pero es, es el espacio intelectualmente más complejo.

Rob Ainscough:
Sí.

Sean O'Dell:
Nunca resuelves el mismo problema dos veces. Sí... debido a la variedad de proveedores, integraciones, diseño, negocios y mucho más.

Rob Ainscough:
Mm…

Sean O'Dell:
Mucho de lo que estoy viendo, y voy a matricularme en, como, de dónde vengo a dónde veo que va ahora es... Esto, esto no es algo de IA, esto es en general.

Sean O'Dell:
Muchas empresas buscan contratar personas con un perfil integral. No se trata de decir: "Soy ingeniero Java". Eso está muy bien, sí, hay espacio para eso, pero lo que buscan es conocimiento del producto, del contexto, del negocio y de la ingeniería. Si tienes que interactuar con alguien, ya no lo quieren.

Sean O'Dell:
Quieren que puedas hablar, usar la jerga, el argot... y luego ejecutar. Así que es interesante. Y en mi puesto actual, donde estoy ahora, me encanta mi liderazgo. Son increíbles. Me dan total autonomía para presentar propuestas, hacer, prototipar, diseñar y construir, y es genial.

Sean O'Dell:
¡Qué genial! Guau.

Roy Akerman:
Genial. Parece un trabajo centrado en el producto, ¿verdad? Hay que entender el negocio, hay que entender a qué sirve. ¿Encuentras diferencias entre los distintos tipos de trabajo relacionados con la identidad corporativa, entre los proveedores de atención médica y los de entretenimiento?

Roy Akerman:
¿Hay grandes diferencias, o al final del día se trata del mismo patrón, la misma tecnología?

Sean O'Dell:
Son los mismos problemas, solo que de distinta magnitud y con consecuencias diferentes, por así decirlo. Mm. Entonces, la diferencia está en el entretenimiento, no puedes ver algo. En la atención médica, tus pastillas no salen. No, no consigues... Bien... esto se hace, ¿verdad?

Sean O'Dell:
La mayoría de los dominios e industrias aún no implementan correctamente la gestión de identidades y accesos (IAM) tradicional.

Roy Akerman:
Derecha.

Sean O'Dell:
Así que la IA está comprimiendo ese lapso de tiempo, lo que antes eran años ahora, diría que meses... Mmm... tal vez semanas. Porque cada semana te despiertas y piensas: "Oh, mira, esto pasó. ¡Genial, fantástico!".

Rob Ainscough:
Mm

Sean O'Dell:
Así que se está comprimiendo cada vez más y apretando, y es como si todos estuviéramos persiguiendo una burbuja.

Sean O'Dell:
Y no es cuándo va a explotar, es como, "Oye, seguimos apretando la burbuja". Sí. Va a estallar.

Rob Ainscough:
Mm

Sean O'Dell:
Y va a ser… No es el fin del mundo, Skynet baja y, como… Joder

Roy Akerman:
él.

Sean O'Dell:
Sí.

Roy Akerman:
Sí. Pero, pero creo que...

Sean O'Dell:
Unos pocos años. Pocos

Roy Akerman:
años. Sí, algunos años. Pero... entonces hay una gran oportunidad para arreglar lo que ya hicimos. Sí.

Roy Akerman:
sobre terreno inestable. Y hay una, hay una, una oportunidad para construir correctamente la siguiente fase de problemas que debemos abordar. Correcto. Lo que nos lleva a la agencia, que es de lo que estamos tratando de hablar hoy, ¿verdad?

Rob Ainscough:
Sí. Por supuesto. Entonces, en términos de agencia, ¿verdad?, como tú lo ves. Ya hemos hablado un poco sobre los desafíos que hemos visto en el pasado, y profundizaremos en ellos más adelante.

Rob Ainscough:
Pero en términos de esta revolución activa, ¿verdad?, se está desarrollando ante nuestros ojos ahora mismo. ¿No es una revolución?

Sean O'Dell:
No. Deberías registrar esa marca. Ma- ma- haz una camiseta.

Roy Akerman:
Sí. Eso es genial. Evolución rápida. Sí.

Rob Ainscough:
Evolución rápida. Entonces, en términos de agencia e identidad, ¿qué consideras que es lo fundamental, verdad?

Rob Ainscough:
¿Qué papel crees que desempeña la identidad a la hora de garantizar la revolución de la agencia?

Sean O'Dell:
Es algo muy incipiente lo que acabas de decir porque... Sí... mucha gente todavía lo ve de forma tradicional. Y la forma en que deberías cambiar el pensamiento en general es si no incorporas la identidad como primera directiva en todo lo relacionado con la agencia.

Rob Ainscough:
Mm-hmm

Sean O'Dell:
Estás perdiendo el tren porque... Mm-hmm... la identidad es fundamental para incitar al derecho, la seguridad, la intención, todas esas encantadoras palabras de moda...

Rob Ainscough:
Sí …

Sean O'Dell:
que todos se apresuran a comercializar que hay una verdadera sensación de FOMO que tengo que... Sí... tengo que crear un agente. Tengo... ¿es, es realmente un agente, o es solo, una carga de trabajo?

Sean O'Dell:
¿Es simplemente una tarea programada (cron job)? ¿Tienes solo esta tarea específica que debe ejecutarse?

Rob Ainscough:
Mm-hmm.

Sean O'Dell:
Entonces, incluso con eso, dicho esto, hornear un agente en, voy a decir en el nacimiento... Sí... pero en la creación.

Rob Ainscough:
Sí.

Sean O'Dell:
Si haces eso, cuantifica el 80% de tus problemas posteriores se resuelven, porque muchas, muchas cosas que suceden con, con la estrella agente, todas las cosas-

Rob Ainscough:
Sí

Sean O'Dell:
si no tienes procedencia o verificación al nacer-

Rob Ainscough:
Sí …

Sean O'Dell:
Realmente no sabes qué es legítimo y qué no. Y separar eso entre actores legítimos aún puede tener consecuencias negativas, como amenazas internas. Sí. Pero si no tienes esos límites, vas a gastar una fortuna intentando restringir algo que no tiene límites.

Roy Akerman:
Entonces, hagamos doble clic en este. Ahí están los límites, ahí están las barandillas, ahí están las fronteras que estamos tratando de construir alrededor de eso. Sí. Pero al final del día, la definición de agente e identidad de agente es como... nebulosa... vaga.

Sean O'Dell:
Sí.

Roy Akerman:
Porque al nacer es una cosa, luego evoluciona y después desarrolla sus propias capacidades.

Roy Akerman:
Correcto. Tenemos a los consumidores, es decir, a las personas que lo usan. Correcto. Tenemos otros agentes que lo usan. Tenemos las herramientas que utiliza. Sí. Tenemos los planes, tenemos el razonamiento. ¿Cómo se puede definir la identidad de un agente, si es que se puede? ¿O cómo podemos construir un marco conceptual en torno al término identidad cuando se trata de agentes?

Roy Akerman:
Sé que es una pregunta importante. Vaya, continúa. Veamos. Veamos cómo lo estamos manejando. No lo haces.

Sean O'Dell:
dime. ¿Te pago 20 dólares mañana...?

Roy Akerman:
¿Para qué hoy?

Sean O'Dell:
No, igual que

Roy Akerman:
Tomando notas. Voy a construir algo después. Toma mi… Te entiendo.

Sean O'Dell:
Pero sí. Hablé de esto en un blog que publiqué, y es mi opinión personal, no la de mi empleador.

Sean O'Dell:
Es, es de mi, mi, mi cerebro loco... y mi pelo loco. La identidad está cambiando, y voy... prometo que voy a algún sitio con esto. Estamos juntando las palabras gobernanza, confianza, identidad, acceso, intenciones, autorización, misión, alcance, escala, cuando en realidad estás construyendo un, un marco de confianza... Mm

Sean O'Dell:
pero hay tantos dominios que estás, literalmente, de nuevo, entrelazándolos... me encanta, entrelazándolos. Creo que ahora mismo se trata menos de identidad, porque todos estamos persiguiendo, es, "¿Oh, cuál es la identidad de un agente?" Es tan efímero, no tenemos a nadie, ¿es, es una lista de materiales?

Rob Ainscough:
Derecha.

Sean O'Dell:
¿Soy una máquina que actúa como un clúster de Kubernetes o como un agente que se ejecuta en alguna carga de trabajo en la nube?

Sean O'Dell:
Me interesan más los identificadores de agente.

Rob Ainscough:
Bien. '

Sean O'Dell:
Porque si tienes identificadores, puedes clasificarlos en identidades, ¿verdad? Entonces, no me gusta comparar lo que no es... O no me gusta comparar máquinas o agentes con humanos porque es como comparar un bistec con mantequilla de maní, ¿verdad?

Rob Ainscough:
Mm

Sean O'Dell:
Me encantan ambos, pero no quiero mantequilla de cacahuete para cenar.

Sean O'Dell:
Quiero bistec para cenar porque el bistec en Las Vegas es una delicia, ¿verdad? Entonces, los identificadores significan algo porque tienes que tener un identificador estable al nacer.

Rob Ainscough:
Mm-hmm.

Sean O'Dell:
Número de identificación social.

Rob Ainscough:
Sí.

Sean O'Dell:
Sí, conceptos similares, ¿verdad? Pero la diferencia entre la progresión natural de un agente y un ser humano no es tan grande.

Sean O'Dell:
Entonces, si yo, si paso de niño a adolescente, a joven adulto y a profesional, sigo siendo Sean con una vida social.

Rob Ainscough:
Sí.

Sean O'Dell:
Pero estoy interpretando el papel de o interpretando un rol, como Sean es un, Sean es un padre, Sean es un esposo, Sean es un trabajador. Entonces, cuando usted y sus agentes tienen identificadores. Su progresión natural de lo que su agente va a hacer no debería cambiar su

Rob Ainscough:
identificador.

Rob Ainscough:
De acuerdo.

Sean O'Dell:
Pero sí cambia tu identidad asterisco- Interesante… estrella, signo de dólar, tilde, como muchas salvedades a eso. Mm. Y de nuevo, esto es muy esotérico, muy na- naciente, y probablemente nos equivocaremos en la mitad de esto y luego diremos: “Vaya, hace seis meses, ¿en qué demonios estábamos pensando?” ¿Verdad? Pero en realidad, el nivel de profundidad para la identidad y el agente, hay siete capas de profundidad de frijol, por así decirlo.

Sean O'Dell:
Mm. Iba a usar otra palabra pero tratando de ser políticamente correcto en, en, HE doble palo de hockey, ¿verdad? Pero las siete capas de eso, tienes el identificador, luego tienes la autenticación, luego tienes la, la transacción. Ya no puedo usar la palabra intención o alcance porque están sobrecargadas. Luego tienes la tarea, ¿verdad?

Rob Ainscough:
Sí.

Sean O'Dell:
Luego tienes la instancia de la tarea. Mm-hmm. Luego tienes lo que estoy tratando de hacer con ella, y ahí, vas a tener que g- para tener garantía de extremo a extremo, tienes que construir identidad, escúchame, al principio porque tienes auditores, tienes gobernanza, tienes riesgo, tienes s- tienes legal.

Sean O'Dell:
Tienes tantas cosas que si no tienes un registro completo de todo...

Rob Ainscough:
Sí …

Sean O'Dell:
¿Cómo sabes lo que pasó?

Rob Ainscough:
Sí.

Sean O'Dell:
¿Dónde empieza eso? En la puerta.

Rob Ainscough:
Sí.

Sean O'Dell:
Entonces, tienes que tener verificación y control en la puerta. Mm. Y muchas, muchas grandes empresas y muchos grandes proveedores dicen: "Sí, nosotros nos encargaremos de eso".

Sean O'Dell:
Y yo digo: “Genial. Entonces, menos gestos con las manos. Trabajemos todos juntos porque si, si la empresa A y el CSP, lo siento, si la empresa A y el proveedor de servicios en la nube B no se unen en un estándar-

Rob Ainscough:
Mm…

Sean O'Dell:
Las empresas se dedican a construir, construir y alojar sus servicios en diferentes proveedores y plataformas. Es la naturaleza de una gran empresa.

Rob Ainscough:
Sí.

Sean O'Dell:
Entonces, ¿cómo sé como empresa si estoy en A y B? ¿Cómo sé que mis agentes están registrados en A y B? Es como si se usaran identificadores uno, dos, tres, cuatro, cinco. Es como si se usara un GUID. ¿Cómo demonios funciona eso? Mm. Lo que estoy insinuando aquí es que los estándares y la interoperabilidad... Sí... son clave para que esto funcione.

Roy Akerman:
Solo diré una cosa sobre esto. Está el identificador, y luego hay muchos atributos que cambian constantemente. Entonces, esta identidad es dinámica, ¿verdad? Exacto. Identidad continua, una especie de definición. Entiendo...

Sean O'Dell:
mi idioma. Absolutamente.

Roy Akerman:
Entiendo esto. Así que intentaré recalcar el punto sobre las colaboraciones a las que te refieres.

Roy Akerman:
Y por supuesto, nos faltan estándares, y vemos las luchas por construir diferentes estándares. Dejemos esto de lado por un segundo. Tal vez tengamos tiempo para hablar de ello. ¿Cuál es el número uno... Por favor, no digas identificadores. ¿Cuál es la cosa número uno que no estás obteniendo de la mayoría de los proveedores hoy en día que deseas tener, que deseas que se sienten juntos y digan: "Bien, así es como, digamos, comienza la fase uno.

Roy Akerman:
Todavía estamos resolviendo el resto, pero aquí hay algo en lo que pueden confiar.

Sean O'Dell:
No diré identificador. Elija un estándar como referencia para un identificador.

Roy Akerman:
¿Un estándar para identificadores?

Sean O'Dell:
Sí.

Roy Akerman:
Bueno.

Sean O'Dell:
Y, y a lo que me refiero aquí es que algunos usan los suyos propios, otros usan tokens basados ​​en JWT, otros usan SPIFFE, otros van a usar WMSI, otros van a usar algo propietario.

Sean O'Dell:
Elige uno o permítelos todos.

Rob Ainscough:
Sí, no, creo que algo realmente interesante que he visto, aquí y en mis conversaciones antes de la conferencia, es que estoy viendo una creciente variabilidad en los productos y tecnologías que las empresas están utilizando para dar vida a la tecnología de agentes, ¿verdad?

Rob Ainscough:
Estoy viendo gente apoyando a varios caballos y a varios caballos diferentes en esto, y es una imagen realmente fragmentada la que estamos viendo emerger que está lejos de estar definida en términos de patrón. Sí. Y no lo vi hasta las últimas semanas. Creo que está aumentando en términos de esa fragmentación con la que vamos a tener que lidiar para asegurar esas identidades en

Sean O'Dell:
parte superior.

Sean O'Dell:
Es todos los días. Sí. Es todos los días. Yo digo, lloro. Yo digo, "Dios mío, otro más", ¿verdad? Esto es como la nube 2.0.

Roy Akerman:
De acuerdo. Totalmente de acuerdo.

Sean O'Dell:
Ellos, al ser proveedores, dan suficiente cuerda para decir: “Aquí tienes. Ve y conquista”. Pero muchas, muchas de las cosas que se ofrecen son: “Haz clic en Aceptar. Confía en nosotros. ¿Cómo se ve eso?

Sean O'Dell:
Porque si se desvelan las capas de transparencia, se trata de seguridad basada en el consentimiento. Y no me refiero al consentimiento en nombre de un agente de usuario. Me refiero a un consentimiento basado en el consentimiento del tipo: «Sí, lee el acuerdo, lee los términos. Puedes continuar. Estamos seguros». Pero en realidad, ¿cómo sabes que lo que estás ingresando o haciendo está protegido correctamente para que solo se ejecute la función que deseas?

Sean O'Dell:
Así que es un término muy vago para decir: "Por favor, denos acceso y autorización". Esa es la n- esa es la próxima frontera, valga la redundancia. Esa es la parte más difícil de la agencia ahora mismo. Los identificadores, lo resolveremos. Hay 10 cosas, estoy siendo... es una exageración, pero esa es la parte fácil.

Sean O'Dell:
Entonces, autenticación, luego identificador, comprobación, comprobación. Sucederá…

Roy Akerman:
entonces identificadores y luego puntos de control dentro del razonamiento antes de la ejecución- Entendido... antes de las herramientas, cosas así- Sí,

Sean O'Dell:
sí …

Roy Akerman:
Eso se convertirá en un estándar. Entonces, si quieres un control de grano más fino...

Sean O'Dell:
Correcto …

Roy Akerman:
en ese paquete que- Correcto... está a punto de ejecutar un plan no determinista.

Sean O'Dell:
Correcto. Vale, genial. Pero necesitas... Necesitas autorización previa antes de poder obtenerla porque hay mucho más que tecnología y estándares. Hay implicaciones financieras.

Rob Ainscough:
Sí.

Sean O'Dell:
Necesitas saberlo en la puerta, y la puerta significa antes incluso de llegar a un LLM, porque entonces es como...

Roy Akerman:
Sí

Sean O'Dell:
gastar. Tienes que saber, oye, ¿se ve bien?

Roy Akerman:
Entonces, sí, creo que nuestra audiencia, y por eso tenemos a Rob aquí, para mantener la cordura un poco. Dicen que sí, hay muchas piezas faltantes. Hay muchas lagunas. ¿Qué estamos haciendo? Nadie espera. Todos están trayendo toneladas de, construyendo toneladas de agentes, trayendo toneladas de soluciones de agentes a su organización.

Roy Akerman:
Supongamos que solo el 50% es software tradicional creado por agentes, y lo llamamos agente, pero no lo es, ¿verdad? Pero el resto nos inunda, y necesitamos dejar que la gente haga su trabajo, ¿no? Sí. Tenemos que hacer más con menos y todo eso. Entonces, ¿cómo empezamos? Rob, nosotros…

Roy Akerman:
Mucha gente vino a nuestro stand. Mucha gente vino a hablar con nosotros sobre: ​​"¿De acuerdo, qué debo hacer primero?". Sí, por favor, no vuelvan con: primero tienes visibilidad, luego esto, luego aquello. No funciona, no es escalable, y... Mm-hmm... por favor, no digan lo otro, que los agentes de IA vendrán a salvarnos de los otros agentes de IA, ¿verdad?

Roy Akerman:
No lo hará. No lo hará.

Rob Ainscough:
Tal vez algun dia.

Roy Akerman:
Te destruirá.

Rob Ainscough:
Tal vez algun dia.

Sean O'Dell:
Alerta de spoiler. Deberías añadir, alerta de spoiler... ...los agentes no pueden resolver al agente... Oh, no. Exacto.

Rob Ainscough:
Así que creo que es una pregunta interesante. Hace poco, organizamos un desayuno en EIC con Identity Underground, una gran comunidad de la que formo parte.

Rob Ainscough:
Y hubo una discusión muy interesante al respecto, porque creo que hubo una división real en la sala desde la perspectiva de los profesionales sobre cómo empezar y abordar este problema. Sí. Porque creo que algunos que tienen más experiencia en la seguridad de identidad tradicional, o en el sentido de IAM, tenían algunos elementos básicos en los que podían confiar, y luego determinar qué significaba esto para ellos y qué necesitaban hacer para convertirlo en este nuevo caso de uso.

Rob Ainscough:
Hmm. Pero luego estaban algunos que realmente habían tenido problemas con el mundo humano, el mundo no humano, ¿verdad? E incluso con lograr comprenderlo. Y para ellos era realmente como, "Este problema es un elefante demasiado grande para comer", ¿verdad? Es demasiado grande para descomponerlo.

Sean O'Dell:
Me robaste la analogía. Sí. Exacto.

Rob Ainscough:
Es bueno. Es bueno.

Rob Ainscough:
Es demasiado grande para desmantelarlo. Sí. Y lo que vi a partir de ahí fue una parálisis absoluta.

Sean O'Dell:
Sí.

Rob Ainscough:
¿Verdad? Y luego había una mezcla de empresas aquí, ¿verdad? Así que había una división de aproximadamente 50/50 entre empresas que realmente trabajaban duro para reunir a las personas adecuadas para adoptar la responsabilidad de los agentes (sí... esa era la palabra que solía acompañarla) y empresas que simplemente la estaban adoptando.

Rob Ainscough:
Y no había correlación entre eso y su madurez entrante en términos de gestión de identidad, y eso presenta un desafío realmente interesante para las empresas que llegan, y realmente me hizo pensar, y algo de lo que quería hablar hoy. Entonces, si realmente no estás en el bar todavía, ¿verdad?, si estás teniendo problemas en el mundo humano, estás teniendo problemas en el mundo no humano, que es lo que les pasa a muchas empresas, y puede que ya hayas adoptado agentes, probablemente no sepas dónde están, como, ¿hacia dónde vamos con eso?

Rob Ainscough:
Porque llegar a un mundo de credenciales efímeras, bla, bla, bla, bla, todo eso, es un gran salto desde donde están ahora. Pero, ¿cómo desglosamos el problema? ¿Cómo empezamos? Creo que es una pregunta interesante.

Sean O'Dell:
Es una pregunta capciosa. Sí. ¿Cuánto tiempo tenemos?

Sean O'Dell:
I

Rob Ainscough:
no lo se.

Sean O'Dell:
Así que, en realidad, deberías cerrar el negocio, no usar IA y llamar... Jo- bromeando, obviamente.

Rob Ainscough:
Algunos están conteniendo el

Sean O'Dell:
ola-

Rob Ainscough:
Lo sé. Sí… por cierto. Algunos están conteniendo la ola.

Sean O'Dell:
Y creo que, aunque me desvíe un poco del tema, ese no es un enfoque erróneo.

Rob Ainscough:
Sí. '

Sean O'Dell:
Porque algunas empresas son muy tradicionales, esperen a que llegue la segunda generación y adopten la suya entonces.

Sean O'Dell:
Eso es- Hacer

Roy Akerman:
¿Ves eso? Yo, yo no vi que ninguna, ninguna empresa se contuviera...

Sean O'Dell:
Hay algunos. Ahí, hay algunos… eficiencia. ¿Hay? Hay algunos, sí. Sí. Es, es más bien de tamaño mediano a pequeño, porque están… Sí… aterrorizados de que la seguridad vaya a costar mil millones de dólares… ¿verdad? Para citar al Dr.

Sean O'Dell:
Malvado, ¿verdad? ¿Verdad? Y él es… Es, es, es, es tan aterrador, pero en realidad, el, el… Solo, esta es solo mi opinión, pero creo que la, la sobrecarga sensorial del término, la gente está harta. Son como, “Oh, otra vez la IA”. Sí.

Roy Akerman:
De acuerdo.

Sean O'Dell:
La letra A y la I son, digamos, las vocales más odiadas en este momento.

Sean O'Dell:
Vale. ¿Verdad?

Roy Akerman:
Entonces yo-yo soy

Sean O'Dell:
yendo- …

Roy Akerman:
ignorando el problema.

Sean O'Dell:
Sí.

Roy Akerman:
E-esa es una, una manera.

Sean O'Dell:
Eso es. El… Pero ahora volvamos a cómo se le quita un trozo al elefante poco a poco. De hecho, voy a dar una charla este miércoles.

Roy Akerman:
¿Puedes hacer un pequeño spoiler aquí?

Sean O'Dell:
Sí. Alerta de spoiler, ¿verdad? El truco va a ser que la verificación de identidad es el caballo de Troya de la gestión de identidades y accesos moderna.

Sean O'Dell:
Vas a preguntar: "¿Qué demonios significa eso?"

Rob Ainscough:
¿Qué significa eso, Sean?

Sean O'Dell:
Entonces significa que para que puedas resolverlo, todos van a ir tras, tenemos que resolver esto, y luego aquello, y luego esto, y luego aquello, y luego cómo tener un plan, un marco, una presentación de PowerPoint, aceptación, ir a tus partes interesadas y clientes y obtener la aceptación de todos.

Sean O'Dell:
Es como decir: "Genial". Eso es dos meses después. El problema ocurrió hace seis minutos, ¿verdad?

Rob Ainscough:
Mm-hmm.

Sean O'Dell:
Entonces, el truco y… El truco, lo que he visto es que vas a equivocarte mucho en esto. Gira y cambia y vuelve a hacerlo. Así que aquí va una alerta de spoiler: elige un equipo. Elige un caso de uso, entrega una identidad de agente verificada.

Sean O'Dell:
Haz uno.

Rob Ainscough:
Sí.

Sean O'Dell:
Haz solo uno. Hazlo bien, y ahí tienes tu patrón. Y a medida que vayas añadiendo más y más, pensarás: "Hmm, necesito esta pieza cuadrada". Ve a buscar la pieza cuadrada. "Necesito este triángulo de aquí". Puede que sea un proveedor. Ve al proveedor. Pero si no tienes ningún plan, y estás como, como dijiste, paralizado por el miedo...

Rob Ainscough:
Mm

Sean O'Dell:
Vas a recorrer este recinto ferial y pensarás: "Todos los proveedores tienen la palabra IA o seguridad en su nombre". Luego, después de Identifirst, te darás cuenta de que "Tuve un problema antes. Ahora pienso: 'Vale, hay 9,000 personas…'". Estoy exagerando. "Hay 9,000 proveedores aquí que afirman ofrecer seguridad con IA. ¿Qué hago ahora?".

Rob Ainscough:
Derecha.

Sean O'Dell:
Así que ten un plan y un camino, pero no tiene que ser perfecto y general. Elige lo más discreto, pequeño, si te equivocas no perjudicará tu caso de uso comercial. Sí. Ve a por ello, porque lo que va a pasar es que si resuelves un caso de uso, tienes un cliente y tienes que mirar las cosas, especialmente con, con agentic ahora en, en id- en identidad, tiene que estar centrado en el producto.

Sean O'Dell:
Completamente. Tiene que ser así.

Rob Ainscough:
De acuerdo.

Sean O'Dell:
No es un proveedor de servicios, no es un programa, es, es un producto.

Rob Ainscough:
Sí.

Sean O'Dell:
Porque tienes clientes, y tus clientes, ¡sorpresa!, alerta de spoiler, van a ser personas y no personas. Exacto. Hay empresas reales haciendo cosas reales ahora mismo donde diseñan recorridos, no recorridos de usuario, sino recorridos para no humanos y humanos.

Sean O'Dell:
Sí, es en directo. Como si lo estuvieran transmitiendo.

Roy Akerman:
Entonces, ¿estás asumiendo que serán qué? ¿Que reconoceremos el patrón, que podremos ordenar una fórmula repetitiva, o que cada solución individual necesitará tener su propia solución discreta, eh... Perdón. E- cada tipo de problema singular tendrá que tener su propia solución discreta, ¿verdad?

Roy Akerman:
¿A dónde vamos con esto? Porque, quiero decir, suena prometedor, pero ¿es escalable?

Sean O'Dell:
Creo que la forma en que lo formulaste puede haber sido diferente en mi cabeza, así que déjame, déjame reformularlo o tal vez corregirme. Si eliges un caso de uso y realmente escuchas a tu cliente...

Rob Ainscough:
Sí …

Sean O'Dell:
Las probabilidades de que ese sea el mismo patrón que necesitas para 10 clientes son muy altas.

Sean O'Dell:
Correcto. Necesito que este agente realice esta tarea por esta razón. Entonces, cuando escuchas a tus clientes, estás escuchando sus requisitos. Los requisitos... Correcto... están ahí, pero necesitas escuchar más allá del ruido y oír lo que realmente están pidiendo. Y por eso es muy importante asociarse con un buen...

Sean O'Dell:
Alguien que entiende el producto y alguien que entiende... De acuerdo... cómo, cómo, cómo entregar, porque el mundo está cambiando tan drásticamente que ya no existe el "Soy ingeniero". Así que creo que, eh, una de las empresas o una de las empresas de IA está buscando ingenieros desplegados en el futuro.

Sean O'Dell:
Sí. Esa es una forma elegante de decir consultor de ventas, ingeniero de soluciones, arquitecto... ingeniero.

Roy Akerman:
Sí …

Sean O'Dell:
cosa.

Roy Akerman:
Sí, suena como... Un traje para usar.

Sean O'Dell:
Lo es. Pero sí, es como, ahí lo tienes. Y es, es, es algo que ahora es una cosa, y las empresas necesitan tener eso. Vas a obtener... Lo que vas a obtener de esto naturalmente es que vas a tener una flota de cosas que tú, como persona desplegada en el terreno, ingeniero, arquitecto, analista de soluciones, lo que sea, lo que sea que Gartner diga que va a ser la palabra.

Sean O'Dell:
Vas a tener un montón de trabajadores digitales que te ayudarán a hacer las cosas para que seamos más eficientes. Quiero ser muy claro: la eficiencia no significa que todos nos quedemos sin trabajo. No significa eso. Sí, estoy de acuerdo. Significa que la eficiencia y la escalabilidad se vuelven más fáciles, pero si no lo hacemos bien desde el principio, la eficiencia y la escalabilidad estarán plagadas de fallos de seguridad, y entonces va a ser, no es que vaya a explotar el mundo, pero va a ser...

Sean O'Dell:
Vas a tener que solucionar un problema que en la gestión de identidades y accesos tradicional, como si implementaste IGA incorrectamente, "Sí, tardaremos un par de años, lo solucionaremos". Esto... Sí... ya no hay un par de años.

Roy Akerman:
Totalmente de acuerdo. Sí.

Sean O'Dell:
Porque va a ser… La, la, la escala es, si no es exponencial, es parabólica.

Rob Ainscough:
De acuerdo. De acuerdo. Yo, volviendo a tu tipo de... Sí.

Rob Ainscough:
El punto de partida es colaborar con la gente, escucharla atentamente y hacerlo bien a la primera, ¿verdad? Eso es lo que vi en las personas que estaban progresando en la sala, y este siempre fue mi enfoque como profesional. Hacerlo bien a la primera. Incluso se pueden hacer cosas que no sean escalables, ¿no?

Rob Ainscough:
Sí. Porque lo más importante que puedes hacer allí es aprender. Exacto.

Sean O'Dell:
Tú también.

Rob Ainscough:
Quiero escuchar y aprender.

Sean O'Dell:
¿Quieres la bola curva?

Rob Ainscough:
Seguir.

Sean O'Dell:
Tienes toda la razón, pero luego incluyes a los proveedores.

Rob Ainscough:
Derecha.

Sean O'Dell:
Y eso no es un término negativo, sino que es más bien que estás luchando contra el enfoque frente al ruido en el mercado, que está muy saturado.

Sean O'Dell:
Y todas las empresas, al igual que los profesionales, buscan reinventarse.

Roy Akerman:
Así que, para empezar a concluir un poco, nuestro equipo de producción aquí está estresado por el tiempo, aunque están disfrutando cada palabra que usted dice, es que esperamos que nuestros proveedores, ex-esperamos que nuestros proveedores de nube, proveedores de soluciones nos proporcionen un plano de control de agentes.

Roy Akerman:
El… Ese, ese es el nivel más alto de un propósito general.

Sean O'Dell:
Correcto …

Roy Akerman:
cosa. Y creo que escuché esto en tu charla. Por eso estoy tomando prestado un poco. Pero ese es el nivel más alto de solución de propósito general que podemos tener, tan, tan, eh, lo más posible, como ser granular e inteligente o lo que sea.

Roy Akerman:
Pero entonces, ¿cómo se llama este avance? Adelante-

Sean O'Dell:
Creo que no era mío. Yo, yo solo... Sí... lo vi. Es un ingeniero desplegado en primera línea.

Roy Akerman:
Por eso, creo que el ingeniero desplegado en primera línea...

Sean O'Dell:
Sí …

Roy Akerman:
será necesario dar un paso al frente, hablar con el cliente, comprender el caso de uso y, con suerte, podremos, sí, ajustar este plano de control según el caso de uso, según el producto, y no sé, tal vez otros agentes ayuden para hacer eso.

Roy Akerman:
Or

Sean O'Dell:
Contribuyes a ello para decir: “Sé que necesitamos hablar con X en el plano de control. Es solo una política”. Y de esa manera, cuando registras al agente, es simplemente “Oye, registrado”, y esto es muy vago, pero funciona. Tu agente está registrado. Le das un límite discreto de “Estoy accediendo a este dominio”.

Sean O'Dell:
El ámbito podría ser el financiero.

Rob Ainscough:
Mm-hmm.

Sean O'Dell:
Ya sabes, el cubo es este, porque mucha gente intenta controlar algo probabilístico. No vas a ganar. Sí. No es control, es guía.

Rob Ainscough:
Derecha.

Sean O'Dell:
Y creo que muchos buenos profesionales llegaron a esa conclusión el domingo y el lunes, y dijeron: "Sí, no se puede hacer eso".

Sean O'Dell:
Yo digo: “El objetivo de un LLM es razonar y, y, y obtener algo. Es una meta”. Sí. Es como decir: “Juega al Monopoly, pero no ganes”. Como, “Quiero todos los hoteles para mí. Son míos”. Sí. Como, “Quiero todo el dinero. Como, dame el banco”, ¿no?

Roy Akerman:
Sí. Creo que al final del día, hay dos preguntas que todos deberían hacerse siempre cuando alguien les está echando algo a la cara.

Roy Akerman:
La primera es, ¿con qué nivel de detalle puedo controlar esto? La segunda, ¿con qué precisión entiendo el resultado deseado, en términos generales, de este programa, de la persona que realmente intenta operarlo o construirlo, verdad? Y cómo... A- y, y el proceso, el nuevo tipo de trabajo que tengo es cómo protegerlos, cómo integrarlos de manera segura.

Sean O'Dell:
Tienes toda la razón, al 100%. Solo que… Hay un nivel superior. ¿Esto siquiera es un acto de agencia?

Rob Ainscough:
Mm.

Sean O'Dell:
Porque mucha gente dice: "Quiero crear un a-" Ya lo dije antes. Sí. "Quiero crear un agente". Y yo digo: "No, eso es solo una consulta en lenguaje natural, o eso es solo aprendizaje automático".

Rob Ainscough:
Mm

Sean O'Dell:
No es un agente. Porque de nuevo, FOMO, como, “Tengo que crear un agente, tengo que crear un agente”.

Sean O'Dell:
Yo le digo: "¿Por qué tienes que hacerlo?"

Rob Ainscough:
Sí.

Sean O'Dell:
Es solo una carga de trabajo. Es algo que hay. Creo que deberías preguntarte con principios concretos qué es... Lo has clavado. ¿Cuál es mi objetivo? ¿Qué estoy haciendo? ¿Necesito llamar a un LLM para hacer esto?

Rob Ainscough:
Mm-hmm.

Sean O'Dell:
Si sé que la tarea es cada 10 minutos, revisa esto, no hay... No, no, no

Sean O'Dell:
La razón es que estás tirando el dinero. Claro. Simplemente, ve a comprar fuegos artificiales. Sí.

Rob Ainscough:
Lo van a explotar, ¿verdad? Y las empresas madurarán en ese sentido, ¿verdad? Entenderán para qué sirven los LLM... Sí... y dónde son una solución muy cara para un problema conocido, ¿verdad? Sí. Lo entenderán.

Roy Akerman:
lo están analizando. Pero creo que están viendo, como en I+D, están viendo en los puntos finales, como OpenCloses del mundo, están viendo como un montón de agentes de IA que alguien construyó.

Roy Akerman:
Digamos que, de nuevo, el 80% de ellos son como el software tradicional que llamamos agente, ¿verdad? Porque no sabemos qué hay ahí fuera. Tienen que empezar por algún lado, ¿no? Así que entiendo el proceso, cómo construirlo o lo que sea. ¿Qué hacemos con esta cantidad abrumadora de agentes ya hechos y construidos que están en funcionamiento? Sí

Roy Akerman:
¿En nuestro entorno? Creo que esto es como, eh, una sobrecarga... Ese es un problema... una gran pregunta.

Sean O'Dell:
Sí. Lo es. Porque el negocio siempre va a ir a la cabeza… Siempre, siempre, en todo. Siempre irá a la cabeza de la seguridad, siempre.

Roy Akerman:
Lo que significa que en realidad estás diciendo que nos calmemos, que sigamos el método que acabamos de ofrecer, que los hagamos uno por uno.

Roy Akerman:
Es decir, no se puede luchar contra el progreso. No se puede estar en medio y detenerlo.

Sean O'Dell:
No, estoy diciendo que consigas, que consigas el patrón correcto.

Roy Akerman:
Y obtén el

Sean O'Dell:
Patrón correcto. Sí. Y luego, y luego tienes que, quiero decir, como cualquier otro lanzamiento o integración, es el negocio que tiene que propagarlo porque es dinero, ¿verdad?

Sean O'Dell:
Sí. Pero si no tienes una forma de hacerlo de manera segura, el negocio no se va a detener. Mm. Y yo… Soy ingeniero de seguridad de profesión. Pienso: “Lo entiendo, pero van a querer ganar dinero”.

Rob Ainscough:
Y creo que un punto realmente interesante que se me acaba de ocurrir es: ¿qué es lo suficientemente seguro?

Sean O'Dell:
Big

Rob Ainscough:
Sí. ¿Verdad? ¿Qué es su- suficientemente seguro?

Rob Ainscough:
Sí, totalmente. Y aquí es donde he visto enfoques realmente interesantes por parte de profesionales que dicen —apuesto a que… “Bueno, tengo límites de seguridad en la pantalla principal para delimitar el problema”.

Sean O'Dell:
Correcto.

Rob Ainscough:
¿Verdad? Y luego tengo algo dinámico dentro de eso.

Sean O'Dell:
Sí …

Rob Ainscough:
para luego darme el control. Lo hago. Y eso es algo que he visto que se menciona como una solución realmente eficaz a los problemas, para empezar a delimitar el problema. Sí.

Rob Ainscough:
Intentando alcanzar un nivel de seguridad suficiente para empezar. Y eso no significa necesariamente una seguridad perfecta. No es ahí donde queremos estar.

Sean O'Dell:
Sí …

Rob Ainscough:
pero es un excelente punto de partida para los profesionales.

Sean O'Dell:
¿Estás seguro de que no fuiste a mi taller ayer? Porque yo... yo quería

Rob Ainscough:
a,

Sean O'Dell:
pero mi, eh, mi memoria muscular... Andrew Cameron y yo usamos esa, usamos esa frase exacta.

Sean O'Dell:
Somos como, “Aquí es, aquí es donde quieres llegar. Empieza aquí”. Como, como tú, tú… Un buen ejemplo es poner una barandilla. Sí. Busca el envenenamiento del modelo. Sí, eso es una victoria. Sí. El siguiente es el enrutamiento semántico. Bien. ¿Necesitas usar Opus 47 para chatear con alguien? No. Puedes, si te gusta quemar dinero, ¿verdad?

Sean O'Dell:
Pero es poco a poco, poco a poco, poco a poco.

Rob Ainscough:
Derecha.

Roy Akerman:
Así que ahora que le has dado un orden a la palabra y eso fue, perfectamente, código, gracias por eso. Palabra, no una palabra de moda, sino el, como el bombo publicitario sobre Mythos. ¿Alguna opinión al respecto que te sientas cómodo compartiendo?

Sean O'Dell:
Esto convertirá la seguridad en un principio de primera clase.

Rob Ainscough:
Así que justo antes de llegar a la ronda de preguntas rápidas, algo que quería agregar a eso, porque realmente creo que la frase que siempre me viene a la mente cuando pensamos en la frontera, no necesariamente en Mythos, sino en la frontera en general, es que si es más probable encontrar puntos de apoyo porque esto democratizó la capacidad de intentarlo para personas que no tienen experiencia y son expertas en descubrir vulnerabilidades que pueden ser explotadas, lo que realmente está haciendo desde una perspectiva de identidad para mí es elevar el listón.

Rob Ainscough:
Esto eleva el listón en comparación con lo que hemos tenido que hacer en el pasado y con lo que quizás hemos tenido dificultades, y realmente nos hace reflexionar sobre la deuda técnica que hemos acumulado en materia de identidad. Y eso es algo que, dejando de lado la adopción por parte de agentes, es muy importante que comprendamos: ese listón está subiendo, y subiendo muy rápido.

Sean O'Dell:
Creo que eso va a acelerar la limpieza. De verdad lo creo. De acuerdo. De verdad lo creo. Mm-hmm.

Rob Ainscough:
De acuerdo. Sí. De acuerdo. Tiene que ser así. Bien. Vamos a pasar a nuestras preguntas rápidas. Hacemos esto con todos nuestros invitados. De acuerdo. Empezaremos con un mito. Un mito. ¿Cuál es un mito sobre la identidad o la seguridad?

Sean O'Dell:
¿Cuál es un mito sobre la identidad o la seguridad?

Sean O'Dell:
IGA es la respuesta a todas tus preguntas.

Rob Ainscough:
Podría decirse que la respuesta a ninguna. Estoy de acuerdo. Uf. Muy bien. Una mala práctica. Entonces, ¿qué es lo que los líderes, los líderes de seguridad hacen mal?

Sean O'Dell:
No confían en sus profesionales más experimentados y con mayor trayectoria.

Rob Ainscough:
Wow.

Sean O'Dell:
Suelen recurrir a los proveedores para obtener una respuesta, cuando si la tienen internamente, deberían confiar en sus propios recursos.

Sean O'Dell:
Estoy de acuerdo con eso. Simplemente ser, ser honesto, ser honesto.

Rob Ainscough:
Significativamente. Sí. Sí.

Sean O'Dell:
Opiniones de terceros: Repito, no, no, no en absoluto donde trabajo, de ninguna manera, siendo muy, muy honesto. Pero, en general, eso es... Tengo suficientes amigos que son profesionales, y es como si estuvieran luchando contra el, el, el, el embudo de ventas de [insertar nombre de la empresa aquí], y es...

Sean O'Dell:
No puedes ganar.

Roy Akerman:
Sí.

Rob Ainscough:
Sí, creo que valorar la opinión de terceros por encima de la propia es definitivamente un problema. Sí. Definitivamente un problema. Muy bien, una dura verdad. ¿Cuál es una dura verdad?

Sean O'Dell:
¿En la vida o en la identidad?

Rob Ainscough:
Primero la identidad, luego la vida.

Sean O'Dell:
Vaya, esto es genial. Una dura verdad: la autorización importa.

Roy Akerman:
Wow.

Sean O'Dell:
Eso es difícil

Rob Ainscough:
la verdad.

Roy Akerman:
Vaya. Esto es... Es un problema fácil de resolver, ¿verdad? La gente se está olvidando de eso.

Sean O'Dell:
Sí. Pensamientos profundos.

Roy Akerman:
sí …

Sean O'Dell:
Por Sean O'Dell.

Rob Ainscough:
Respuestas de dos palabras de Sean O'Dell. La última: sobrevalorada. ¿Cuál es una tendencia, y sospecho que sé lo que vas a decir, que está sobrevalorada? IA

Sean O'Dell:
seguridad.

Rob Ainscough:
Me preguntaba si dirías eso. Me preguntaba si dirías eso.

Sean O'Dell:
Di eso. La cuestión era entre la seguridad de la identidad o la seguridad de la IA.

Roy Akerman:
Sí. Soy

Sean O'Dell:
como, “Eh, vamos con la IA”.

Roy Akerman:
Tenemos, ¿qué dijiste? 9,000 proveedores por aquí, y quiero ser imparcial con respecto a los proveedores por un momento. ¿Hubo algo en esos tres o cuatro días, cuando las palabras empezaron a llegar, que te entusiasmara?

Roy Akerman:
Un concepto.

Sean O'Dell:
Sí. Se trata más bien del aspecto legal, del lado legal de las decisiones y el razonamiento que toman los LLM en nombre de. Es tan extraño porque siempre pensé que se trataba de delegar este poder notarial, que en realidad no era consentimiento, a Algo. No tienes ni idea de qué es ese algo.

Sean O'Dell:
Entonces hubo una charla, creo que es mañana o hoy.

Roy Akerman:
Mm-hmm.

Sean O'Dell:
Se trata de aportar identidades, de dotar de identidad o identidades a los modelos. Porque cuando uno habla con un haiku o un soneto, da igual, uno no conoce realmente el linaje de ese modelo. No lo sabe.

Rob Ainscough:
Mm

Sean O'Dell:
Se autoidentifica como sí, soy la, soy la siguiente versión. Tú, tú… Cuando haces clic en el menú desplegable, no tienes ni idea. Sí. Ninguna. Así que si le pides que haga algo por ti en tu nombre, necesitas tener una verificación de razonamiento en la capa LLM para decir: “Demuéstrame que tu providencia vino… tu linaje, como creciste desde, a, un niño pequeño hasta un adulto”.

Sean O'Dell:
Y si eso, no puedes probarlo, no tienes, no tienes el, el linaje de cómo confío-

Rob Ainscough:
Bien …

Sean O'Dell:
¿Que lo que le pregunté hace seis días debería darme la misma justificación? Y el nivel superior a eso es que aquí hay implicaciones en el mundo real. Entonces, si estás en el trabajo haciendo algo, confiando en la IA para que te ayude con una respuesta, y te equivocas...

Rob Ainscough:
Mm

Sean O'Dell:
Y aquí hay finanzas, ¿quién tiene la culpa? ¿Eres tú? ¿Es...? Tiene que ser, tiene que ser un principio o tiene que ser una empresa o algo. No puede ser simplemente: "Ah, sí, es la IA". No, tiene que ser... La responsabilidad tiene que recaer sobre alguien. Sí. Y creo que si conseguimos eso, obtendremos la respuesta a cuál es la intención y por qué.

Sean O'Dell:
Y el comercio, el comercio de la agenda, tienen algo así.

Roy Akerman:
Mm-hmm.

Sean O'Dell:
¿Por qué haces esto? Demuéstrame este pago. ¿Para qué lo usas? Mm. Y la identidad, estamos lidiando con ese problema. Pero si miras el área de comercio, no es perfecto, pero ¿sabes qué? Es algo. Sí. Porque ahora mismo todos dicen: "Oh, control de acceso basado en intenciones".

Sean O'Dell:
Yo digo: “Por favor, no más espaldas de estrella”. No las necesitamos. No, no necesitamos más. No las necesitamos. Sí. Como IBAC. No, por favor, paren. O sea, yo, quiero decir, por favor. O sea, está bien. Si, si es lo tuyo, está bien, pero yo digo: “Otra…” Porque ahora es la relación BAC y PBAC y ABAC. Yo digo: “Oh, toda una sopa de letras”, ¿verdad?

Roy Akerman:
Sí.

Sean O'Dell:
Muy pronto tendremos AIBAC, y yo estoy como, ¿qué es...? Eso es un poco gracioso.

Roy Akerman:
Huelo aquí a otro, como, genial- Deberíamos usar

Sean O'Dell:
ese.

Roy Akerman:
Deberíamos usar eso… otro- Nosotros

Sean O'Dell:
debería usar eso…

Roy Akerman:
Sí, otro gran tema para un episodio. Pero creo que sí, te permitiré llegar tan lejos como quieras con el no determinismo, pero en el momento en que quieras hacer una acción, necesitas volver atrás.

Sean O'Dell:
Sí:

Roy Akerman:
y para darme una justificación que luego pueda usar para aprobar algo.

Sean O'Dell:
Y por eso los identificadores son importantes. Sí. Y por eso tienes que... Volver al punto de partida... tienes que vincularlo con la responsabilidad. Porque estamos pasando de... razonamiento, ayudándome, cosas, pero va a empezar a hacer cosas.

Sean O'Dell:
Y cuando hace cosas, como Dios no lo quiera, porque esto nunca ha sucedido, borra algo.

Rob Ainscough:
Sí.

Sean O'Dell:
¿Por qué lo hizo?

Rob Ainscough:
Sí.

Sean O'Dell:
Oh, porque fue una, fue una mala, una mala indicación. ¿Lo fue? Mm. ¿O fue que usaste el modelo equivocado, el, el modelo equivocado? ¿El modelo razonó correctamente? ¿Fue tu indicación? ¿Fue el usuario final?

Sean O'Dell:
¿Qué era? Ahora mismo todos dicen: “Sí, es la, es solo IA”. Yo digo: ya no puedes responder a la pregunta diciendo que es IA. Quiero un… Bien… un punto específico del problema. En ingeniería de software, es, es observabilidad. Sí.

Rob Ainscough:
Sí.

Sean O'Dell:
¿Dónde está? Muéstrame dónde está. Está

Rob Ainscough:
Atribución, ¿verdad?

Sean O'Dell:
Sí. 100%.

Rob Ainscough:
Muy

Roy Akerman:
Interesante. Genial. Hay muchas más preguntas, pero tenemos que finalizar esto. Así que muchas gracias, Sean.

Sean O'Dell:
Un placer. En cualquier momento.

Roy Akerman:
Y por venir y compartir tus pensamientos. Apuesto a que, incluso si nos vemos dentro de uno o dos meses, las respuestas...

Sean O'Dell:
Todos diferentes…

Roy Akerman:
Sí, todos diferentes. Los problemas-

Sean O'Dell:
Tristemente

Roy Akerman:
crecerá.

Sean O'Dell:
Sí.

Roy Akerman:
pero como dijiste, estamos aquí para iterar, estamos aquí para asumir este problema. Sí. No creo que vaya a estabilizarse o a estancarse en algunos lugares. Esa es la nueva realidad. Sí. Todo está cambiando súper rápido, y estamos aquí para... Mm-hmm...

Rob Ainscough:
al menos competir.

Rob Ainscough:
Bueno, tenemos que aprender y crecer juntos, ¿verdad? Sí. Y por eso estamos...

Sean O'Dell:
Aquí, por eso estamos compartiendo,

Rob Ainscough:
Por eso estamos haciendo el podcast. Sin duda. Así que gracias de nuevo, Sean.

Sean O'Dell:
Cuando quieras. Mucha suerte con tu charla. Muchas gracias.

Roy Akerman:
Lo agradecemos. Lo veremos desde la distancia. Gracias.

Rob Ainscough:
Gracias. Esto es todo por este episodio de Identity Decoded.

Roy Akerman:
Si esta conversación ha cambiado algo de tu perspectiva sobre la seguridad de la identidad, compártela con alguien que esté lidiando con los mismos desafíos.

Rob Ainscough:
Y no olvides seguir el programa para no perderte nada.

Rob Ainscough:
siguiente.

Identidad decodificada

con Roy Akerman y Rob Ainscough

Suscríbete para no perderte ningún episodio nuevo.