Por qué la IA necesita una buena gobernanza

A lo largo de mi carrera, descubrí que un principio sigue siendo cierto: aunque la tecnología cambia constantemente, los patrones que la gobiernan permanecen estables.

Durante los últimos 30 años, he visto enormes cambios en la tecnología: desde la computación central hasta la computación de escritorio y la computación en la nube, sin mencionar una serie de nuevos enfoques de desarrollo de código. Sin embargo, a pesar de estos cambios, he descubierto que los patrones de gobernanza siguen siendo los mismos. Una y otra vez he visto a personas ignorar esos patrones, sugiriendo que la nueva forma ya no necesita los controles anteriores. Y también he visto a estas mismas personas aprender –a menudo dolorosamente– que, efectivamente, esos patrones seguían siendo verdaderos y relevantes.

Hoy en día, la Inteligencia Artificial (IA) está de moda. Es la nueva tecnología de moda de la que todo el mundo habla. El enorme poder de procesamiento de la IA en forma de mente colmena (su capacidad para interpretar el lenguaje y aplicar una lógica compleja para encontrar respuestas en solo segundos) tiene un potencial inmenso.

Sin embargo, es esencial recordar que la IA todavía está en su infancia. La tecnología es inmadura, no está capacitada y no está gobernada. Si quiere convertirse en una parte productiva de nuestra sociedad, debe regirse por los mismos principios que han gobernado toda la tecnología anterior.

Entonces, ¿cuáles son los patrones probados que debemos aplicar a la IA? Aquí hay cinco:

Los derechos de acceso a la IA deben controlarse y limitarse

El probado principio de menor privilegio debe aplicarse a los motores de IA y a cualquier software que los incorpore. Se me acercaron proveedores que venden tecnología impulsada por IA y me pidieron las claves del reino: la capacidad de leer y escribir en las áreas más sensibles de mi empresa. Las organizaciones deben tener mucho cuidado al conectarse a tecnologías basadas en IA.

La IA es una identidad y debe gobernarse como tal

Todos los patrones comprobados de incorporación, certificación, recertificación y terminación deben aplicarse a una identidad de IA. Esto significa incorporar las mejores prácticas en torno gestión de acceso privilegiado, acceso justo a tiempo y protección de la cuenta de servicio con el motor de IA. Trátelo como una persona y gobiérnelo como cualquier otra identidad en su organización.

La IA debe ser monitoreada

El monitoreo integral es un patrón probado para detectar comportamientos anómalos, incluida la identificación de personas internas deshonestas o comprometidas. La IA no debería ser diferente. Como cualquier entidad, está sujeta a un mal uso por parte de malos actores y puede ser manipulada para romper las reglas y actuar fuera de su propósito original. Debemos monitorear la IA para detectar desviaciones e indicadores de actividad maliciosa (IoMA) y ser capaces de responder en consecuencia, incluida la desactivación del acceso y el aislamiento de amenazas.

La integridad, precisión y validez de las entradas y salidas de la IA deben comprobarse y limitarse mediante validaciones y reglas

Hemos demostrado durante mucho tiempo el valor de las revisiones por pares, las validaciones de entrada y salida en código y otros procesos de validación de integridad. Estos patrones también deben aplicarse a la IA. Debemos verificar el resultado, tal vez con IA alternativa o actores humanos; debemos gobernar qué insumos se pueden dar definiendo reglas en torno a los insumos y el acceso; debemos gobernar la producción; y debemos aplicar los principios de prevención de pérdida de datos (DLP) y protección de la propiedad intelectual (IPP) a cualquier implementación de IA que pueda acceder a nuestros datos corporativos críticos.

La IA necesita gestión del ciclo de vida y de la configuración del software

Debemos aplicar los principios probados de crear entornos de prueba, validar y controlar rigurosamente los cambios e implementar procesos de aprobación antes de permitir cambios en los sistemas de IA. Porque la IA puede cambiar dinámicamente en la producción, pero deberíamos establecer barreras de seguridad. El control de la producción es esencial para evitar consecuencias no deseadas del software impulsado por IA que no se probó bien antes de su implementación.

Ciertamente, hay más cosas a considerar, pero mi regla general es la siguiente: trate a la IA como cualquier otro empleado, identidad o sistema. Aplique el mismo pensamiento y controles que usaría para cualquiera de ellos. No asuma que es infalible o que todo lo sabe. Aplíquele patrones probados, al igual que con las tecnologías anteriores. Al hacerlo, mantendrá seguros su reputación, sus clientes y las joyas de la corona de su empresa.

Interesado en aprender cómo Silverfort ¿Puede ayudar a gobernar la IA y proteger la identidad? Comuníquese con uno de nuestros expertos .