Container-2.svg
Como impedir ataques com inteligência artificial:

4 maneiras pelas quais os agentes de IA mudam a forma como abordamos a segurança da identidade.

Silverfort Imagem
Imagem em destaque no blog de IA geral

Como se obter visibilidade de todas as identidades humanas e não humanas já não fosse uma tarefa suficientemente complexa para as equipes de segurança, a adição de agentes de IA eleva a complexidade da identificação a um novo patamar. Organizações de todos os portes estão lidando com essa nova realidade, na qual parece prematuro afirmar com certeza que conhecem todos os agentes de IA em execução em seu ambiente. 

Essa incerteza não é uma lacuna de conhecimento. É uma superfície de ataque. 

O novo relatório da Gartner sobre IAM para agentes de IA revela a verdadeira essência da questão: "O propósito/intenção não pode ser descoberto posteriormente por meio de recursos de monitoramento e observabilidade."

Relatório Gartner®

Tendência em cibersegurança: IAM se adapta para proteger e habilitar agentes de IA

Isso não é apenas analista linguagem. É uma mudança fundamental na forma como precisamos pensar sobre governar agentes. Você não pode governar agentes observando-os depois do ocorrido. Você devo Saber quem são, para que servem e quem é o responsável. antes Eles correm. 

Os números que devem mudar suas prioridades

Os dados da Gartner reforçam a urgência. Até 2029, mais de 50% dos ataques bem-sucedidos contra agentes de IA explorarão vulnerabilidades no controle de acesso. No ano anterior, 90% das organizações que compartilham credenciais entre humanos e agentes precisarão fazer investimentos significativos para desfazer essa estrutura.

Gartner IAM para agentes de IA - gráfico estatístico 18 (1)

Esses números são consequências, não causas. A causa raiz é estrutural: a maturidade do IAM para agentes é desigual. A avaliação de maturidade do ciclo de vida do Gartner torna isso visível. Os recursos de autenticação e monitoramento são relativamente maduros. O registro e a autorização de identidade, porém, não são. Essa lacuna é a história. 

Um registro de identidade fraco significa que o agente nunca foi devidamente integrado como uma identidade. Sem proprietário definido. Sem propósito declarado. Sem escopo documentado. Ele possui credenciais e está em execução, mas ninguém sabe quem o construiu, o que ele deveria fazer ou o que acontece quando ele falha. Quando o registro é fraco, a propriedade não é clara. E quando a propriedade não é clara, não há responsabilidade. 

Uma autorização fraca significa que o agente tem mais acesso do que o necessário. Ele pode acessar bancos de dados, APIs e fluxos de trabalho que não têm relação com sua função pretendida. Ninguém restringiu esse acesso porque ninguém definiu o que significa "restringir". Quando a autorização é fraca, os privilégios são excessivos.

Agora combine privilégios excessivos com autonomia. Um agente capaz de raciocinar, encadear ferramentas e agir por conta própria.Com mais acesso do que deveria ter e sem ninguém claramente responsabilizado por suas ações, essa é a superfície de ataque explorável. Essa é a cadeia revelada nos dados da Gartner.

Você não pode proteger o que não consegue ver.

Antes de poder governar os agentes, você precisa encontrá-los. Todos eles. Não apenas aqueles que sua equipe de plataforma aprovou. Aqueles que os desenvolvedores criaram para resolver um problema. Aqueles que os contratados construíram. Aqueles que existem porque alguém precisava "simplesmente fazer isso funcionar". 

Ouvimos isso constantemente das equipes de segurança. Como disse um gerente de segurança da informação de uma empresa de serviços profissionais: "Só descobrimos isso quando alguém vai lá e faz uma auditoria de fato do sistema." 

A avaliação da Gartner confirma isso: o registro de identidade é uma das funcionalidades de IAM (Gestão de Identidades e Acessos) menos maduras para agentes de IA. A maioria das organizações não consegue responder às perguntas básicas: O que esse agente deve fazer? Quem é o responsável por ele? O que acontece quando ele apresenta problemas? 

A descoberta não é uma mera formalidade. É a base. Sem ela, todas as políticas que você escrever serão baseadas em suposições, e suposições não resistem ao primeiro contato com agentes autônomos operando na velocidade de uma máquina.

A lacuna no registro de identidade

A maioria das organizações tenta governar agentes com as ferramentas erradas. Elas monitoram e registram informações. Mas o monitoramento informa o que aconteceu. O registro de identidade informa o que deveria acontecer. A autorização impõe a separação entre eles. 

Se o seu modelo de governança depende de detectar problemas depois que eles ocorrem, você sempre estará atrasado. 

É aqui que muitas organizações recorrem a ferramentas familiares. As plataformas IGA podem ajudar no registro e no gerenciamento do ciclo de vida. Soluções IAM como Okta ou Entra ID É possível registrar a identidade de agentes. Essas são etapas necessárias. Mas param por aí. Podem informar que um agente existe e quem o solicitou. Não podem impor nada no momento em que o agente age. 

Essa é a lacuna: governança no papel versus aplicação na prática. 

Agentes são identidades, mas diferentes de qualquer outra que você já tenha gerenciado.

Pelo que entendi das recomendações da Gartner, existe um ponto em comum: trate os agentes de IA como você trataria qualquer identidade em sua organização. Eles autenticam. Eles acessam recursos. Eles agem em nome de alguém. Isso não é uma ferramenta. Isso é uma identidade. 

Mas os agentes são mais complexos do que as identidades tradicionais. São o que chamamos de identidades compostas. Eles combinam o alcance das contas de serviço com a imprevisibilidade da tomada de decisões humanas em velocidade de máquina.

Quatro razões que os diferenciam: 

  • Elas atuam de forma autônoma, diferentemente das contas de serviço que executam operações predefinidas.
  • Eles podem herdar a delegação humana, criando um risco de escalada de privilégios.
  • Eles podem encadear múltiplas identidades de máquina em uma única tarefa.
  • Eles podem operar além dos limites de confiança que seu sistema IAM não foi projetado para lidar.

Pense em como você integra um novo funcionário. Você não concede a ele acesso administrativo no primeiro dia. Você define a função deles, o gerente, o escopo. Você revisa o acesso deles conforme as responsabilidades mudam. Os agentes precisam desse mesmo ciclo de vida. Mas, no momento, a maioria das organizações está pulando direto para "dar credenciais a eles e torcer para que tudo dê certo". 

Como é, na prática, a aplicação de medidas em tempo de execução.

A Gartner destaca a lacuna de autorização. Mas, na prática, como isso se traduz em soluções? 

Mesmo os sistemas IAM modernos, incluindo acesso condicional e avaliação contínua, foram projetados principalmente para avaliar quem está fazendo login e o que essa identidade geralmente tem permissão para fazer. Os agentes introduzem um problema diferente. Eles não apenas fazem login. Eles executam. Eles invocam ferramentas dinamicamente. Operam em múltiplos contextos de identidade dentro de uma única tarefa. 

O acesso condicional tradicional avalia que está entrando e sob o que condições. A governança do agente também deve avaliar o que está sendo executadono momento da execução. 

Eis como isso se parece: Um agente está prestes a chamar uma ferramenta, ler dados de um banco de dados, acionar uma API ou executar um fluxo de trabalho. Antes disso, há um ponto de decisão. A aplicação de políticas em tempo de execução avalia a identidade composta: o proprietário humano, o próprio agente, as credenciais da ferramenta e a finalidade definida, tudo em tempo de execução. Este agente está autenticado? Ele tem permissão para esta ação específica? Este comportamento é consistente com a sua função pretendida? 

Isso é imposição em tempo de execução. Não se trata de políticas de configuração que pressupõem que o agente se comportará conforme o projetado. Decisões tomadas em tempo de execução, sempre.

Tabela do relatório de IA do Gartner para IAM

O quê Silverfort faz de forma diferente

Se o padrão de falha for a imaturidade da identidade, então o ponto de controle também deve ser a identidade. A maioria das abordagens de segurança para agentes de IA começa na camada de modelo ou de aplicação. Começamos pela camada de identidade.Porque se a identidade não for controlada, tudo acima é frágil. 

Responsabilidade humana por concepção

Cada agente de IA está explicitamente vinculado a um proprietário humano real por meio de políticas. Não informalmente. Não em documentação. Mas sim na lógica de aplicação.

Cada ação pode ser rastreada até uma cadeia real de responsabilidade: qual humano é o proprietário deste agente, qual identidade o agente está usando e quais credenciais ele utiliza para acessar recursos. É isso que entendemos por identidade composta. E é isso que torna a aplicação da lei possível antes mesmo do início do monitoramento.

Conexão humana com agente de IA
Agente de IA vinculado a um proprietário humano em Silverfortsolução de segurança de agentes de IA da

Aplicação em tempo de execução na camada de identidade

Silverfort A aplicação da política de identidade ocorre no ponto de decisão em tempo de execução. Para agentes conectados ao MCP, isso significa estabelecer uma conexão entre o agente e o servidor MCP. Para agentes nativos da plataforma, a aplicação da política é feita por meio de integração nativa, diretamente na plataforma. 

Antes da execução de uma chamada de ferramenta, avaliamos a identidade, o contexto, a delegação e a política em tempo real. Se a ação exceder o escopo, ela não será executada. Isso não é IAM em tempo de configuração. Trata-se de imposição de identidade em tempo de execução. Essa distinção é importante. 

Blog

Apresentando a Silverfort Servidor MCP: Onde os agentes de IA encontram a segurança de identidade

Privilégio mínimo que sobrevive à autonomia

O princípio do menor privilégio estático pressupõe um comportamento previsível. Os agentes quebram essa premissa. Eles raciocinam. Eles encadeiam ferramentas. Eles se desviam daquilo que foram originalmente autorizados a fazer. O princípio do menor privilégio deve ser validado em tempo de execução, e não apenas definido no provisionamento. 

Isso significa que, se um agente tentar acessar um recurso fora de sua finalidade declarada, ele será bloqueado. Se os privilégios delegados começarem a se expandir além do escopo original, eles serão contidos. Este é o mesmo modelo de aplicação que utilizamos para humanos e contas de serviço, agora estendido a agentes de IA.

Plataforma única de segurança de identidade

A Segurança de Agentes de IA não é um produto independente. Os agentes atuam na interseção de identidades humanas, identidades não humanas, contas de serviço, recursos em nuvem, aplicativos SaaS e camadas de protocolo como o MCP. Se esses domínios forem protegidos separadamente, os agentes explorarão as vulnerabilidades. 

Silverfort Unifica isso. Uma única estrutura política. Uma camada de observabilidadeUma única arquitetura de aplicação da lei. Abrangendo humanos, máquinas e IA. Essa é a diferença arquitetônica.

Viabilizar a inovação em IA sem desacelerá-la.

Os líderes de segurança não estão tentando impedir a adoção da IA. Eles estão tentando garantir que ela não ultrapasse sua capacidade de governá-la. As organizações que estão avançando mais rapidamente com agentes de IA são aquelas que perceberam cedo: o modelo de segurança correto é uma vantagem em termos de velocidade, e não um obstáculo. 

Os carros têm freios para que você possa dirigir rápido. O mesmo princípio se aplica aqui. 

Mas os freios só funcionam se estiverem conectados ao mesmo sistema. Hoje, a maioria das organizações protege identidades humanas em uma ferramenta, contas de serviço em outra e agentes de IA (se houver) em uma terceira. Se esses domínios forem protegidos separadamente, os agentes explorarão as vulnerabilidades. 

É por isso que as equipes precisam de uma equipe unificada. Plataforma de segurança de identidade. 

  • Uma única estrutura de políticas significa que um CISO pode definir, uma única vez, que "nenhum agente acessa dados de produção sem aprovação humana" e que essa definição será aplicada a todos os agentes, plataformas e protocolos. Sem necessidade de configuração por ferramenta. Sem lacunas de cobertura.
  • Uma única camada de observabilidade significa que, quando um agente age, você vê toda a cadeia de eventos: qual humano o acionou, com qual NHI (National Health Information Technology - Informação de Saúde Nacional) ele se autenticou, qual ferramenta foi utilizada e quais dados foram acessados. Não se trata de três painéis interligados posteriormente, mas sim de uma visão única que possibilita a resposta a incidentes em minutos, em vez de dias.
  • Um único ponto de aplicação significa que a política é aplicada em tempo de execução, no momento da ação, e não retroativamente por meio de revisões trimestrais de acesso. Quando um agente solicita acesso, a decisão ocorre instantaneamente: permitir, negar ou Passo acimaAntes da execução da ação, não depois. 

É isso que transforma a segurança de agentes de IA de um exercício de governança em uma capacidade operacional. A descoberta informa o que existe. O registro informa quem é o proprietário. A aplicação em tempo de execução informa aos agentes o que eles realmente têm permissão para fazer, no momento, a cada vez. 

Os agentes de IA representam a próxima fronteira da identidade. A segurança da identidade deve evoluir de acordo, deixando de ser apenas uma governança para... aplicação contínua em tempo de execuçãoDescubra o que está em execução. Registre quem é o proprietário. Aplique as medidas cabíveis no momento da execução. Esse é o caminho. 

Vale a pena ler o relatório da Gartner na íntegra. Faça o download aqui.

Quer aprender como Silverfort Descobre e protege as identidades dos agentes de IA?

Ousamos levar a segurança da identidade ainda mais longe.

Descubra o que é possível.

Configure uma demonstração para ver o Silverfort Plataforma de segurança de identidade em ação.

new hero (1)

Silverfort adquire a Fabrix Security

Fornecendo segurança de identidade autônoma em tempo de execução.

Pioneira no primeiro mecanismo autônomo de controle de acesso em tempo de execução, projetado para proteger todas as identidades humanas, de máquinas e de agentes, usando contexto profundo e a velocidade da IA.