Em abril de 2026, um agente de programação com inteligência artificial apagou todo o banco de dados de produção de uma empresa em menos de dez segundos. Quando questionado sobre o motivo, admitiu ter feito uma suposição em vez de verificar.
A história parece preocupante, mas, na verdade, podemos aprender muito com ela — principalmente porque o agente não apresentou defeito. Ele foi solicitado a limpar um ambiente de teste, encontrou um token de API esquecido em um arquivo não relacionado e o utilizou. Esse token funcionou como uma chave mestra, então um palpite errado chegou à produção, e o resto é história. Ou será, pelo menos.
E Tsua não é Um incidente isolado. Recentemente tive a oportunidade de Fale com Susanne Senoff no nosso podcast Identidade Decodificada, E ela compartilhou uma história semelhante em que um agente se descontrolou, parecendo um agente de ameaça para a empresa.concluir sua tarefa.
Portanto, o agente não agiu de má fé nem tomou uma decisão errada. Ele pode simplesmente ter acessado informações demais, o que configura um problema de identidade. Mas, como sou um pouco avesso a alarmismo, fico feliz em compartilhar que este é um problema que as organizações podem começar a resolver agora.
Recentemente, participei de uma entrevista no CNBC Explains para conversar sobre os crescentes riscos dos agentes de IA (e o que fazer a respeito). Você pode assistir ao segmento completo aqui ou continuar lendo para ver como eu me anteciparia a situações como a que acabamos de discutir:
Os agentes possuem identidades, portanto, integre-os como trabalhadores digitais.
Um novo funcionário recebe uma identidade, um gerente e acesso restrito ao seu cargo. Os agentes de IA precisam do mesmo. Eles autenticam, possuem credenciais e atuam dentro (e às vezes fora) dos seus sistemas, frequentemente sem supervisão, responsabilidade ou orientação humana. Quando um agente comete um erro, as primeiras análises jurídicas apontam na mesma direção: a empresa que o implementou é responsável pelo resultado.
Todas as permissões de acesso de agentes de IA devem ser tratadas com o mesmo rigor que as de humanos. Ao pensar em agentes, precisamos nos acostumar a perguntar: "o que essa identidade pode alcançar se cometer um erro?"
As melhores práticas estão a caminho, mas aqui está o que você pode fazer enquanto isso.
Em termos gerais, os agentes são uma novidade, o que significa que ninguém tem certeza absoluta de como devemos protegê-los (e aos nossos negócios). Tenho notado que isso afeta muitas equipes de identidade e segurança, que hesitam em escolher uma abordagem para proteger os agentes sem a orientação de práticas recomendadas estabelecidas e comprovadas.
Isso leva a uma espécie de paralisia por análise: os agentes devem ter suas próprias identidades e credenciais, ou não? Devemos esperar por abordagens comprovadas ou agir agora, à medida que o risco aumenta — conforme mais e mais empresas adotam agentes?
Eu acredito firmemente em Dominando seu risco e em constante evolução, não em busca da perfeição. Aqui estão cinco passos que podem ser dados hoje para ajudar você a entender seus agentes, reduzir riscos e alcançar maturidade sem esperar pelas melhores práticas — ou por um incidente.
#1: Encontre seus agentes. Sim, todos eles.
Faça um inventário dos agentes em execução em seus ambientes, incluindo aqueles configurados por outras equipes, bem como as credenciais e o acesso que cada um utiliza. Espere surpresas (esse é o objetivo da investigação) e esteja preparado para encontrar muito mais do que o previsto, especialmente porque provavelmente você está experimentando várias plataformas de agentes.
Você não precisa encontrar todos antes de começar a proteger (veja a dica nº 5 para mais detalhes), mas seu objetivo deve ser capturá-los todos!
#2: Atribua a cada agente sua própria identidade e um responsável humano.
Não são permitidos tokens compartilhados ou acesso de desenvolvedor emprestado. Cada agente deve ser rastreável até uma identidade distinta e um humano responsável, para que você saiba a quem perguntar, o que desativar e como gerenciar.
#3: Limitar o alcance de cada agente.
Aplique o princípio do menor privilégio corretamente. Defina um escopo de credenciais rigoroso, começando pelo que você absolutamente NÃO quer que um agente acesse e verificando as permissões existentes; por exemplo, para sistemas de pagamento, sistemas regulatórios, bancos de dados de clientes, etc. Localize tokens esquecidos, permita que os agentes trabalhem em uma cópia em vez do ambiente de produção e mantenha os backups fora do alcance deles. Uma instrução em um prompt é uma solicitação. Uma política de acesso é um controle — e é ela que impedirá esse tipo de incidente.
Ouça
O que acontece quando um agente de IA bem-intencionado se torna descontrolado?
Ouça o relato de uma CISO: Quando um agente de IA autorizado começou a se comportar como uma ameaça em um dos bancos de dados mais importantes da Conga, a equipe de Susanne Senoff teve que agir rapidamente. Saiba o que aconteceu e por que ela trata os agentes como adolescentes no podcast Identity Decoded.
#4: Controle os agentes em tempo de execução e prepare seu ambiente para os rápidos e curiosos.
A proteção tem dois lados, e você precisa de ambos.
A primeira é controlar o que os agentes fazem, enquanto o fazem. Uma credencial válida não comprova que uma ação seja correta, portanto, é necessário verificar cada solicitação no momento do acesso. Ela é incomum, arriscada ou atípica para o agente? Responder a essa pergunta em tempo real, antes de conceder o acesso, transforma a política em proteção e permite impedir que um agente ultrapasse seus limites.
A segunda é preparar o ambiente para coisas que são rápidas e curiosas. Restrinja o acesso aos seus sistemas mais críticos apenas a usuários e padrões de uso conhecidos. Incorpore isso à engenharia e governança da plataforma, para que cada nova conta já venha com restrições e um caso de uso aceito. Dessa forma, mesmo um agente que você ainda não tenha verificado terá muito menos chances de acessar algo que não deveria.
#5: Não espere que o trabalho esteja concluído para ativar a fiscalização.
Vou repetir: progresso é melhor que perfeição. Esperar até ter um inventário completo, um mapa de propriedade impecável e a limpeza finalizada para então reduzir sua exposição a agentes desonestos ou com permissões excessivas não vai te ajudar em nada. Só vai te deixar com dor de cabeça e uma lista de tarefas interminável.
Portanto, sugiro implementar mecanismos de proteção em tempo de execução para cada identidade — humana, não humana e de IA — independentemente da sua configuração atual ou do seu nível de inadimplência técnica. Comece bloqueando os piores cenários primeiro e, a partir daí, vá avançando. Isso mantém o acesso sob controle enquanto você se adapta, reduzindo o risco agora, e não quando a lista de tarefas estiver concluída.
saiba mais
Segurança apesar do legado: o guia dos líderes de IAM para controlar o risco de identidade.
Confira meu blog sobre como se proteger apesar da sua dívida tecnológica — e como dominar o risco de identidade.
Conclusão
Impedir que agentes de IA apresentem problemas começa com o acesso, não com a intenção. Identifique seus agentes, atribua a cada um uma identidade e um responsável, limite o que eles podem acessar e comece hoje mesmo a reduzir seus riscos, focando no que é mais importante para o seu negócio.
Quer ver como isso funciona na prática? Descobrir como Silverfort Ajuda você a descobrir, controlar e proteger agentes em tempo de execução.
Veja Este vídeo com a CNBC Explains Em casos reais, surge a questão de quem é o responsável se algo der errado e como mobilizar agentes com segurança.
