Por que a IA precisa de uma boa governança

Ao longo da minha carreira, descobri que um princípio permanece verdadeiro: embora a tecnologia mude constantemente, os padrões que a governam permanecem estáveis.

Nos últimos 30 anos, tenho visto grandes mudanças na tecnologia: da computação mainframe à computação desktop e à computação em nuvem, sem mencionar uma série de novas abordagens de desenvolvimento de código. No entanto, apesar destas mudanças, descobri que os padrões de governação permanecem os mesmos. Repetidamente tenho visto pessoas ignorarem esses padrões, sugerindo que a nova forma não precisa mais dos controles anteriores. E também vi essas mesmas pessoas aprenderem – muitas vezes de forma dolorosa – que, de facto, esses padrões permaneciam verdadeiros e relevantes.

Hoje, a Inteligência Artificial (IA) está na moda. É a nova tecnologia de que todos falam. O enorme poder de processamento da IA ​​– a sua capacidade de interpretar a linguagem e aplicar lógica complexa para encontrar respostas em apenas alguns segundos – tem um potencial imenso.

No entanto, é essencial lembrar que a IA ainda está na sua infância. A tecnologia é imatura, não treinada e desgovernada. Para se tornar uma parte produtiva da nossa sociedade, deve ser governada pelos mesmos princípios que governaram toda a tecnologia anterior.

Então, quais são os padrões comprovados que precisamos aplicar à IA? Aqui estão cinco:

Os direitos de acesso à IA devem ser controlados e limitados

O comprovado princípio do menor privilégio devem ser aplicados aos motores de IA e a qualquer software que os incorpore. Fui abordado por fornecedores de tecnologia alimentada por IA que pediram as chaves do reino – a capacidade de ler e escrever nas áreas mais sensíveis da minha empresa. As organizações precisam ter muito cuidado ao se conectarem a tecnologias habilitadas para IA.

IA é uma identidade e deve ser governada como tal

Todos os padrões comprovados de integração, certificação, recertificação e rescisão devem ser aplicados a uma identidade de IA. Isso significa incorporar as melhores práticas em torno gerenciamento de acesso privilegiado, acesso just-in-time e proteção de conta de serviço com o mecanismo de IA. Trate-o como uma pessoa e governe-o como qualquer outra identidade na sua organização.

IA deve ser monitorada

O monitoramento abrangente é um padrão comprovado para detectar comportamento anômalo, incluindo a identificação de pessoas internas desonestas ou comprometidas. A IA não deveria ser diferente. Como qualquer entidade, está sujeita a utilização indevida por maus intervenientes e pode ser manipulada para quebrar regras e agir fora do seu propósito original. Devemos monitorar a IA em busca de desvios e indicadores de atividades maliciosas (IoMA) e ser capazes de responder adequadamente – incluindo desabilitar o acesso e isolar ameaças.

A integridade, precisão e validade das entradas e saídas da IA ​​devem ser verificadas e limitadas por validações e regras

Há muito tempo comprovamos o valor das revisões por pares, validações de entrada e saída em código e outros processos de validação de integridade. Esses padrões também devem ser aplicados à IA. Devemos verificar os resultados, talvez com IA alternativa ou atores humanos; temos de governar quais os contributos que podem ser dados, definindo regras em torno dos contributos e do acesso; devemos governar a produção; e devemos aplicar os princípios de prevenção contra perda de dados (DLP) e proteção de propriedade intelectual (IPP) a qualquer implementação de IA que possa acessar nossos dados corporativos críticos.

IA precisa de gerenciamento de ciclo de vida e configuração de software

Devemos aplicar os princípios comprovados de construção de ambientes de teste, validando e controlando rigorosamente as alterações e implementando processos de aprovação antes de permitir alterações nos sistemas de IA. Porque a IA pode mudar dinamicamente na produção, mas devemos colocar proteções. O controle da produção é essencial para evitar quaisquer consequências indesejadas de software alimentado por IA que não foi bem testado antes da implementação.

Certamente, há mais coisas a considerar, mas minha regra é esta: trate a IA como qualquer outro funcionário, identidade ou sistema. Aplique o mesmo pensamento e controles que você usaria para qualquer um deles. Não presuma que seja infalível ou onisciente. Aplique padrões comprovados a ele, assim como nas tecnologias anteriores. Ao fazer isso, você manterá sua reputação, seus clientes e as joias da coroa de sua empresa seguras.

Interessado em aprender como Silverfort pode ajudar a governar a IA e proteger a identidade? Fale com um de nossos especialistas hoje mesmo.