AI에 올바른 거버넌스가 필요한 이유

제 경력 전반에 걸쳐 저는 한 가지 원칙이 여전히 유효하다는 사실을 발견했습니다. 기술은 끊임없이 변화하지만 이를 지배하는 패턴은 변함없이 유지된다는 것입니다.

지난 30년 동안 저는 수많은 새로운 코드 개발 접근 방식은 말할 것도 없고 메인프레임 컴퓨팅에서 데스크톱 컴퓨팅, 클라우드 컴퓨팅에 이르기까지 기술의 엄청난 변화를 목격했습니다. 그러나 이러한 변화에도 불구하고 거버넌스 패턴은 동일하게 유지되는 것으로 나타났습니다. 나는 사람들이 이러한 패턴을 무시하고 새로운 방식에는 더 이상 이전 컨트롤이 필요하지 않다고 제안하는 것을 여러 번 보았습니다. 그리고 나는 또한 이 같은 사람들이 실제로 그러한 패턴이 여전히 진실되고 관련성이 있다는 것을 – 종종 고통스럽게 – 배우는 것을 보았습니다.

요즘 인공지능(AI)이 대세입니다. 모두가 이야기하는 핫한 신기술입니다. AI의 순수한 하이브 마인드 처리 능력, 즉 언어를 해석하고 복잡한 논리를 적용하여 단 몇 초 만에 답을 찾는 능력은 엄청난 잠재력을 가지고 있습니다.

그러나 AI가 아직 초기 단계에 있다는 점을 기억하는 것이 중요합니다. 기술은 미성숙하고, 훈련되지 않았으며, 통제되지 않습니다. 그것이 우리 사회의 생산적인 부분이 되려면 이전의 모든 기술을 지배했던 것과 동일한 원칙에 의해 지배되어야 합니다.

그렇다면 AI에 적용하기 위해 오랜 시간 테스트를 거친 패턴은 무엇입니까? 다음은 다섯 가지입니다:

AI 접근 권한은 통제되고 제한되어야 합니다

입증 된 최소 권한 원칙 AI 엔진과 이를 통합하는 모든 소프트웨어에 적용되어야 합니다. 저는 AI 기반 기술을 판매하는 공급업체로부터 왕국의 열쇠, 즉 회사의 가장 민감한 영역을 읽고 쓸 수 있는 능력을 요청한 적이 있습니다. 조직은 AI 지원 기술에 연결할 때 세심한 주의를 기울여야 합니다.

AI는 하나의 정체성이며 그렇게 관리되어야 합니다

온보딩, 인증, 재인증 및 종료의 모든 입증된 패턴이 AI ID에 적용되어야 합니다. 이는 다음과 같은 모범 사례를 통합하는 것을 의미합니다. 권한 있는 액세스 관리, 적시 접속, AI 엔진을 통한 서비스 계정 보호 등이 가능합니다. 이를 사람처럼 대하고 조직의 다른 ID처럼 관리하세요.

AI를 모니터링해야 함

포괄적인 모니터링은 악의적이거나 손상된 내부자를 식별하는 것을 포함하여 변칙적인 행동을 탐지하는 입증된 패턴입니다. AI도 다르지 않아야 합니다. 여타 법인과 마찬가지로 악의적인 행위자에 의해 오용될 수 있으며 규칙을 위반하고 원래 목적을 벗어나 행동하도록 조작될 수 있습니다. 우리는 AI의 편차와 악의적 활동 지표(IoMA)를 모니터링하고 이에 따라 액세스 비활성화 및 위협 격리를 포함하여 대응할 수 있어야 합니다.

AI 입력 및 출력의 무결성, 정확성 및 유효성은 검증 및 규칙에 의해 확인되고 제한됩니다.

우리는 동료 검토, 코드의 입력 및 출력 검증, 기타 무결성 검증 프로세스의 가치를 오랫동안 입증해 왔습니다. 이러한 패턴은 AI에도 적용되어야 합니다. 우리는 대체 AI나 인간 행위자를 통해 결과를 상호 확인해야 합니다. 입력 및 액세스에 대한 규칙을 정의하여 어떤 입력을 제공할 수 있는지 관리해야 합니다. 우리는 산출물을 통제해야 합니다. 그리고 우리는 중요한 기업 데이터에 접근할 수 있는 모든 AI 구현에 데이터 손실 방지(DLP) 및 지적 재산 보호(IPP) 원칙을 적용해야 합니다.

AI에는 수명주기 및 소프트웨어 구성 관리가 필요합니다.

테스트 환경을 구축하고, 변경 사항을 엄격하게 검증 및 제어하며, AI 시스템 변경을 허용하기 전에 승인 프로세스를 마련하는 입증된 원칙을 적용해야 합니다. AI는 생산 과정에서 동적으로 변화할 수 있기 때문에 가드레일을 마련해야 합니다. 구현 전에 제대로 테스트되지 않은 AI 기반 소프트웨어로 인해 의도하지 않은 결과가 발생하지 않도록 하려면 생산 제어가 필수적입니다.

물론 고려해야 할 사항이 더 있지만 내 경험상 AI를 다른 직원, ID 또는 시스템과 마찬가지로 취급하는 것이 좋습니다. 이들 중 하나에 적용하는 것과 동일한 사고와 제어를 적용하십시오. 그것이 오류가 없거나 모든 것을 알고 있다고 가정하지 마십시오. 이전 기술과 마찬가지로 검증된 패턴을 적용합니다. 그렇게 함으로써 귀하는 귀하의 평판, 고객 및 회사의 가장 중요한 보석을 안전하게 지킬 수 있습니다.

학습 방법에 관심이 있음 Silverfort AI를 관리하고 신원을 보호하는 데 도움이 될 수 있습니까? 전문가에게 문의하세요 .