가트너의 2026년 디지털 아이덴티티 하이프 사이클에 다음 내용이 추가되었습니다. 의도 기반 접근 제어 올해 새롭게 추가된 항목 중 하나는 에이전트형 AI를 위한 권한 부여 프레임워크로, 초기 단계이며 시장 침투율은 1% 미만입니다. 가트너가 제시하는 도입의 첫 번째 장애물은 기술적인 문제가 아니라, 실제로 누구의 의도가 적용되는지에 대한 혼란입니다. 즉, 에이전트 소유자, IT 부서 또는 최종 사용자의 의도가 적용되는지 불분명하다는 것입니다.
"에이전트 의도"는 AI 보안 분야에서 누구나 사용하는 용어 중 하나이지만, 그 정의는 거의 일치하지 않습니다. Silverfort우리는 이를 단순한 분위기나 마케팅 문구가 아닌, 제품 내에서 특정한 역할을 수행하는 구체적인 데이터로 취급합니다. 이 블로그에서는 우리가 말하는 '액세스 권한'의 의미, 액세스 권한과의 연관성, 그리고 런타임 시 에이전트 보호 방식과의 관계에 대해 설명합니다.
시작하기 전에 "의도"를 어떻게 정의해야 하는지 명확히 해봅시다. 가트너는 사용자의 의도를 포착하거나 추론하는 데 중점을 둡니다. 인간 사용자 에이전트와 상호 작용하는 것. 저희 에이전트는 다음과 같습니다. 에이전트 본인 명시적 의도, 즉 제작자가 의도한 목적입니다. 둘 다 실제적인 통제 수단이며, 서로 다른 질문에 대한 답을 제시합니다. 이제부터는 명시적 의도에 대해 살펴보겠습니다. 의도가 무엇인지, 무엇과 비교되는지, 그리고 둘이 일치하지 않을 때 어떤 일이 발생하는지 설명합니다.
Gartner® 보고서: 디지털 아이덴티티 하이프 사이클™, 2026
- AI 에이전트가 디지털 신원 환경을 어떻게 변화시키는가
- 새로운 범주에 맞춰 보안 전략을 수립하는 방법
- IVIP, ISPM 및 ITDR이 지속적인 런타임 강제 적용을 가능하게 하는 이유는 무엇일까요?
1. 명시된 의도: 행위자가 말하는 용도
모든 AI 에이전트는 어떤 플랫폼에서 실행되든 상관없이이는 자연어로 작성된 명령어 조각을 기반으로 구축되며, 이 명령어는 시스템에게 무엇을 해야 하는지 알려줍니다. AWS Bedrock에서는 이를 명령어라고 부르고, Google에서는 시스템 명령어라고 부릅니다. 코파일럿 스튜디오 어떤 플랫폼은 이를 Instructions라고 부릅니다. Claude Code는 CLAUDE.md라고 부릅니다. 이름은 다르지만, 내용은 같습니다. 사람이 에이전트의 목적을 설명하는 문장이나 단락을 작성하면, 플랫폼이 매 실행마다 해당 텍스트를 에이전트의 컨텍스트에 제공하는 것입니다.
우리는 이것을 에이전트의 것이라고 부릅니다. 선언된 의도: 해당 객체를 생성한 사람이 객체가 작동하도록 구성 파일에 기록한 목적.
이 정의와 관련하여 두 가지 중요한 점이 있습니다. 첫째, 이는 검증된 것이 아니라 선언된 것입니다. 따라서 작성자가 작성한 내용을 그대로 반영하며, 그 내용은 정확할 수도 있고, 부정확할 수도 있으며, 모호할 수도 있습니다.
둘째, 이미 존재합니다. 고객에게 새로운 양식을 작성하도록 요청하는 것이 아니라, 대부분의 에이전트 구축 플랫폼이나 에이전트 자체 코드 내에 이미 존재하는, 의도를 정의하는 자연어 필드를 읽어오는 것입니다.
우리의 첫 번째 과제는 간단히 말해서 에이전트의 목적을 명확히 드러내는 것입니다. 각 에이전트에 대한 플랫폼별 지침 필드를 읽고, 해당 에이전트가 수행하도록 명시된 작업을 간결하고 표준화된 형태로 요약하여 생성합니다. 이렇게 하면 어떤 플랫폼에서 생성되었든 관계없이 인벤토리의 모든 에이전트에 일관되고 이해하기 쉬운 영어로 된 "목적" 설명이 제공됩니다. 이 자체만으로도 에이전트 빌더가 에이전트를 구성한 내용과 에이전트를 검토하는 ID 관리팀이 확인할 수 있는 내용 사이의 간극을 해소할 수 있습니다. Declared Intent는 명시된 목적을 플랫폼 간에 명확하게 보여주고 비교할 수 있도록 해주므로, 위험 평가가 추측이 아닌 에이전트의 실제 구성에서 시작될 수 있도록 합니다.
2. 접근 범위: 에이전트가 실제로 접근할 수 있는 영역
명시된 의도는 에이전트가 무엇인지 알려줍니다. 을 통한그것은 ~에 대해 아무것도 말하지 않습니다. 그것이 할 수 있는 것 do그건 별개의 질문이며, 대부분의 보안 도구가 역사적으로 중점적으로 다뤄왔던 질문이기도 합니다. 즉, 이 에이전트가 어떤 도구에 바인딩되는지, 어떤 데이터 소스를 조회할 수 있는지, 어떤 작업을 수행할 수 있는지, 그리고 그렇게 하기 위해 어떤 ID나 자격 증명을 상속받는지입니다.
우리는 이것을 에이전트의 것이라고 부릅니다. 접근 범위, 에이전트가 어떤 작업을 수행하도록 선언되었는지와 관계없이, 해당 에이전트의 도구 바인딩, 연결된 시스템 및 유효한 권한의 총합을 의미합니다. 이는 전통적인 인벤토리 질문이며 필수적이지만, 그 자체로는 불완전합니다. 에이전트가 청구 데이터베이스에 쓰기 작업을 할 수 있다는 사실만으로는 해당 에이전트가 애초에 어떤 작업을 수행하도록 되어 있는지 알기 전까지는 그것이 예상되는 일인지 아니면 우려스러운 일인지 판단할 수 없습니다.
3. 의도와 접근 방식이 다른 경우
이 지점에서 의도 선언은 단순한 문서화 요소가 아니라 보안 신호로 작용하기 시작합니다. 동일한 에이전트에 대해 의도 선언과 접근 범위가 모두 확보되면 이를 비교할 수 있습니다.
"주문 상태에 대한 고객 질문에 답변"하도록 지정된 지원 분류 담당자가 청구 데이터베이스에 대한 쓰기 권한도 갖는 것은 부적절합니다. 외부 네트워크 통화를 할 수 있는 문서 요약 담당자도 마찬가지입니다. 이러한 문제는 지정된 용도만 보거나 원시 권한만 확인하는 경우에는 나타나지 않으며, 두 가지를 나란히 비교해야 확인할 수 있습니다.
우리의 Silverfort 이러한 차이를 그 자체로 하나의 노출 유형으로 간주하십시오. 대리인의 명시된 목적을 넘어서는 접근 권한 합리적으로 요구될 것이다. 그것은 필요하다. 재고 목록에 나타났습니다접근 권한이 의도를 얼마나 초과하는지에 따라 우선순위를 정하고, 다른 노출 사례와 마찬가지로 검토, 규모 조정 또는 설명이 필요한 대상으로 처리합니다. 명확한 목적이 전혀 명시되지 않았거나, 목적이 너무 일반적이어서 실질적인 내용을 설명하지 못하는 에이전트는 그 자체로 거버넌스 공백이기 때문에 주의해야 할 대상입니다.
4. 보안 불일치 파악: 에이전트의 행동이 목적과 일치하는가?
의도와 접근 권한을 한 번 비교하는 것은 정적인 상황 파악에 그칩니다. 즉, 해당 에이전트가 수행해야 할 작업에 비해 과도하게 권한이 부여되었는지 여부를 판단하는 것이죠. 하지만 에이전트는 가만히 앉아 있는 것이 아니라 지속적으로 행동하며, 보안에 있어 진정으로 중요한 질문은 바로 이러한 동적인 변화에 대한 것입니다. 지금 이 특정 행동이 해당 요원이 수행하도록 지정된 업무, 그의 과거 행적, 그리고 우리가 알고 있는 모든 정보와 여전히 일치하는가?
이것은 우리 플랫폼의 일부입니다. 실시간으로 인라인 실행됩니다.에이전트가 수행하는 모든 행동과 함께, 단순히 "이 에이전트가 기술적으로 이러한 작업을 수행할 수 있는가?"라고 묻는 대신, 보호 계층은 "이것이 이 에이전트가 하는 일의 종류인가?"라는 질문도 함께 던집니다. 가정 "해야 할 일."
에이전트가 명시한 목적과 정상적인 행동 패턴 및 확립된 사용 프로필에 정확히 부합하는 행동은 높은 신뢰도로 승인될 수 있습니다. 발산하는 행동—고객 지원 담당자가 갑자기 쓰기 작업을 시도하거나, 요약 담당자가 네트워크에 연결하는 경우—이 바로 기준을 높여야 한다는 신호입니다. 즉, 사람의 승인 단계를 거치거나 아예 취소되어야 합니다.
이것이 중요한 이유는 에이전트가 대본에서 벗어나는 행동이 한 가지 유형의 문제만은 아니기 때문입니다. 여러 가지 이유로 발생할 수 있으며, 겉으로 보기에는 모두 똑같아 보이지 않습니다.
- A 악의적이거나 조작된 프롬프트: 누군가가 에이전트에게 실행해서는 안 되는 지시를 내립니다.
- A 신속한 주입: 에이전트가 읽는 콘텐츠(문서, 웹 페이지, 도구 응답)에 숨겨진 지침으로 인해 사용자나 운영자가 그 변화를 전혀 인지하지 못한 채 에이전트의 동작이 변경됩니다.
- A 코드 또는 구성 변경: 에이전트의 기본 논리, 도구 또는 권한이 의도적이든 아니든 변경되어 현재 에이전트가 수행할 수 있는 작업이 달라졌습니다.
- A 맥락 변화: 에이전트가 작동하는 데이터 또는 환경이 변경되어 이제 에이전트가 처리하도록 설계되지 않은 정보에 따라 작동하고 있습니다.
- 외부 조작: 상위 시스템이 손상되었거나, 데이터 소스가 오염되었거나, 에이전트가 의존하는 신원이 탈취되었을 수 있습니다.
특정 행동의 원인을 파악하지 않아도 이를 경고할 수 있습니다. 의도를 진단하거나 실시간으로 원인을 규명하려 하기보다는, 명시된 의도, 접근 권한, 그리고 이력과 행동을 비교하는 것이 중요한 이유입니다. 어떤 이유로든 의도에서 벗어난 행동 자체가 조치를 취할 수 있는 신호이며, 우리는 그 원인을 알기 전에 이를 포착하고 조치를 취할 수 있습니다.
에이전트 의도 프레임워크: 가시성, 접근성 및 제어 연결
명시된 의도, 접근 범위 및 실제 동작은 세 가지 별개의 특징이 아니라 하나의 연속적인 연결 고리입니다.
명시된 의도는 가시성 필드, 즉 이 에이전트의 용도에 대한 정의로 시작됩니다. 접근 범위와 비교했을 때, 이는 에이전트의 용도를 판단하는 기준선이 됩니다. 기존 권한은 비례적입니다.이 에이전트가 과도하게 프로비저닝되었는지 여부입니다. 실시간 조치와 비교하여, 이는 보호를 위한 실시간 의사 결정 입력값이 됩니다. 즉, 이 에이전트가 여전히 제 역할을 제대로 수행하고 있는지 여부를 판단하는 것입니다. 동일한 기본 개념이 인벤토리, 노출 감지 및 집행이라는 세 가지 다른 지점에 적용되어, 서로 연결되지 않은 세 가지 답변 대신 "이 에이전트는 무엇을 위한 것인가?"라는 질문에 대한 일관된 답변을 제공합니다.
웨비나
에이전트형 AI 보안의 세 가지 핵심 요소를 결합하는 방법을 알아보세요.
Silverfort 전문가들은 기존의 IAM, PAM 및 결정론적 보안 모델이 에이전트 기반 AI 환경에서 제대로 작동하지 않는 이유와 그 대신 효과적인 대안을 탐구합니다.
