이번 주 뉴스는 다음과 같습니다. OpenAI/Hugging Face 보안 사고 이는 사이버 보안에 있어 중대한 전환점을 의미합니다. 인간의 개입 없이, 즉 명령 및 통제 의사 결정 과정에 전혀 관여하지 않은 완전 자율 공격 과정이 관찰된 것은 이번이 처음입니다.
우리는 적어도 지난 1년 동안 이러한 추세를 관찰해 왔습니다. LLM(법률 지원 관리자)은 점점 더 고도화된 공격 체인을 자율적으로 실행할 수 있는 능력을 갖추고 있으며, 그 속도는 대부분의 보안 조직이 감당할 준비가 되어 있지 않습니다.
또한 이는 간과되기 쉬운 한 가지 요소를 강조합니다. 대부분의 조직이 최첨단 AI 위협에 대응할 때 소프트웨어 취약점과 "빠른 패치"에 초점을 맞추는 경우가 많지만, 모델은 손상된 자격 증명을 악용하여 측면 이동 및 권한 상승을 통해 목표를 달성할 수도 있다는 것입니다. 이것이 바로 그 이유입니다. 신원 확인은 핵심 제어 영역이 되고 있습니다. 자율 공격을 막기 위해.
수비수들에게 미치는 영향은 분명합니다. 이러한 공격을 방지하려면 통제가 필요합니다. 기계 속도로 작동하는 시스템입니다. 소프트웨어 보안은 여전히 중요하지만, 공격 경로가 전개되는 즉시 차단할 수 있는 인라인 런타임 ID 제어 기능으로 보완되어야 합니다. 이는 기존 투자를 대체하는 것이 아니라, 공격자가 필연적으로 초기 발판을 마련하더라도 효과를 유지하는 심층 방어 계층을 추가하는 것입니다.
At Silverfort저희는 글래스윙 프로젝트와 프론티어 AI 레드팀에 참여한 고객사를 포함하여 세계 최대 규모의 조직들과의 협업을 통해 이를 직접 경험했습니다. 이전에 쓴.
이번 사건은 소프트웨어뿐만 아니라 신원 보호에 있어서도 방어자들이 따라야 할 기준이 높아졌다는 사실을 다시 한번 보여줍니다.
사이버 보안 전반에 걸쳐, 기계 속도의 위협에 맞서 인간 속도의 제어로 대응하기 이는 우리 사업을 보호하기에 불충분합니다. 신원 정보 보호도 예외는 아닙니다. 런타임, 인라인 컨트롤 이는 신원 정보를 노리는 AI 기반 공격에 대응하여 회복력과 효율성을 구축하는 유일한 방법입니다.
'허깅 페이스' 사건은 어떻게 일어났나요?
수행원 허깅페이스 사건 알림, OpenAI가 확인했습니다. 해당 사건은 내부 모델 테스트 과정에서 발생했지만, 실제 공격이었습니다. 자율 에이전트가 의도된 샌드박스 환경에서 탈출하여 공용 인터넷에 접근했고, 목표 달성을 위해 Hugging Face의 인프라를 공격하기로 독자적으로 결정했습니다.
핵심은 이것이 통제된 평가로 시작되었는지 여부가 아니라, 바로 그 점입니다. 에이전트가 자율적으로 전환했습니다. 의도했던 환경을 벗어나 공격 작전에 투입되었습니다. 격리망을 탈출한 후, 독자적으로 목표물을 선택하고, 공격 계획을 수립 및 실행했으며, 행동 양식을 조정하고, 목표를 향해 끈질기게 나아갔습니다. 이것이 진정한 이정표입니다. 프론티어 AI 이는 더 이상 단순히 적이 악용할 수 있는 능력에 그치지 않습니다. 이러한 모델들은 점점 더 운영자 자체가 될 수 있는 능력을 갖추고 있습니다.
5.6 Sol 버전과 미공개 모델 버전을 사용하여 사이버 역량을 테스트한 결과(ExploitGym), 안전장치가 제거된 상태에서 ExploitGym 훈련에 대한 해결책이 Hugging Face의 인프라에 있을 수 있다는 점이 확인되었습니다.
이 악성코드는 새로운 취약점과 자격 증명 유출을 연쇄적으로 이용하여 샌드박스를 탈출한 후, OpenAI 환경을 넘어 인터넷으로 침투했습니다. 그리고 원격 코드 실행 경로를 통해 Hugging Face의 운영 환경에 발판을 마련하고, 탈취한 자격 증명을 악용하여 목표를 달성했습니다. 명령 및 제어는 공개 서비스를 통해 이루어졌으며, 자체적으로 마이그레이션하여 차단 조치를 회피했습니다.
허깅 페이스 팀은 오픈 소스 LLM(GLM 5.2)을 활용하여 공격 과정을 재구성하고 노출된 자격 증명을 포함한 17,000건의 이벤트를 분석하여 사건을 성공적으로 수습했습니다. 상용 제품에 적용되는 안전장치로 인해 분석이 제한되었기 때문에 오픈 소스 제품을 사용했는데, 이는 제약 없는/개방형 가중치 모델의 기능과 사용량이 제한된 방어 도구 간의 비대칭성을 보여줍니다.
이번 에이전트 공격 사건은 인공지능 기반 공격이라는 더 큰 추세 속에서 어떤 위치를 차지하는가?
이는 역량과 자기주도성이 향상되는 추세의 연장선상에 있습니다.
The 영국 AI 보안 연구소의 테스트 벤치마크 테스트에서 지속적인 발전 추세를 보여줍니다.
이제 공격자들은 이러한 기능을 점점 더 빠른 속도로 활용하여 신원 정보 취약점을 악용하고 있습니다.
- 인류과학 보고서 – 2025년 11월 - APT는 LLM을 활용하며, 80~90%의 독립성을 갖춘 인간 주도형 접근 방식을 취합니다.
- 인류 – 2026년 6월 - 인공지능이 공격 후반 단계에서 부가가치가 높은 지원(예: 측면 이동 및 자격 증명 검색)에 사용되어 자율성을 높이고 있습니다.
- Sysdig/JadePuffer – 2026년 7월 1일 - LLM 기반 랜섬웨어의 첫 번째 사례입니다. 취약점을 통해 초기 접근이 이루어졌으며, 즉시 LLM 제공업체 API 키, 클라우드 제공업체 자격 증명 및 데이터베이스 자격 증명을 탈취했습니다.
- 시그니아 – 2026년 7월 8일 - AI를 활용하여 72시간 만에 기업 클라우드 환경이 침해당했습니다. 노출된 기밀 정보와 취약한 신원 관리 보안이 악용되었으며, 여러 공격 경로가 동시에 실행되었습니다.
- 포옹하는 얼굴 – 2026년 7월 20일 - 최초의 완전 자율 공격 체인.
이번 보안 사고에서 무엇을 배울 수 있을까요?
명백한 사실 외에도—그것은 최첨단 AI 모델은 매우 뛰어난 능력을 갖추고 있습니다. 창조와 지금 운영 엔드투엔드 신규 공격 체인 기계 속도로—이것은 하이라이트 의 중요성 정체성 S보안 균형 잡히고 회복력 있는 접근 방식으로 AI 기반 위협.
전통적인 정체성 투자는 충분하지 않습니다.
신원 확인 측면에서 이는 규정 준수 또는 운영 중심 프로그램이 위험에 처할 수 있음을 의미합니다.
다중 스레드를 사용하고 지능적이며 새로운 공격 경로를 유연하게 실행하는 기계 속도의 위협에 맞서 싸우려면 동일한 속도로 작동하는 제어 장치가 필요합니다.
그 외의 모든 것, 즉 관리 시간에 운영되는 IGA 프로그램 또는 PAM 프로그램 특권층이라는 좁은 집단을 표적으로 삼는 방식은 너무 느리고 정체되어 있거나, 이러한 새로운 위협에 대응하기에는 너무 제한적입니다.
ID 제어를 통해 복원력을 강화하세요
이러한 사건들에 대한 대응으로 일부에서는 클라우드 환경과 완전히 분리된 환경만이 안전하다고 주장했지만, 이는 클라우드를 사용하는 대부분의 기업에게는 현실적인 해결책이 아닙니다.
우리의 견해는 다릅니다. 이는 신원 확인과 접근 권한의 필요성을 더욱 강화합니다. 런타임 제어를 통해 회사 내 신원 부채 위험을 완화하고 위협을 방지합니다. 보호되지 않은 특권적 신원 상시 접근 권한(특히 비인간 대상), 과도한 권한 부여, 자격 증명의 안전하지 않은 저장, 오래된 계정 등이 문제입니다. 기존 인증 프로토콜. 목표는 심층 방어입니다. 즉, 한 단계가 우회되더라도 신원 확인 제어를 통해 공격자가 더 이상 진행하지 못하도록 막는 것입니다.
현재 존재하는 위험을 제거하기 위한 개선 프로그램을 진행할 시간이 없습니다. 허깅 페이스(Hugging Face) 사건은 향후 몇 주, 몇 달 안에 공격자의 손에 제약 없는 오픈 소스 및 오픈 웨이트 방식의 최첨단 모델이 들어갈 경우 발생할 수 있는 실질적인 위협을 여실히 보여줍니다.
이러한 솔루션은 최첨단 모델 공격이 작동하는 공격 사슬의 개발 및 진행을 차단하는 것으로 입증되었으며, IGA 및 PAM을 통해 구축된 현재 보안 태세를 강화하고 확장하여 환경에 머신 속도의 위험 제어 기능을 제공합니다. 결과적으로 최첨단 위협에 대한 ID 복원력을 확보할 수 있습니다.
새로운 AI 기반 공격 모델에 대한 최종 의견
허깅 페이스 사건은 특정 조직을 표적으로 삼았다는 이유로 기억되기보다는, 공격자들이 인간의 개입 없이 완전히 자율적으로 공격을 수행하는 새로운 공격 모델을 제시했다는 점에서 기억될 것입니다.
조직은 인간의 속도에 맞춘 프로세스만으로는 이러한 변화에 대응할 수 없습니다. 회복탄력성은 심층 방어, 즉 강력한 취약점 관리와 공격 사슬이 전개되는 즉시 차단할 수 있는 인라인 런타임 ID 제어를 결합하는 데서 비롯됩니다.
방어 체계를 기계적인 속도로 작동하도록 조정하는 조직이 이러한 상황에 가장 잘 대처할 수 있을 것입니다. 차세대 AI 기반 공격.
