エージェントの乗っ取りと横方向の移動：ServiceNowのAI脆弱性から得られた教訓

アイデンティティセキュリティの教訓

構築ワークフローの中にいる場合/確保する/ガードレイリング エージェント、 これが私の見解です sいくつかのIDエンティティと アクセス制御の失敗パターンは、エージェントとその認証情報／信頼関係が脆弱な方法で構築されたことを、異例なほど明確に示していた。 

認証なしのなりすまし

このプラットフォームは、暗号学的証明ではなく、脆弱な識別子に基づく本人確認を受け入れていた。メールアドレスが本人確認トークンとして機能し、セッション検証、多要素認証、およびセキュリティレベルを完全に回避していた。 

特権の拡大と継続性 

なりすましが成功すれば、攻撃者は脆弱性を悪用する必要はなかった。 追加の 脆弱性。彼らは正当なワークフローを使用して新しいp特権的な記録と 修正する 役割 確立 秘密裏のバックドアではなく、正規の状態変更を通じて永続性を確保する。 

ビジネスロジックとワークフローの悪用

この脆弱性を悪用する経路は、承認された自動化が設計どおりに動作することに依存していた。プロビジョニングフロー、承認、および構成変更 実行された 正しくは、偽の身元情報を使用するだけだった。これにより、攻撃対象はコードの欠陥から、ビジネスロジックに組み込まれた信頼の前提へと移行した。

エージェント間の信頼の悪用

エージェントは、本人確認や意図の再検証を行わずに、他のエージェントに権限を委任した。これにより、現代版の「混乱した代理人」シナリオが生まれ、信頼がエージェント間で推移的に伝播し、単一の本人確認情報の漏洩がもたらす影響が増幅された。

二次実行

信頼度の低い入力が、間接的に高権限のアクションを引き起こした仲介者 攻撃対象はエージェントだった。攻撃対象はプロンプトや言語操作ではなく、実行コンテキストと委任された権限だった。

検出と監査の劣化

アイデンティティ層自体が侵害され、攻撃者が上流へと移動し続けた場合、 のように見えた 正当なユーザー活動。その結果、従来のIDベースの監視や行動分析は信頼性を失った。 これらのパターンを合わせると、 実証します エージェントシステムが従来のセキュリティを侵食する 同一でない限りレイヤリング コントロールは 継続的に、状況に応じて、実行時に適用される。アイデンティティが制御ではなく前提として扱われると、自動化はセキュリティを強化する力となるどころか、侵害を加速させる要因となる。 

結論：設定ミスから次のAPT攻撃へ

この攻撃フローは、単一の欠陥ではなく、AIエージェントの設計と実行におけるシステム的な欠陥を露呈しています。エージェント間のインタラクションフローでは、IDが一度検証された後、永続的にそのIDが保証されていました。信頼は再検証されることなく、エージェントとワークフロー全体に伝播していました。個々の決定は単独では妥当に見えましたが、それらが組み合わさることで安全でない実行パスを形成していました。これらはフローレベルの脆弱性であり、権限が長期にわたり自律的かつ構成的なシステム内でどのように伝達されるかに根ざしています。

盲点はコードの品質ではなく、信頼の継続性です。組織は、設定ミスだけでなく、安全でない信頼パスをスキャンする必要があります。IAMチームとセキュリティチームは、これらのミスが発生することを想定して、対策を講じる必要があります。 ランタイムIDセキュリティ これにより、設計上の前提が崩れた場合でも、不正行為を検知して阻止することが可能になります。これはまた、攻撃検証コミュニティに対し、エージェントによる攻撃経路や信頼伝播の失敗をモデル化するよう求めるものでもあります。 

AI導入のスピードと実験精神に流されて、アイデンティティ管理が置き去りにされてはならない。エージェントシステムが従来の制御システムよりも速いスピードで進化するにつれ、アイデンティティセキュリティは新たな領域へと拡大する必要がある。それは、継続的、リアルタイム、そしてコンテキスト認識型のセキュリティである。業務の実際の遂行方法に合わせてアイデンティティ管理を適応させる組織こそが、未来のトレンドを先取りできるだろう。

これは次世代の攻撃ではありません。攻撃グループは既に、スキャン、チャレンジ回避、そしてこれらの欠陥のある設計パターンの悪用をAPT（高度標的型攻撃）のインフラストラクチャに組み込み、大企業を標的としてテストしています。