การโจรกรรมเอเจนต์และการเคลื่อนย้ายข้ามระบบ: บทเรียนจากช่องโหว่ด้าน AI ของ ServiceNow

บทเรียนด้านความปลอดภัยของข้อมูลส่วนบุคคล

หากคุณกำลังอยู่ในขั้นตอนการสร้าง/การรักษา/การ์ดไรปลาทะเลชนิดหนึ่ง ตัวแทน, นี่คือความคิดเห็นของฉันเกี่ยวกับเรื่องนี้ sรหัสหลายรายการหน่วยงานและ รูปแบบความล้มเหลวในการควบคุมการเข้าถึงปรากฏให้เห็นอย่างชัดเจนผิดปกติในวิธีการที่ตัวแทนและข้อมูลประจำตัว/ความไว้วางใจของพวกเขาถูกสร้างขึ้นอย่างเปราะบาง: 

การปลอมตัวโดยไม่ผ่านการตรวจสอบสิทธิ์

แพลตฟอร์มดังกล่าวรับการยืนยันตัวตนโดยใช้ตัวระบุที่ไม่แข็งแรงแทนที่จะใช้หลักฐานทางคริปโตกราฟี ที่อยู่อีเมลทำหน้าที่เป็นโทเค็นยืนยันตัวตน ซึ่งข้ามขั้นตอนการตรวจสอบเซสชัน การตรวจสอบสิทธิ์แบบหลายปัจจัย (MFA) และระดับการรับรองทั้งหมด 

การยกระดับสิทธิ์บวกกับการคงอยู่ 

เมื่อการปลอมแปลงตัวตนสำเร็จแล้ว ผู้โจมตีก็ไม่จำเป็นต้องใช้ช่องโหว่อีกต่อไป เพิ่มเติม ช่องโหว่ พวกเขาใช้เวิร์กโฟลว์ที่ถูกต้องตามกฎหมายในการสร้างte new pบัญชีพิเศษและ แก้ไข บทบาท การสร้าง การรักษาความต่อเนื่องผ่านการเปลี่ยนแปลงสถานะที่ได้รับอนุญาต แทนที่จะใช้ช่องโหว่ลับ 

การใช้ตรรกะทางธุรกิจและเวิร์กโฟลว์ในทางที่ผิด

ช่องโหว่นี้อาศัยระบบอัตโนมัติที่ได้รับการอนุมัติซึ่งทำงานตามที่ออกแบบไว้ทุกประการ ได้แก่ ขั้นตอนการจัดเตรียม การอนุมัติ และการเปลี่ยนแปลงการกำหนดค่า ดำเนินการ ถูกต้องแล้ว เพียงแต่ใช้ตัวตนปลอมเข้ามาปกปิด ซึ่งทำให้ช่องโหว่ในการโจมตีเปลี่ยนจากข้อบกพร่องของโค้ดไปเป็นการตั้งสมมติฐานเรื่องความไว้วางใจที่ฝังอยู่ในตรรกะทางธุรกิจ

การละเมิดความไว้วางใจระหว่างตัวแทน

ตัวแทนมอบอำนาจให้ตัวแทนอื่นโดยไม่ได้ตรวจสอบยืนยันตัวตนหรือเจตนาอีกครั้ง ทำให้เกิดสถานการณ์ตัวแทนสับสนในยุคปัจจุบัน ซึ่งความไว้วางใจแพร่กระจายไปตามตัวแทนต่างๆ และขยายผลกระทบของบริบทตัวตนที่ถูกบุกรุกเพียงครั้งเดียวให้รุนแรงขึ้น

การดำเนินการลำดับที่สอง

ข้อมูลที่น่าเชื่อถือต่ำกระตุ้นให้เกิดการกระทำที่มีสิทธิ์สูงโดยอ้อมผ่านการสื่อสารระหว่างกันคนกลาง ตัวแทน. ช่องโหว่ในการโจมตีไม่ได้อยู่ที่การตอบสนองทันทีหรือการเปลี่ยนแปลงภาษา แต่เป็นบริบทการดำเนินการและอำนาจที่ได้รับมอบหมาย

การตรวจจับและการตรวจสอบการกัดกร่อน

เมื่อชั้นการระบุตัวตนถูกบุกรุก และผู้โจมตีพยายามรุกคืบขึ้นไปในระดับที่สูงขึ้น การดำเนินการจึงเกิดขึ้น ดูเหมือนจะ กิจกรรมของผู้ใช้ที่ถูกต้องตามกฎหมาย ส่งผลให้การตรวจสอบตามตัวตนแบบดั้งเดิมและการวิเคราะห์พฤติกรรมสูญเสียความน่าเชื่อถือไป เมื่อรวมกันแล้ว รูปแบบเหล่านี้ สาธิต ระบบที่เน้นตัวแทนจะกัดเซาะความมั่นคงแบบดั้งเดิม การซ้อนทับกันเว้นแต่เอกลักษณ์ การควบคุมคือ บังคับใช้อย่างต่อเนื่อง ตามบริบท และในระหว่างการทำงาน เมื่ออัตลักษณ์ถูกมองว่าเป็นเพียงข้อสันนิษฐานมากกว่าการควบคุม ระบบอัตโนมัติจะกลายเป็นตัวเร่งให้เกิดการประนีประนอมมากกว่าที่จะเป็นตัวเพิ่มประสิทธิภาพด้านความปลอดภัย 

สรุป: จากการตั้งค่าที่ไม่ถูกต้อง สู่ APT รุ่นต่อไป

กระแสการโจมตีนี้เผยให้เห็นความล้มเหลวเชิงระบบในการออกแบบและการทำงานของเอเจนต์ AI มากกว่าที่จะเป็นเพียงข้อบกพร่องเดียว ในกระแสการโต้ตอบของเอเจนต์ ตัวตนได้รับการตรวจสอบเพียงครั้งเดียวแล้วก็ถูกสันนิษฐานไปเรื่อยๆ ความไว้วางใจแพร่กระจายไปทั่วเอเจนต์และเวิร์กโฟลว์โดยไม่ต้องตรวจสอบซ้ำ การตัดสินใจแต่ละครั้งดูสมเหตุสมผลเมื่อพิจารณาแยกกัน แต่เมื่อรวมกันแล้วกลับก่อให้เกิดเส้นทางการทำงานที่ไม่ปลอดภัย นี่คือช่องโหว่ระดับกระแสการทำงาน ซึ่งมีรากฐานมาจากวิธีการที่อำนาจเคลื่อนย้ายผ่านระบบที่มีอายุการใช้งานยาวนาน เป็นอิสระ และประกอบขึ้นจากหลายส่วน

จุดบอดไม่ได้อยู่ที่คุณภาพของโค้ด แต่อยู่ที่ความต่อเนื่องของความไว้วางใจ องค์กรต้องตรวจสอบหาเส้นทางความไว้วางใจที่ไม่ปลอดภัย ไม่ใช่แค่การตั้งค่าที่ไม่ถูกต้อง ทีม IAM และทีมรักษาความปลอดภัยต้องคาดการณ์ว่าข้อผิดพลาดเหล่านี้จะเกิดขึ้น และต้องบังคับใช้กฎอย่างเคร่งครัด การรักษาความปลอดภัยข้อมูลประจำตัวขณะรันไทม์ ดังนั้นจึงสามารถตรวจจับและหยุดยั้งการละเมิดได้ แม้ว่าสมมติฐานในการออกแบบจะล้มเหลวก็ตาม นี่เป็นการเรียกร้องให้ชุมชนผู้ตรวจสอบการโจมตีสร้างแบบจำลองเส้นทางการโจมตีของเอเจนต์และความล้มเหลวในการแพร่กระจายความไว้วางใจด้วย 

อย่าปล่อยให้ความเร็วในการนำ AI มาใช้และความกระตือรือร้นในการทดลองทำให้การรักษาความปลอดภัยของข้อมูลประจำตัวถูกละเลย เนื่องจากระบบอัตโนมัติเคลื่อนที่เร็วกว่าการควบคุมแบบดั้งเดิม การรักษาความปลอดภัยของข้อมูลประจำตัวจึงต้องขยายไปสู่ขอบเขตใหม่: ต่อเนื่อง แบบเรียลไทม์ และคำนึงถึงบริบท องค์กรที่ปรับตัวให้เข้ากับวิธีการทำงานจริงจะเป็นองค์กรที่ก้าวล้ำนำหน้าในสิ่งที่กำลังจะเกิดขึ้น

นี่ไม่ใช่การโจมตีรูปแบบใหม่ กลุ่มแฮ็กเกอร์ได้นำการสแกน การหลบเลี่ยงการตรวจสอบ และการใช้ประโยชน์จากช่องโหว่ในการออกแบบเหล่านี้มาผนวกเข้ากับโครงสร้างพื้นฐาน APT ของตนแล้ว และกำลังทดสอบกับองค์กรขนาดใหญ่