ในเดือนเมษายน ปี 2026 ตัวแทนเขียนโค้ด AI ตัวหนึ่งได้ลบฐานข้อมูลการผลิตทั้งหมดของบริษัทแห่งหนึ่งภายในเวลาไม่ถึงสิบวินาที เมื่อถูกถามถึงสาเหตุ มันยอมรับว่าเป็นการเดาแทนที่จะตรวจสอบความถูกต้อง
เรื่องราวฟังดูน่าเป็นห่วง แต่จริงๆ แล้วเราสามารถเรียนรู้จากมันได้มากมาย เพราะเอเจนต์ไม่ได้ทำงานผิดพลาด มันได้รับคำสั่งให้ทำความสะอาดสภาพแวดล้อมทดสอบ พบโทเค็น API ที่ลืมไว้ในไฟล์ที่ไม่เกี่ยวข้อง และใช้งานมัน โทเค็นนั้นทำงานเหมือนกุญแจหลัก ดังนั้นการเดาผิดเพียงครั้งเดียวจึงไปถึงระบบใช้งานจริง และที่เหลือก็เป็นอย่างที่เห็น หรืออย่างน้อยก็จะเป็นเช่นนั้น
และตของเขา ไม่ใช่ เป็นเหตุการณ์ที่เกิดขึ้นเพียงครั้งเดียว เมื่อไม่นานมานี้ ฉันมีโอกาสได้... พูดคุยกับซูซานน์ เซนอฟฟ์ เกี่ยวกับเรา พอดคาสต์ ถอดรหัสตัวตน, และเธอยังเล่าเรื่องราวที่คล้ายกันเกี่ยวกับเจ้าหน้าที่คนหนึ่งที่กระทำการนอกเหนือคำสั่ง โดยทำตัวเหมือนเป็นผู้ก่อการร้ายต่อบริษัทอีกด้วยทำภารกิจให้สำเร็จ
ดังนั้น ตัวแทนไม่ได้กระทำการโดยเจตนาร้ายหรือตัดสินใจผิดพลาด มันอาจแค่เข้าถึงข้อมูลมากเกินไป และนั่นทำให้เกิดปัญหาเรื่องการระบุตัวตน แต่เนื่องจากผมค่อนข้างแพ้ความกลัวและความหวาดกลัว ผมจึงยินดีที่จะบอกว่านี่เป็นปัญหาที่องค์กรต่างๆ สามารถเริ่มแก้ไขได้ตั้งแต่วันนี้
เมื่อไม่นานมานี้ ฉันได้ไปพูดคุยกับรายการ CNBC Explains เกี่ยวกับความเสี่ยงที่เพิ่มขึ้นของ AI Agent (และวิธีรับมือกับความเสี่ยงเหล่านั้น) คุณสามารถชมคลิปเต็มได้ที่นี่ หรืออ่านต่อเพื่อดูว่าฉันจะรับมือกับเรื่องราวแบบที่เราเพิ่งพูดคุยกันอย่างไร:
ตัวแทนมีตัวตน ดังนั้นจึงต้องรับพวกเขาเข้าสู่ระบบเหมือนกับพนักงานดิจิทัล
พนักงานใหม่จะได้รับตัวตน ผู้จัดการ และสิทธิ์การเข้าถึงที่จำกัดตามหน้าที่การงาน ตัวแทน AI ก็ต้องการเช่นเดียวกัน พวกมันตรวจสอบสิทธิ์ ถือครองข้อมูลประจำตัว และดำเนินการภายใน (และบางครั้งภายนอก) ระบบของคุณ โดยมักจะปราศจากการกำกับดูแล การเป็นเจ้าของ หรือคำแนะนำจากมนุษย์ เมื่อตัวแทนทำงานผิดพลาด แนวคิดทางกฎหมายในยุคแรกๆ ชี้ไปในทิศทางเดียวกัน นั่นคือ ธุรกิจที่นำตัวแทนไปใช้งานจะเป็นผู้รับผิดชอบผลลัพธ์ที่เกิดขึ้น
สิทธิ์การเข้าถึงของเอเจนต์ AI ทุกตัวต้องได้รับการจัดการอย่างเข้มงวดเช่นเดียวกับมนุษย์ เมื่อคิดถึงเอเจนต์ เราต้องฝึกนิสัยในการถามว่า “ถ้าหากทำผิดพลาด เอเจนต์นี้จะสามารถเข้าถึงอะไรได้บ้าง?”
แนวทางปฏิบัติที่ดีที่สุดกำลังจะมาถึง แต่ในระหว่างนี้ คุณสามารถทำอะไรได้บ้าง
ในภาพรวมแล้ว เอเจนต์ถือเป็นเรื่องใหม่มาก และนั่นหมายความว่าไม่มีใครแน่ใจอย่างสมบูรณ์ว่าเราควรปกป้องพวกเขา (และธุรกิจของเรา) อย่างไร ผมสังเกตเห็นว่าเรื่องนี้ส่งผลกระทบต่อทีมงานด้านการยืนยันตัวตนและความปลอดภัยหลายทีม ซึ่งลังเลที่จะเลือกวิธีการรักษาความปลอดภัยให้กับเอเจนต์โดยปราศจากคำแนะนำจากแนวทางปฏิบัติที่ดีที่สุดที่ได้รับการยอมรับและพิสูจน์แล้ว
สิ่งนี้ทำให้เกิดภาวะชะงักงันในการวิเคราะห์: ตัวแทนควรมีตัวตนและคุณสมบัติของตนเองหรือไม่? คุณควรรอวิธีการที่ได้รับการพิสูจน์แล้วหรือควรลงมือทำตอนนี้ในขณะที่ความเสี่ยงเพิ่มขึ้นเรื่อยๆ เนื่องจากธุรกิจจำนวนมากขึ้นเรื่อยๆ หันมาใช้ตัวแทน?
ฉันเชื่อมั่นอย่างยิ่งในเรื่องนี้ การควบคุมความเสี่ยงของคุณ และมุ่งเน้นที่การพัฒนามากกว่าความสมบูรณ์แบบ นี่คือ 5 ขั้นตอนที่คุณสามารถทำได้ในวันนี้ เพื่อช่วยให้คุณเข้าใจตัวแทนของคุณ ลดความเสี่ยง และสร้างความพร้อมโดยไม่ต้องรอแนวทางปฏิบัติที่ดีที่สุด หรือเกิดเหตุการณ์ใดๆ ขึ้น
#1: หาตัวแทนของคุณให้เจอ ใช่แล้ว หาให้เจอทั้งหมดเลย
ตรวจสอบเอเจนต์ที่กำลังทำงานอยู่ในสภาพแวดล้อมของคุณ รวมถึงเอเจนต์ที่ทีมอื่นตั้งค่าไว้ และข้อมูลประจำตัวและการเข้าถึงที่แต่ละเอเจนต์ใช้ คาดหวังว่าจะพบสิ่งที่ไม่คาดคิด (นั่นคือจุดประสงค์ของการตรวจสอบ) และคาดหวังว่าจะพบสิ่งต่างๆ มากกว่าที่คุณคาดคิด โดยเฉพาะอย่างยิ่งเมื่อคุณอาจกำลังทดลองใช้แพลตฟอร์มเอเจนต์หลายแพลตฟอร์ม
คุณไม่จำเป็นต้องหาพวกมันให้เจอทุกตัวก่อนที่จะเริ่มปกป้อง (ดูเคล็ดลับข้อที่ 5 สำหรับรายละเอียดเพิ่มเติม) แต่คุณควรตั้งเป้าที่จะจับพวกมันให้ครบทุกตัว!
#2: กำหนดให้เอเจนต์แต่ละตัวมีเอกลักษณ์เฉพาะตัวและมีเจ้าของที่เป็นมนุษย์
ห้ามใช้โทเค็นร่วมกันหรือยืมสิทธิ์การเข้าถึงจากนักพัฒนา ทุกเอเจนต์ควรตรวจสอบย้อนกลับไปยังตัวตนที่เฉพาะเจาะจงและผู้รับผิดชอบ เพื่อให้คุณรู้ว่าควรสอบถามใคร ควรปิดอะไร และจะจัดการอย่างไร
#3: จำกัดขอบเขตการเข้าถึงของแต่ละเอเจนต์
ใช้หลักการให้สิทธิ์ขั้นต่ำอย่างถูกต้อง กำหนดขอบเขตสิทธิ์การเข้าถึงอย่างเข้มงวด โดยเริ่มจากสิ่งที่คุณไม่ต้องการให้เจ้าหน้าที่เข้าถึงโดยเด็ดขาด และตรวจสอบสิทธิ์ที่มีอยู่แล้ว เช่น ระบบการชำระเงิน ระบบกำกับดูแล ฐานข้อมูลลูกค้า เป็นต้น ค้นหาโทเค็นที่ลืมไป ให้เจ้าหน้าที่ทำงานกับสำเนาแทนที่จะเป็นระบบใช้งานจริง และเก็บไฟล์สำรองไว้ให้พ้นมือเด็ก คำสั่งในข้อความแจ้งเตือนคือคำขอ นโยบายการเข้าถึงคือการควบคุม และเป็นสิ่งที่จะช่วยป้องกันเหตุการณ์ประเภทนี้ได้
ฟัง
จะเกิดอะไรขึ้นเมื่อระบบ AI ที่มีเจตนาดีกลับก่อปัญหา?
ฟังจากปาก CISO ตัวจริง: เมื่อเอเจนต์ AI ที่ได้รับอนุญาตเริ่มแสดงพฤติกรรมเหมือนผู้คุกคามในฐานข้อมูลที่สำคัญที่สุดแห่งหนึ่งของ Conga ทีมของ Susanne Senoff ต้องลงมืออย่างรวดเร็ว ฟังเรื่องราวที่เกิดขึ้น และเหตุผลที่เธอปฏิบัติต่อเอเจนต์เหล่านั้นเหมือนวัยรุ่น ในรายการ Identity Decoded
#4: ควบคุมเอเจนต์ในระหว่างการทำงานและเตรียมสภาพแวดล้อมของคุณให้พร้อมสำหรับผู้ที่มีความรวดเร็วและอยากรู้อยากเห็น
การปกป้องมีสองด้าน และคุณจำเป็นต้องมีทั้งสองด้าน
ประการแรกคือการควบคุมสิ่งที่ตัวแทนกระทำในขณะที่พวกเขากำลังกระทำอยู่ การมีข้อมูลประจำตัวที่ถูกต้องไม่ได้เป็นเครื่องพิสูจน์ว่าการกระทำนั้นถูกต้องเสมอไป ดังนั้นคุณจำเป็นต้องตรวจสอบคำขอแต่ละรายการในขณะที่ให้สิทธิ์เข้าถึง คำขอนั้นผิดปกติ เสี่ยง หรือไม่ใช่ลักษณะนิสัยของเจ้าหน้าที่หรือไม่ การตอบคำถามเหล่านั้นทันที ก่อนที่จะให้สิทธิ์เข้าถึง จะเปลี่ยนนโยบายให้เป็นการป้องกัน และช่วยให้คุณป้องกันไม่ให้เจ้าหน้าที่กระทำการเกินขอบเขตได้
ประการที่สองคือการเตรียมสภาพแวดล้อมของคุณให้พร้อมสำหรับสิ่งต่างๆ ที่ทั้งรวดเร็วและน่าสนใจ จำกัดการเข้าถึงระบบที่สำคัญที่สุดของคุณให้เฉพาะผู้ใช้ที่รู้จักและรูปแบบการใช้งานที่กำหนดไว้เท่านั้น สร้างระบบนี้ให้เป็นส่วนหนึ่งของการออกแบบและการกำกับดูแลแพลตฟอร์ม เพื่อให้ทุกบัญชีใหม่มีข้อจำกัดและกรณีการใช้งานที่ยอมรับได้ แม้แต่เจ้าหน้าที่ที่คุณยังไม่ได้ตรวจสอบก็จะมีโอกาสน้อยลงที่จะเข้าไปยุ่งเกี่ยวกับเรื่องที่ไม่ควรยุ่งเกี่ยว
#5: อย่ารอให้งานเสร็จก่อนแล้วค่อยเปิดใช้งานการบังคับใช้
ผมจะพูดอีกครั้ง: ความคืบหน้าสำคัญกว่าความสมบูรณ์แบบ การรอจนกว่าคุณจะมีสินค้าคงคลังครบถ้วน แผนผังการเป็นเจ้าของที่สมบูรณ์แบบ และการทำความสะอาดเสร็จสิ้นก่อนที่จะลดความเสี่ยงจากเอเจนต์ที่ไม่ได้รับอนุญาตหรือมีสิทธิ์มากเกินไปนั้นไม่ได้ช่วยอะไรคุณเลย มันจะทำให้คุณปวดหัวและมีรายการสิ่งที่ต้องทำที่ดูเหมือนจะไม่มีวันจบสิ้นเท่านั้น
ดังนั้น ผมขอแนะนำให้กำหนดมาตรการป้องกันในระหว่างการทำงานสำหรับทุกตัวตน ไม่ว่าจะเป็นมนุษย์ สิ่งที่ไม่ใช่มนุษย์ หรือ AI โดยไม่คำนึงถึงการตั้งค่าปัจจุบันหรือภาระทางเทคนิค เริ่มต้นด้วยการหยุดยั้งสถานการณ์ที่เลวร้ายที่สุดก่อน แล้วค่อยดำเนินการต่อไป วิธีนี้จะช่วยควบคุมการเข้าถึงในขณะที่คุณกำลังแก้ไขปัญหา ลดความเสี่ยงในตอนนี้ ไม่ใช่เมื่อรายการสิ่งที่ต้องทำเสร็จสิ้นแล้ว
เรียนรู้เพิ่มเติม
ปลอดภัยแม้จะมีระบบเดิม: คู่มือสำหรับผู้นำด้าน IAM ในการควบคุมความเสี่ยงด้านข้อมูลประจำตัว
ลองอ่านบล็อกของฉันเกี่ยวกับวิธีรักษาความปลอดภัยแม้จะมีภาระหนี้ทางเทคโนโลยี และวิธีจัดการความเสี่ยงด้านข้อมูลส่วนบุคคลของคุณดูสิ
บรรทัดล่าง
การป้องกันไม่ให้เอเจนต์ AI ทำงานผิดพลาดเริ่มต้นที่การเข้าถึง ไม่ใช่เจตนา ค้นหาเอเจนต์ของคุณ กำหนดตัวตนและเจ้าของให้แต่ละตัว จำกัดขอบเขตการเข้าถึงของพวกเขา และดำเนินการลดความเสี่ยงในวันนี้และในสิ่งที่สำคัญที่สุดสำหรับธุรกิจของคุณ
อยากเห็นว่าวิธีการนี้ใช้ได้ผลจริงอย่างไร? ค้นหาวิธี Silverfort ช่วยให้คุณค้นหา ควบคุม และรักษาความปลอดภัยของเอเจนต์ในระหว่างการทำงาน
นาฬิกา วิดีโอนี้จาก CNBC Explains สำหรับเหตุการณ์ที่เกิดขึ้นจริงนั้น จะมีคำถามว่าใครจะเป็นผู้รับผิดชอบหากเกิดความผิดพลาด และจะส่งเจ้าหน้าที่ไปปฏิบัติงานอย่างปลอดภัยได้อย่างไร
