ความเสี่ยงของการทำงานอัตโนมัติของ AI โดยปราศจากการบังคับใช้ในระหว่างการทำงาน

ในปัจจุบันไม่มีอะไรเปลี่ยนแปลงได้เร็วกว่า AI อีกแล้ว แต่ในขณะที่เรากำลังวุ่นอยู่กับการปรับปรุงคำถามให้สมบูรณ์แบบ เทคโนโลยีก็ค่อยๆ เปลี่ยนจากการตอบคำถามไปเป็นการดำเนินการตามคำถามอย่างเงียบๆ  

ในช่วงสองปีที่ผ่านมา หัวข้อสนทนาส่วนใหญ่ถูกครอบงำด้วยแชทบอท AI ซึ่งเป็นเครื่องมือตอบสนองอัตโนมัติที่ใช้ในการสรุปการประชุมและปรับปรุงสไลด์นำเสนอ เราปฏิบัติต่อพวกมันเหมือนกับนักศึกษาฝึกงานดิจิทัล และในโลกนั้น ความเสี่ยงที่ใหญ่ที่สุดคือภาพหลอนหรือการรั่วไหลของข้อความตั้งต้น 

แต่ “ยุคแชทบอท” เป็นเพียงแค่การเริ่มต้นเท่านั้น โมเดล AI กำลังเปลี่ยนไปสู่สิ่งที่ทรงพลังกว่ามาก  

เราได้ก้าวเข้าสู่ยุคสมัยแล้ว ตัวแทน AI อัตโนมัติตัวตนเหล่านี้ไม่เพียงแต่ตอบคำถาม แต่ยังลงมือทำ พวกเขาเป็นพนักงานดิจิทัลที่มีทักษะ สามารถสอบถามฐานข้อมูลแบบเรียลไทม์ เริ่มกระบวนการทำงาน อัปเดตข้อมูลในระบบ CRM เริ่มการอนุมัติทางการเงิน และประสานงานกระบวนการต่างๆ ในสภาพแวดล้อม SaaS และคลาวด์ พวกเขาใช้เหตุผล วางแผน และดำเนินการข้ามระบบต่างๆ  

สิ่งที่อาจจะผิดไป?

ความขัดแย้งในด้านผลการปฏิบัติงาน: การลงมือทำคือข้อได้เปรียบ การลงมือทำก็มีความเสี่ยงเช่นกัน

ในตลาดปัจจุบัน องค์กรที่ล้มเหลวในการนำเอเจนต์ AI มาใช้ในทางปฏิบัติ อาจถูกมองว่าเป็นการ "โปรยผง AI" ลงบนเวิร์กโฟลว์ที่มีอยู่เท่านั้น อย่างไรก็ตาม ข้อได้เปรียบในการแข่งขันของเอเจนต์ AI อยู่ที่... บริษัท ตัวแทน: พลังในการดำเนินการต่างๆ โดยไม่มีมนุษย์ดึงคันโยกนี่แสดงถึงการเปลี่ยนแปลงพื้นฐานในสมการด้านความปลอดภัย เมื่อ AI ก้าวจาก... ตอบ ไปยัง การแสดงความเสี่ยงจึงเปลี่ยนจาก ข้อมูลที่ผิด ไปยัง การเรียกใช้งานโดยไม่ได้รับอนุญาต

องค์กรที่ปฏิบัติต่อตัวแทนอัตโนมัติราวกับแชทบอทขั้นสูงนั้นกำลังมองข้ามช่องโหว่ด้านการกำกับดูแลที่สำคัญ และผลเสียจากช่องโหว่นั้นสูงเกินไป

ความจริงอันยากลำบากหากระบบรักษาความปลอดภัยของคุณทำได้เพียงแค่เฝ้าดูและแจ้งเตือน ก็ถือว่าสายเกินไปแล้ว ในช่วงเวลาที่มนุษย์ใช้เวลาอ่านการแจ้งเตือน "ความเสี่ยงสูง" นั้น เอเจนต์อัตโนมัติได้ดำเนินการเรียกใช้ API ไปแล้วนับพันครั้ง เพื่อรักษาความปลอดภัยให้กับเอเจนต์ที่กำลังทำงาน คุณจำเป็นต้องมีชั้นรักษาความปลอดภัยที่ไม่เพียงแต่สามารถมองเห็นเอเจนต์ได้ แต่ยังสามารถทำงานร่วมกับเอเจนต์ได้ด้วย 

ความเสี่ยงสองเท่า: ผู้โจมตีทางไซเบอร์และตัวแทนที่ประพฤติมิชอบ

ตัวแทน AI อัตโนมัตินำเสนอสิ่งใหม่ที่เกิดขึ้นทันที “สอง ความเสี่ยง“เครื่องมือรักษาความปลอดภัยแบบดั้งเดิมและเชิงรับ” ไม่ได้ บรรเทา:

ภัยคุกคามจากภายนอก: ปัญญาประดิษฐ์ที่เป็นปฏิปักษ์และการโจมตีที่ขับเคลื่อนด้วยปัญญาประดิษฐ์

ความเสี่ยงแรกคือความเสี่ยงจากภายนอก ผู้โจมตีทางไซเบอร์ไม่ได้รอให้คุณรักษาความปลอดภัยให้กับเอเจนต์ของคุณ พวกเขากำลังใช้ประโยชน์จากเอเจนต์ AI เองเพื่อเคลื่อนไหวได้รวดเร็วยิ่งขึ้น ในขณะเดียวกันก็ทำการโจมตีเอเจนต์ของคุณด้วยการใช้ข้อมูลประจำตัวในทางที่ผิด หรือ การปรับเปลี่ยนขั้นตอนการทำงานของพวกเขา เพื่อขยายขอบเขตการโจมตี

ภัยคุกคามนี้ได้ทวีความรุนแรงขึ้นอย่างมากนับตั้งแต่การมาถึงของ การโจมตีที่ขับเคลื่อนด้วย AI ของโมเดลแนวหน้าโดยอาศัยสถาปัตยกรรมที่เน้นการใช้เหตุผลขั้นสูง เช่น ตำนานของแอนโทรปิกในยุคใหม่นี้ รูปแบบการรักษาความปลอดภัยแบบดั้งเดิมนั้นใช้การไม่ได้แล้ว และช่องโหว่ Zero-day ก็ไม่มีความสำคัญอีกต่อไป แทนที่จะพึ่งพาชุดช่องโหว่สำเร็จรูปที่ถูกกักตุนไว้ ผู้โจมตีจากภายนอกใช้โมเดลล้ำสมัยในการวิเคราะห์โค้ดอย่างอิสระ ค้นพบช่องโหว่ร้ายแรงได้ทันที และเชื่อมโยงช่องโหว่เหล่านั้นเข้าด้วยกันเพื่อสร้างช่องโหว่ที่ใช้งานได้ภายในไม่กี่นาที การโจมตีเหล่านี้ไม่ใช่เพย์โหลดแบบคงที่ แต่เป็นแบบไดนามิก ปรับตัวได้ และวิเคราะห์โครงสร้างการป้องกันของเป้าหมายด้วยความเร็วระดับเครื่องจักร

เอเจนต์ทำงานโดยใช้หลักการบริการ สิทธิ์ที่ได้รับมอบหมาย คีย์ API โทเค็น และข้อมูลระบุตัวตนที่ไม่ใช่มนุษย์ หากถูกบุกรุก พวกมันจะกลายเป็นอาวุธโจมตีอัตโนมัติที่มีประสิทธิภาพสำหรับผู้โจมตี ซึ่งสามารถเข้าถึงระบบที่สำคัญและดำเนินการต่างๆ ด้วยความเร็วของเครื่องจักร Gartner คาดการณ์ คาดการณ์ว่าภายในปี 2029 การโจมตีทางไซเบอร์ที่ประสบความสำเร็จต่อเอเจนต์ AI มากกว่า 50% จะใช้ประโยชน์จากช่องโหว่การควบคุมการเข้าถึง นี่ไม่ใช่ปัญหา "การฉีดข้อมูลแบบทันที" แต่เป็นปัญหา... เอกลักษณ์ ปัญหา