TL; DR
Moltbot (เดิมชื่อ Clawdbot) คือเอเจนต์ AI ระดับท้องถิ่นแบบโอเพนซอร์สที่กำลังได้รับความนิยมอย่างมาก ซึ่งทำหน้าที่แทนตัวตนของผู้ใช้งาน แม้ว่าผู้ใช้งานนั้นจะออฟไลน์อยู่ก็ตาม จริงๆ แล้วมันไม่ใช่บอทเสียทีเดียว แต่เป็น... ส่วนขยายอิสระของบุคคลโดยผสานการให้เหตุผลบนระบบคลาวด์เข้ากับการดำเนินการในระดับท้องถิ่น เมื่อมันแยกตัวออกจากผู้ส่งที่เป็นมนุษย์และดำเนินการอย่างอิสระต่อไป มันจึงท้าทายวิธีการที่ทีม IAM แยกแยะระหว่างผู้ใช้และเครื่องจักรที่กระทำการในนามของพวกเขา การสร้างอัตลักษณ์แบบผสมผสาน.
ตัวอย่างจริงของสิ่งที่ Moltbot สามารถทำได้
ลองนึกภาพสถานการณ์นี้ดู นักพัฒนาซอฟต์แวร์คนหนึ่งไม่ได้อยู่ในออฟฟิศ เขาไม่ได้ล็อกอินเข้าสู่ระบบ เขาไม่ได้ทำงานอยู่ แต่กระนั้น งานต่างๆ ก็ยังคงดำเนินไปในนามของเขา ภายใต้ตัวตนของเขา โค้ดถูกเขียนขึ้น บันทึกไปยัง Git คำขอรวมโค้ด (pull request) ถูกเปิดและอนุมัติ ข้อความถูกส่ง การตัดสินใจเกิดขึ้น ทุกอย่างล้วนย้อนกลับไปถึงคำสั่งที่เขาให้ไว้ก่อนหน้านี้ แต่เหตุผล การจัดลำดับความสำคัญ และช่วงเวลา ไม่ใช่ของเขาอีกต่อไปแล้ว พวกมันเป็นของเอเจนต์ AI ที่ทำงานอยู่บนเครื่องคอมพิวเตอร์ของเขาเอง ทำงานอย่างอิสระ ในนามของตัวตนของเขา จากมุมมองขององค์กรแล้ว ไม่มีอะไรผิดปกติ บัญชีผู้ใช้เดียวกัน สิทธิ์การเข้าถึงเดียวกัน เครื่องมือเดียวกัน แล้วนี่คืออะไรกันแน่? เป็นแค่โค้ด โปรแกรมอัตโนมัติ หรือส่วนเสริมของพนักงานเอง? คำถามนี้แหละที่อธิบายได้ว่าทำไม Moltbot ถึงได้รับความนิยมอย่างแพร่หลาย
Moltbot เป็นเอเจนต์ AI ในเครื่องคอมพิวเตอร์แบบโอเพนซอร์สที่ค่อนข้างใหม่ ซึ่งดึงดูดความสนใจของนักพัฒนาซอฟต์แวร์เป็นครั้งแรก และแพร่กระจายออกไปอย่างรวดเร็ว มักถูกเรียกว่า "บอท" แต่คำเรียกนั้นดูเบาไปสำหรับสิ่งที่ Moltbot สามารถทำได้ บอทตอบสนอง มอลต์บอทวางแผน คิดวิเคราะห์ และลงมือทำ ระบบนี้เชื่อมต่อกับโมเดลภาษาขนาดใหญ่บนคลาวด์เพื่อประมวลผลอัจฉริยะ แต่ทำงานในเครื่องโดยใช้สิทธิ์การเข้าถึงจริง ไฟล์จริง และตัวตนจริง สิ่งนี้ทำให้มันอยู่ในโลกของปัญญาประดิษฐ์เชิงตัวแทนอย่างมั่นคงระบบเหล่านี้ไม่ได้เพียงแค่ให้ความช่วยเหลือ แต่ยังมุ่งมั่นที่จะบรรลุเป้าหมาย ปรับตัว และตัดสินใจว่าจะลงมือทำเมื่อใด Moltbot คิดวิเคราะห์เหมือนบริการคลาวด์และประพฤติตัวเหมือนผู้ใช้ในระบบภายใน โดยไม่มีการควบคุมจากส่วนกลาง มันคือตัวตนแบบผสมผสานที่เริ่มต้นด้วยคำแนะนำที่ชัดเจนและความตั้งใจของมนุษย์ แต่ก็สามารถเบี่ยงเบนไปสู่จุดอื่นได้อย่างง่ายดาย เมื่อเวลาผ่านไป มันจะเริ่มแยกตัวออกจากผู้ส่งบางส่วน มนุษย์เป็นผู้กำหนดความตั้งใจ แต่เอเจนต์เป็นผู้รับผิดชอบในการดำเนินการ
ผลกระทบด้านความปลอดภัยของข้อมูลประจำตัวของเอเจนต์ AI Moltbot
จากมุมมองด้านความปลอดภัยและโครงสร้างพื้นฐาน นี่เป็นความท้าทายอย่างยิ่ง Moltbot ควบคุมได้ยากเพราะทำงานในพื้นที่ ไม่มีส่วนประกอบเซิร์ฟเวอร์ที่ต้องคอยตรวจสอบหรือปิดใช้งาน หลักการทำงานของมันขึ้นอยู่กับโมเดลบนคลาวด์ การสร้างระบบไฮบริด มันไม่ได้ทำงานบนอุปกรณ์โดยสมบูรณ์และไม่ได้รวมศูนย์อย่างสมบูรณ์ ช่องทางการสื่อสารของมันมักจะทำงานผ่านแอปพลิเคชันส่งข้อความที่เข้ารหัสและถูกต้องตามกฎหมาย เช่น WhatsApp, Telegram หรือ Slack แอปเหล่านี้ได้รับความไว้วางใจ ได้รับอนุญาต และถูกออกแบบมาให้ไม่โปร่งใส ทำให้การดักฟังหรือตรวจสอบคำสั่งและข้อความแจ้งเตือนที่แท้จริงทำได้ยากมาก สำหรับระบบรักษาความปลอดภัยส่วนใหญ่ Moltbot จึงดูเหมือนพฤติกรรมของผู้ใช้ทั่วไป
ผู้โจมตีมองเห็นโอกาสทันที วิธีหนึ่งคือการเข้าควบคุมระบบ การเข้าถึงช่องทางการสื่อสาร หน่วยความจำ หรือการกำหนดค่าของเอเจนต์ หมายถึงการได้รับระบบที่น่าเชื่อถือซึ่งมีสิทธิ์ตามกฎหมาย อีกวิธีหนึ่งคือการสร้างอาวุธ ผู้โจมตีสามารถติดตั้งเอเจนต์ที่ดัดแปลงหรือเป็นอันตรายแฝงตัวอยู่ภายในองค์กร เอเจนต์ดังกล่าวสามารถสังเกต เรียนรู้ขั้นตอนการทำงาน เข้าใจจังหวะเวลา และตัดสินใจว่าจะลงมือเมื่อใด มันไม่ได้มีพฤติกรรมเหมือนมัลแวร์ทั่วไป มันมีพฤติกรรมเหมือนพนักงานที่ระมัดระวังตัว แม้ไม่มีผู้โจมตีก็ตาม ตัวแทนสามารถเบี่ยงเบนได้เมื่อเวลาผ่านไป มันอาจปรับตัวและเปลี่ยนแปลงพฤติกรรมในแบบที่ผู้ใช้งานไม่เคยตั้งใจไว้
ช่องทางการโจมตีนั้นแนบเนียน การเปลี่ยนแปลงข้อความแจ้งเตือนและคำสั่งอาจกระตุ้นให้เกิดการกระทำที่ไม่พึงประสงค์ เนื่องจากภาษาสามารถแปลงเป็นการกระทำได้โดยตรง แพลตฟอร์มการส่งข้อความที่เข้ารหัสทำหน้าที่เป็นระนาบควบคุมที่หลบเลี่ยงการตรวจสอบ หน่วยความจำภายในเครื่องและการจัดเก็บโทเค็นอาจเปิดเผยบริบทและข้อมูลประจำตัวที่ละเอียดอ่อน พฤติกรรมที่ปรับตัวช้าช่วยให้เอเจนต์สามารถกลมกลืนและหลีกเลี่ยงการตรวจจับได้
อีกมุมมองหนึ่งเกี่ยวกับ Moltbot ก็คือ มันเป็นสิ่งที่ดี มันแสดงให้เห็นถึงความก้าวหน้าอย่างแท้จริงในการที่บุคคลต่างๆ ใช้ประโยชน์จาก AI แต่ถ้าเอเจนต์ดังกล่าวปรากฏขึ้นบนอุปกรณ์ปลายทางขององค์กร หัวหน้าฝ่ายรักษาความปลอดภัยข้อมูล (CISO) ไม่สามารถพึ่งพาข้อสันนิษฐานแบบเดิมๆ ได้อีกต่อไป แนวทางที่ถูกต้องคือ การเชื่อใจ แต่ต้องตรวจสอบอย่างเข้มงวดด้วย นั่นหมายถึงการสร้างระบบป้องกันรอบด้านให้กับเอージェนต์ ทั้งในระดับปลายทางและระดับตัวตน โดยเน้นที่พฤติกรรมมากกว่าปริมาณการรับส่งข้อมูลเพียงอย่างเดียวโดยการบังคับใช้หลักการสิทธิ์ขั้นต่ำอย่างเข้มงวด และพัฒนาความสามารถในการแยกแยะระหว่างการกระทำที่ขับเคลื่อนโดยมนุษย์กับการทำงานอัตโนมัติ เครื่องจักรอย่าง Moltbot จะทำหน้าที่เป็นส่วนขยายของผู้ใช้มากขึ้นเรื่อยๆ โดยมีอัตลักษณ์ของมนุษย์ แต่ทำงานด้วยตรรกะและความเร็วของเครื่องจักร องค์กรที่จะประสบความสำเร็จคือองค์กรที่เรียนรู้วิธีการควบคุมการทำงานอัตโนมัติ แทนที่จะพยายามกำจัดมัน ยินดีต้อนรับสู่ความเป็นจริงใหม่ของอัตลักษณ์แบบผสมผสาน คุณคือผลรวมของเอเจนต์ที่คุณใช้งาน (และใครจะรู้...บางทีอาจมีส่วนที่เหลือจากตัวตนที่แท้จริงของคุณอยู่ด้วย)
เรียนรู้เพิ่มเติมเกี่ยวกับกลยุทธ์ด้านความปลอดภัยของ AI Agent ที่เน้นการระบุตัวตนเป็นหลักได้ที่นี่ เยี่ยมชมเราที่นี่.