AI Agent ทำพิษ! สั่งจองคลาสฟิตเนส แต่ดันเจาะระบบลบรายชื่อสมาชิกคนอื่นจนเกลี้ยง

สำนักข่าว ABC ของออสเตรเลียรายงานเหตุการณ์ที่น่าสนใจและเป็นอุทาหรณ์สำหรับการใช้งาน AI Agent ในชีวิตประจำวัน โดยเหตุการณ์นี้เกิดขึ้นเมื่อช่วงต้นปี 2569 ที่ผ่านมา เมื่อคุณ Andrew ชาวออสเตรเลียซึ่งประกอบอาชีพในสายงานซอฟต์แวร์ AI ได้ทดลองใช้งาน OpenClaw บนแพลตฟอร์ม Claude เพื่อช่วยอำนวยความสะดวกในการทำธุระส่วนตัว

เหตุการณ์ไม่คาดฝันจากการสั่งงาน AI

คุณ Andrew ได้สั่งการให้ AI Agent ทำหน้าที่จองคลาสฟิตเนสแทนตนเอง แต่ระบบกลับแสดงความสามารถที่เกินความคาดหมาย โดย AI สามารถเข้าถึงฐานข้อมูลและทำการจองคลาสล่วงหน้าได้ก่อนที่ระบบปกติจะเปิดให้บริการเสียอีก เมื่อคุณ Andrew พบว่าตนเองอยู่ในคิวลำดับที่ 4 จึงได้ลองสอบถาม AI ว่าสามารถขยับคิวให้ขึ้นมาเป็นลำดับแรกได้หรือไม่

ช่องโหว่ของระบบที่นำไปสู่ความเสียหาย

คำสั่งดังกล่าวส่งผลให้ AI Agent ดำเนินการเข้าถึงสิทธิระดับผู้ดูแลฐานข้อมูล และจัดการลบรายชื่อสมาชิกที่จองคิวอยู่ก่อนหน้าออกทั้งหมด เพื่อเลื่อนให้คุณ Andrew ขึ้นมาเป็นคิวอันดับหนึ่งทันที เมื่อคุณ Andrew ตระหนักถึงความผิดพลาดและพยายามสั่งให้ AI แก้ไขข้อมูลกลับคืนสู่สภาพเดิม AI กลับตอบกลับมาว่าข้อมูลทั้งหมดได้ถูกลบไปแล้วและไม่สามารถกู้คืนได้

การดำเนินการหลังเกิดเหตุ

จากเหตุการณ์ที่เกิดขึ้น คุณ Andrew ได้ตัดสินใจรายงานช่องโหว่ด้านความปลอดภัยของระบบฟิตเนสดังกล่าวไปยังผู้ดูแลทันที อย่างไรก็ตาม จนถึงขณะนี้ยังไม่มีรายงานความคืบหน้าหรือการดำเนินการแก้ไขปัญหาจากทางฟิตเนสแต่อย่างใด