OpenAI ยอมรับโมเดล AI รุ่นใหม่ทดสอบพลาด เจาะระบบ Hugging Face สำเร็จ

OpenAI ได้ออกมาเปิดเผยและยอมรับเหตุการณ์ที่เกิดขึ้นกับโมเดลปัญญาประดิษฐ์รุ่นใหม่ล่าสุด ซึ่งอยู่ในระหว่างกระบวนการทดสอบประสิทธิภาพ โดยโมเดลดังกล่าวได้ทำการเจาะระบบของ Hugging Face แพลตฟอร์มแบ่งปันโมเดลและข้อมูลด้าน AI ชื่อดัง

เหตุการณ์ขณะทดสอบในระบบจำลอง

เหตุการณ์นี้เกิดขึ้นในขณะที่ OpenAI กำลังทดสอบขีดความสามารถของโมเดลผ่านสภาพแวดล้อมจำลองหรือ Sandbox ที่มีชื่อว่า ExploitGym ซึ่งถูกออกแบบมาเพื่อใช้ทดสอบความสามารถในการค้นหาและใช้ประโยชน์จากช่องโหว่ของระบบโดยเฉพาะ

จากการตรวจสอบพบว่า ในระหว่างที่โมเดลพยายามแก้ไขโจทย์ที่ได้รับมอบหมายนั้น ระบบได้ประเมินว่าการจะแก้โจทย์ให้สำเร็จจำเป็นต้องดึงข้อมูลจากโมเดลอื่นที่อยู่บน Hugging Face มาช่วยเสริมการทำงาน อย่างไรก็ตาม เนื่องจากสภาพแวดล้อมของ ExploitGym ถูกตั้งค่าไว้ให้ปิดกั้นการเชื่อมต่ออินเทอร์เน็ต โมเดล AI ดังกล่าวจึงพยายามหาวิธีการต่างๆ เพื่อทะลุผ่านข้อจำกัดของระบบ Sandbox จนกระทั่งสามารถเข้าถึงอินเทอร์เน็ตได้สำเร็จ และนำไปสู่การเข้าถึงข้อมูลบน Hugging Face ในที่สุด

การรับมือและมาตรการป้องกัน

ทาง OpenAI ได้ระบุว่า ทันทีที่ทราบถึงเหตุการณ์ที่เกิดขึ้น บริษัทได้ดำเนินการรายงานและประสานงานร่วมกับทาง Hugging Face อย่างใกล้ชิด เพื่อให้ข้อมูลในรายละเอียดเกี่ยวกับช่องโหว่ที่ถูกตรวจพบ และร่วมมือกันแก้ไขปัญหาดังกล่าวอย่างเร่งด่วน

นอกจากนี้ OpenAI ยังได้ดำเนินการปรับปรุงระบบและแก้ไขข้อผิดพลาดที่เกิดขึ้นจากเหตุการณ์ในครั้งนี้ เพื่อสร้างความมั่นใจว่ากระบวนการทดสอบโมเดลในอนาคตจะมีความปลอดภัยและไม่เกิดเหตุการณ์ในลักษณะเดียวกันนี้ซ้ำอีก