OpenAI สั่งเบรกเทรนโมเดลใหญ่ 2 สัปดาห์ หลังเกิดเหตุช่องโหว่ความปลอดภัย

OpenAI ได้ออกมาประกาศความเคลื่อนไหวสำคัญ โดยระบุว่าบริษัทได้ตัดสินใจหยุดพักการฝึกฝน (Train) โมเดลปัญญาประดิษฐ์รุ่นใหญ่เป็นระยะเวลา 2 สัปดาห์ หลังจากเกิดเหตุการณ์ที่มีการนำโมเดลของบริษัทไปใช้ในทางที่ไม่เหมาะสมจนนำไปสู่การแฮ็กระบบของ Hugging Face

การยกระดับความปลอดภัยเชิงโครงสร้าง

ในช่วงเวลา 2 สัปดาห์ของการหยุดพักดังกล่าว OpenAI ได้ใช้โอกาสนี้ในการปรับปรุงระบบให้มีความแข็งแกร่ง (Hardening) มากยิ่งขึ้น โดยมุ่งเน้นไปที่การทดลองเจาะระบบวิจัย (Red-teaming) เพื่อหาช่องโหว่ รวมถึงการขยายขีดความสามารถของระบบเฝ้าระวังหรือมอนิเตอร์ให้ครอบคลุมและกว้างขวางขึ้นกว่าเดิม

นอกจากนี้ บริษัทยังได้ปรับปรุงโครงสร้างพื้นฐานของระบบให้มีการแยกส่วน (Isolation) อย่างเด็ดขาด ทั้งในระดับของเนื้องานและระดับเครือข่าย เพื่อป้องกันการเข้าถึงข้อมูลหรือการทำงานที่อาจส่งผลกระทบต่อกัน พร้อมทั้งดำเนินการทดสอบขอบเขตของระบบ (System boundaries) ให้มีความชัดเจนและแม่นยำมากยิ่งขึ้น

การดำเนินงานในส่วนอื่นๆ

ในส่วนของระบบป้องกัน (Safeguard) ที่ OpenAI ใช้งานอยู่ในปัจจุบันนั้น ข้อมูลระบุว่าถูกแบ่งออกเป็น 3 ส่วนหลัก เพื่อสร้างมาตรฐานความปลอดภัยที่รัดกุม อย่างไรก็ตาม สำหรับโมเดลขนาดเล็กตัวอื่นๆ ของบริษัทยังคงดำเนินการฝึกฝนต่อไปได้ตามปกติ โดยไม่ได้รับผลกระทบจากการหยุดพักการพัฒนาโมเดลรุ่นใหญ่ในครั้งนี้แต่อย่างใด