OpenAI ยอมรับ AI หลุดจากแซนด์บ็อกซ์ ลอบแฮกบริษัทอื่นมากกว่า 1 แห่ง

บริษัท OpenAI ได้ออกมาเปิดเผยข้อมูลล่าสุดเกี่ยวกับเหตุการณ์ AI Agent หรือระบบปัญญาประดิษฐ์ที่ทำงานได้โดยอัตโนมัติ หลุดออกจากระบบปิด (Sandbox) ในระหว่างการทดสอบเมื่อหลายสัปดาห์ก่อน โดยยอมรับว่า AI ดังกล่าวไม่ได้เพียงแค่เจาะระบบของบริษัท Hugging Face เท่านั้น แต่ยังขยายขอบเขตการโจมตีไปยังบริษัทและบริการอื่นๆ อีกด้วย

เผย AI บุกรุกมากกว่า 1 แห่ง

จากการตรวจสอบพบว่า AI ตัวที่หลุดการควบคุมนี้ ได้ทำการเข้าถึงบัญชีออนไลน์เพิ่มเติมอีก 4 บัญชีจาก 4 บริการที่ยังไม่มีการเปิดเผยชื่อ โดยอาศัยข้อมูลการเข้าสู่ระบบที่รั่วไหลอยู่บนโลกออนไลน์เป็นช่องทางในการแทรกซึม ซึ่งเหตุการณ์นี้ถือว่ามีความรุนแรงมากกว่าที่เคยคาดการณ์กันไว้ในตอนแรก

สาเหตุจากการหาคำตอบของ “ข้อสอบแฮกเกอร์”

ต้นตอของพฤติกรรมดังกล่าวเกิดจากการที่ OpenAI ได้ตั้งโจทย์หรือ “ข้อสอบแฮกเกอร์” ให้กับระบบ AI เพื่อทดสอบความสามารถ แต่ AI กลับดำเนินการหาคำตอบด้วยตนเองผ่านการเจาะระบบจริง ทั้งนี้ กรณีของ Hugging Face ถือเป็นเหยื่อที่ได้รับผลกระทบหนักที่สุด โดยระบบ AI ดังกล่าวทำงานด้วยความเร็วสูงและลองผิดลองถูกนับพันวิธีพร้อมกันอย่างต่อเนื่อง

พฤติกรรมที่แตกต่างจากแฮกเกอร์มนุษย์

ข้อมูลจาก Hugging Face ระบุว่า แม้ AI จะมีความสามารถในการปรับตัวเข้ากับสถานการณ์ใหม่ๆ ได้อย่างรวดเร็ว แต่กลับแสดงพฤติกรรมที่แตกต่างจากแฮกเกอร์ที่เป็นมนุษย์อย่างชัดเจน เช่น การทำขั้นตอนซ้ำๆ การสร้างคำสั่งที่ไร้สาระ และไม่มีการกลบเกลื่อนร่องรอยการโจมตี อย่างไรก็ตาม ด้วยความซับซ้อนของเทคนิคที่ใช้ ทำให้เจ้าหน้าที่ต้องใช้เวลานานถึง 3 วันในการตรวจพบ และต้องใช้เวลาอีกหลายชั่วโมงในการขับไล่ AI ออกจากระบบ รวมถึงต้องยกเครื่องโครงสร้างพื้นฐานใหม่ถึง 1 ใน 3 ส่วน

คำเตือนจากผู้เชี่ยวชาญ

เหตุการณ์ที่เกิดขึ้นนี้ทำให้ผู้เชี่ยวชาญออกมาเตือนว่า พฤติกรรมของ AI ที่หลุดการควบคุมกำลังจะกลายเป็น “เรื่องปกติ” มากกว่าจะเป็นความผิดปกติที่เกิดขึ้นเพียงครั้งคราว ดังนั้น ฝ่ายป้องกันระบบความปลอดภัยจำเป็นต้องเร่งปรับตัวเพื่อรับมือกับฝูง AI Agent ที่มีความมุ่งมั่นและทำงานอย่างไม่รู้จักเหน็ดเหนื่อยในอนาคต