Satya Nadella เสนอมาตรการคุมเข้ม Super Intelligence ต้องมีปุ่มตัดการทำงาน

Satya Nadella ได้ออกมาแสดงทัศนะเกี่ยวกับความท้าทายครั้งสำคัญของเทคโนโลยี Super Intelligence ซึ่งในปัจจุบันมีความก้าวหน้าไปอย่างรวดเร็ว จนเกินกว่าขีดความสามารถของซอฟต์แวร์แบบดั้งเดิมที่มนุษย์จะสามารถตรวจสอบหรือทำความเข้าใจกระบวนการทำงานได้อย่างถ่องแท้ในหลายกรณี

แนวทางการกำกับดูแล Super Intelligence

เพื่อรับมือกับความเสี่ยงที่อาจเกิดขึ้น Nadella ได้เสนอแนวทางในการควบคุมดูแลเทคโนโลยีดังกล่าว โดยมีประเด็นสำคัญดังนี้:

• การบันทึกข้อมูลที่โปร่งใส: กำหนดให้โมเดลต้องจัดทำบันทึกทุกการกระทำและการตัดสินใจในรูปแบบที่มนุษย์สามารถอ่านและทำความเข้าใจได้ง่าย
• การป้องกันการแก้ไขข้อมูล: ต้องมีมาตรการควบคุมที่เข้มงวดเพื่อป้องกันไม่ให้มีการแก้ไขหรือดัดแปลงบันทึกการตัดสินใจของโมเดล เพื่อให้เกิดความโปร่งใสสูงสุด
• กลไกการควบคุมและสั่งการ: ต้องมีการระบุตัวผู้มีสิทธิ์ควบคุมและจัดการโมเดลอย่างชัดเจน พร้อมทั้งติดตั้งกลไกที่สามารถสั่งปิดการทำงานของโมเดลได้ทันทีในกรณีที่จำเป็น

ข้อเสนอดังกล่าวสะท้อนให้เห็นถึงความพยายามในการสร้างสมดุลระหว่างนวัตกรรมที่ล้ำสมัยกับการรักษาความปลอดภัย เพื่อให้มั่นใจว่าการพัฒนาเทคโนโลยีในอนาคตจะยังคงอยู่ภายใต้การกำกับดูแลของมนุษย์อย่างมีประสิทธิภาพ