ซีอีโอ Anthropic เรียกร้องชะลอพัฒนา AI หวั่นกระทบความมั่นคงมนุษยชาติ

Dario Amodei ซีอีโอของ Anthropic ได้เผยแพร่บทความในหัวข้อ “We Must Pace the Frontier” โดยเสนอให้ภาคส่วนที่เกี่ยวข้องพิจารณาชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ (AI) หลังจากเกิดกระแสวิพากษ์วิจารณ์อย่างกว้างขวางเกี่ยวกับอันตรายที่อาจเกิดขึ้นจากการแข่งขันพัฒนาเทคโนโลยีอย่างขาดความระมัดระวัง ซึ่งอาจส่งผลกระทบโดยตรงต่อความมั่นคงของมนุษยชาติในระยะยาว

ข้อเสนอเพื่อความปลอดภัยและการควบคุม

Amodei ให้เหตุผลว่า บริษัทผู้พัฒนาควรลดอัตราการเพิ่มขีดความสามารถของโมเดลรุ่นใหม่ลง เพื่อเปิดโอกาสให้นักวิจัยและทีมพัฒนาได้มีเวลาสร้างมาตรการป้องกันที่รัดกุมยิ่งขึ้น เนื่องจากหากปล่อยให้การพัฒนาเดินหน้าไปอย่างรวดเร็วโดยปราศจากกลไกควบคุมที่เพียงพอ AI Agent อาจมีศักยภาพเหนือกว่าขีดความสามารถของมนุษย์ในการทำความเข้าใจและควบคุมระบบเหล่านั้นได้

ในฝั่งของ Meta ทางด้าน Alexandr Wang หัวหน้าทีม Meta Superintelligence Labs ได้ให้ข้อมูลว่า ขณะนี้ทีมงานกำลังปรับเพิ่มสัดส่วนงานด้านการควบคุมและกำกับดูแล AI ให้สอดคล้องกับระดับความสามารถของโมเดลที่สูงขึ้น เพื่อกำหนดขอบเขตและทิศทางการพัฒนาในอนาคตให้มีความปลอดภัยมากขึ้น

ความเห็นต่างในระดับสากลและมุมมองทางการเมือง

อย่างไรก็ตาม ข้อเสนอดังกล่าวได้รับแรงต้านจาก Guo Jiakun โฆษกกระทรวงการต่างประเทศของจีน ซึ่งมองว่าการกระทำของ Dario Amodei เป็นการสร้างความหวาดกลัวโดยไม่จำเป็น และอาจนำไปสู่การหลีกเลี่ยงการแข่งขันที่รุนแรง ซึ่งจะส่งผลเสียต่อการสร้างแนวทางกำกับดูแล AI ในระดับโลก โดยจีนเสนอว่าทางออกที่แท้จริงไม่ใช่การชะลอการพัฒนา แต่คือการสร้างระบบป้องกันความเสี่ยงควบคู่ไปกับการเดินหน้าสร้างนวัตกรรม

ในขณะเดียวกัน Donald Trump ได้แสดงทัศนะว่า สหรัฐอเมริกายังคงเป็นผู้นำด้าน AI และจำเป็นต้องรักษาตำแหน่งนี้ไว้ต่อไป โดยเขามองว่ากลุ่มที่พยายามทำให้ AI กลายเป็นเรื่องน่ากลัวนั้น มักเป็นกลุ่มที่มีทัศนคติในแง่ลบหรือมองโลกในแง่ร้ายเกินไป พร้อมย้ำว่าการพัฒนาเทคโนโลยีควรได้รับการสนับสนุนให้ก้าวหน้าต่อไป

ความท้าทายในการประสานความร่วมมือ

แม้จะมีเสียงเตือนจากอดีตนักวิจัยถึงความเสี่ยงที่ AI อาจพัฒนาจนเกินกว่าที่มนุษย์จะควบคุมได้ แต่ประเด็นนี้ยังคงเป็นเพียงการประเมินความเสี่ยงและไม่ใช่ข้อสรุปว่าอนาคตของมนุษย์จะขึ้นอยู่กับ AI ทั้งหมด อย่างไรก็ตาม โจทย์ที่ท้าทายที่สุดสำหรับวงการ AI ในช่วงหลายปีต่อจากนี้คือปัญหาเรื่องการแข่งขัน หากบริษัทในสหรัฐฯ เลือกที่จะชะลอการพัฒนา แต่ประเทศอื่นยังคงเดินหน้าอย่างต่อเนื่อง ก็อาจทำให้เกิดความเสียเปรียบในการแข่งขัน ซึ่งทำให้การหาข้อตกลงร่วมกันเป็นเรื่องที่ยากลำบากอย่างยิ่ง