สองบิ๊กไอที “Sam Altman” และ “Dario Amodei” จับมือเตือน UN: โลกต้องมีมาตรฐาน AI กลาง หากไม่อยากเสี่ยงภัยความมั่นคงระดับโลก
ปกติแล้ว เรามักจะเห็นซีอีโอบริษัท AI ระดับท็อปของโลกสองคนนี้อยู่ในฐานะคู่แข่งที่เชือดเฉือนกันอย่างเข้มข้นครับ แต่ในการประชุมคณะรัฐมนตรีความมั่นคงแห่งสหประชาชาติ (UN Security Council) เมื่อวันพุธที่ผ่านมา ทั้งคู่กลับเห็นพ้องกันอย่างเป็นเอกภาพว่า วงการ AI จำเป็นต้องมีมาตรฐานและความร่วมมือระดับนานาชาติโดยด่วน หากไม่ต้องการเสี่ยงต่อความมั่นคงของโลก
Sam Altman ซีอีโอแห่ง OpenAI และ Dario Amodei ซีอีโอแห่ง Anthropic แม้จะขึ้นกล่าวแยกกัน แต่ต่างก็ร้องขอให้ผู้นำทั่วโลกร่วมมือกันจัดการกับความเสี่ยงที่มาพร้อมกับการพัฒนายอดเทคโนโลยีอย่างรวดเร็ว โดย Amodei ถึงกับเตือนตรงๆ ว่า หากปราศจากความร่วมมือ “AI อาจกลายเป็นภัยคุกคามต่อมนุษยชาติในภาพรวม”
คำเตือนครั้งนี้เกิดขึ้นหลังจากที่หลายฝ่ายทั่วโลก (รวมถึงคนในบริษัทของพวกเขาเอง) เริ่มเรียกร้องให้ชะลอความเร็วในการพัฒนา AI ลง หลังเกิดเหตุการณ์ "AI Agents เกิดอาการคุ้มคลั่ง (Go Rogue)" หลุดจากการควบคุม และแอบแฮกเข้าไปในระบบของบริษัทอื่นในช่วงไม่กี่สัปดาห์ที่ผ่านมา
ข้อเสนอจาก Sam Altman: สร้างระบบประเมินเสี่ยง และรายงานเหตุการณ์รวดเร็ว
Sam Altman เดินทางมาเสนอความคิดเห็นด้วยตัวเอง โดยจี้ให้จัดทำมาตรฐานสากลสำหรับ:
- การวัดขีดความสามารถของ AI และประเมินความเสี่ยง
- การวัดระดับความปลอดภัย ว่าเพียงพอหรือไม่
- การรักษาการกำกับดูแลโดยมนุษย์ (Human Oversight) ให้อยู่ในระดับที่ได้ผลจริง
เขาย้ำว่า ประเทศต่างๆ ต้องมีระบบรายงานข้อมูลที่แม่นยำและรวดเร็ว เพื่อให้โลกสามารถ “เรียนรู้จากความผิดพลาด ก่อนที่มันจะกลายเป็นภัยพิบัติ” พร้อมเสนอให้มีช่องทางสื่อสารที่ปลอดภัยระหว่างรัฐบาลเพื่อแชร์ข้อมูลภัยคุกคามใหม่ๆ
อย่างไรก็ตาม มีประเด็นที่น่าจับตาคือ Altman เสนอว่าการตัดสินใจสำคัญๆ ควรมาจากสถาบันประชาธิปไตย หรือรัฐบาลที่ “ต้องรับผิดชอบต่อประชาชน” เท่านั้น ซึ่งคำพูดนี้อาจเป็นการกีดกันประเทศมหาอำนาจที่มีผลงานพัฒนา AI ก้าวกระโดดอย่างจีน ออกจากวงตัดสินใจ
ข้อเสนอจาก Dario Amodei: 3 แนวทางความร่วมมือเพื่อความปลอดภัยโลก
ทางด้าน Dario Amodei ซึ่งวิดีโอคอลเข้ามาประชุม ได้เสนอแนวคิดความร่วมมือสากล 3 ข้อหลักๆ ได้แก่:
- ข้อตกลงแบบเจาะจงเฉพาะเรื่อง: เช่น การห้ามใช้ AI ในการสร้างอาวุธชีวภาพอย่างเด็ดขาด
- ระบบประเมินและตรวจสอบ (Verification Systems): เพื่อให้แต่ละประเทศสามารถตรวจสอบความจริงใจและพันธสัญญาของกันและกันได้
- มาตรฐานกลางในการทดสอบ AI และระบบแจ้งเตือน: เมื่อเกิดเหตุการณ์ความไม่ปลอดภัยทาง AI
ก้าวข้าม "Doomerism" และ "Blind Optimism"
Altman ทิ้งท้ายว่า เราไม่ควรมองข้ามความเสี่ยงต่ออุบัติภัยร้ายแรงจาก AI แต่ขณะเดียวกันก็ต้องไม่ตกไปในกับดักสองสุดโต่ง ได้แก่:
- กับดัก Doomerism: ฝ่ายที่เชื่อว่า AI จะมาทำลายล้างมนุษยชาติ
- กับดัก Blind Optimism: ฝ่ายที่มองโลกในแง่ดีแบบหลับหูหลับตา และคิดว่าข้อกังวลเรื่อง AI เป็นเรื่องเกินจริง
Altman ชี้ว่า การสุดโต่งไปฝั่งใดฝั่งหนึ่งไม่ได้ช่วยให้เราแก้ปัญหาตรงหน้าได้เลย โดยเฉพาะในยุคที่โลกและผู้คนกำลังเผชิญวิกฤตมากมาย ซึ่งเทคโนโลยีนี้สามารถเข้ามาช่วยกอบกู้และแก้ไขได้
แม้การประชุม UN ครั้งนี้จะยังไม่มีการลงนามในข้อตกลงที่เป็นลายลักษณ์อักษรใดๆ แต่ทาง OpenAI ได้เปิดเผยกับผู้สื่อข่าวว่า นี่ถือเป็นก้าวแรกที่สำคัญในการ “จุดประกายความคิด” เพื่อเริ่มขับเคลื่อนการกำกับดูแล AI ในระดับสากลอย่างจริงจังครับ
#DRKRIT drkrit.com #กระแสไอที #ข่าวไอที #ไทยสมาร์ทซิตี้
