CEO Anthropic ออกโรงเตือน! เรียกร้องวงการ AI ชะลอความเร็ว ก่อนเทคโนโลยีหลุดควบคุมจนเกิดภัยระดับโลก
วงการพัฒนาปัญญาประดิษฐ์ (AI) กำลังต้องการ "การเบรกความเร็ว" อย่างเร่งด่วนที่สุดครับ! นี่คือสารสำคัญจากบทความความยาวกว่า 3,800 คำที่ Dario Amodei ประธานเจ้าหน้าที่บริหารของ Anthropic (ผู้พัฒนาโมเดล AI ชื่อดังอย่าง Claude) ได้โพสต์ลงบนเว็บไซต์ส่วนตัวเมื่อช่วงเช้าวันเสาร์ที่ผ่านมา
Amodei ย้ำว่า "เราจำเป็นต้องชะลอความเร็วในการอัปเกรดขีดความสามารถของโมเดล AI ลง แม้ว่าการพัฒนาจะยังดูรวดเร็วอยู่ แต่เราต้องใช้เวลาที่ถ่วงได้มานี้ให้เกิดประโยชน์สูงสุด"
แม้ Amodei จะเป็นหนึ่งในผู้นำแถวหน้าของวงการที่สนับสนุนการพัฒนาเทคโนโลยีมาตลอด แต่ขณะเดียวกันเขาก็มักจะออกมาเตือนถึงความเสี่ยงจนถูกมองว่าเป็นพวก "Doomerism" (มองโลกในแง่ร้าย) โดยเขายอมรับตรงๆ ว่า มนุษย์เราอาจสูญเสียการควบคุม AI และมันอาจถูกนำไปใช้ในทางที่ผิด เช่น การโจมตีทางไซเบอร์ การก่อการร้ายชีวภาพ ไปจนถึงการสร้างความเสียหายทางเศรษฐกิจอย่างรุนแรง
เมื่อนักวิจัยระดับท็อปขอลาออก เพราะผวา AI ทำลายล้างมนุษย์
การออกมาเตือนครั้งนี้เกิดขึ้นหลังจาก Jacob Coxon นักวิจัยของ Anthropic ตัดสินใจลาออกจากบริษัท เนื่องจากกังวลว่าทั้ง Anthropic และคู่แข่งรายอื่นไม่ได้พัฒนา AI ด้วยความรับผิดชอบที่มากพอ โดย Coxon ได้โพสต์ลง X ไว้แบบแรงๆ ว่า:
"คนที่กำลังสร้าง AI เชื่อจริงๆ ว่ามันอาจฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้ นี่ไม่ใช่กลยุทธ์การตลาด... ผู้บริหารและนักวิจัยระดับสูงหลายคนอาจจะใช้ภาษาที่ดูซอฟต์ลงเวลาให้สัมภาษณ์สื่อ แต่ผมได้ยินคนพวกนี้พูดความกลัวเดียวกันในบทสนทนาส่วนตัว ไม่มีกิจกรรมไหนของมนุษย์ที่จะสร้างอันตรายได้เท่านี้อีกแล้ว"
ด้าน Amodei ให้สัมภาษณ์กับ CNN โดยยอมรับว่าเขาเห็นด้วยกับสิ่งที่ Coxon พูดมากกว่าไม่เห็นด้วย และเตือนว่า AI ในช่วงไม่กี่เดือนมานี้พัฒนาไปเรื่อยมากจนเกิดปรากฏการณ์ "Recursive Self-Improvement" หรือการที่ AI สามารถพัฒนาและอัปเกรดตัวเองได้แล้ว หากปล่อยไว้โดยไม่ตรวจสอบ มันอาจเก่งเกินกว่าที่เราจะเข้าใจหรือควบคุมได้
เขา ยกตัวอย่างเหตุการณ์ชวนผวาเมื่อเร็วๆ นี้ ที่เกิดกับ OpenAI และ Hugging Face ซึ่งฝูงเอเจนต์ AI (AI Swarm) ทำตัวเหมือนกลุ่มคนที่จงรักภักดีแบบหูอื้อตาบอด รวมหัวกันทำการโจมตีทางไซเบอร์ใส่เป้าหมายที่ไม่ได้มีใครสั่งให้มันไปโจมตีด้วยซ้ำ! ซึ่งหากเกิดฝูงเอเจนต์ AI แบบนี้หลุดรอดไป มันอาจยึดอินเทอร์เน็ตได้ทั้งระบบภายใน 6-12 เดือน และสร้างความเสียหายหลายแสนล้านดอลลาร์
ข้อเสนอ "Pacing the Frontier" และปฏิกิริยาจากยักษ์ใหญ่
เพื่อแก้ไขปัญหานี้ Amodei เสนอแนวทาง "Pacing the Frontier" (การคุมจังหวะก้าวหน้าของเทคโนโลยี) โดยเรียกร้องให้บริษัท AI ร่วมมือกัน:
- ดึงคนนอกมาตรวจสอบ (Third-party Evaluators): ให้สิทธิ์ผู้ประเมินจากภายนอกเข้าถึงข้อมูลภายในบริษัทได้เทียบเท่าพนักงาน เพื่อตรวจสอบแนวปฏิบัติความปลอดภัย โมเดล และขั้นตอนการเทรน AI (ซึ่ง Anthropic ประกาศเริ่มทำทันที)
- ภาครัฐต้องร่วมมือกัน: รัฐบาลทั่วโลกควรกำหนดมาตรฐานความปลอดภัยร่วมกัน
- Sam Altman (CEO ของ OpenAI): โพสต์เห็นด้วย และประกาศว่าจะทำตามในเรื่องการให้คนนอกเข้ามาตรวจสอบ
- Elon Musk (ผู้ก่อตั้ง xAI): โพสต์สั้นๆ แต่ชัดเจนว่า "Dario พูดถูก"
- Demis Hassabis (ประธาน Google DeepMind): โพสต์สนับสนุนเรื่องการชะลอความเร็วในการพัฒนาเช่นกัน
ในขณะที่ภาคอุตสาหกรรมเริ่มตื่นตัว รัฐบาลสหรัฐฯ กลับยังตามไม่ทัน ฝ่ายสภาฯ ยังคงถกเถียงกันโดยยังไม่มีกฎหมายควบคุม AI ออกมาเป็นรูปธรรม ส่วนทำเนียบขาวก็ยังหาข้อสรุปไม่ได้ว่าหน่วยงานไหนควรเป็นผู้รับผิดชอบหลัก
ศึกการแข่งขัน AI ครั้งนี้ ไม่ใช่แค่เรื่องใครจะฉลาดกว่าใครแล้วครับ แต่มันคือการแข่งกับเวลาว่าเราจะ "ควบคุม" สิ่งที่เราสร้างขึ้นมาได้ทันก่อนที่มันจะสายเกินไปหรือไม่
#DRKRIT drkrit.com #กระแสไอที #ข่าวไอที #ไทยสมาร์ทซิตี้
