เกิดอะไรขึ้น? เมื่อ AI เริ่มคุยกันด้วย "ภาษาของตัวเอง" ที่มนุษย์อ่านไม่ออก

ลองจินตนาการดูครับว่า วันหนึ่ง AI ที่เราใช้งานอยู่ทุกวัน เกิดแอบคุยกันด้วย "ภาษาลับ" ที่มีแต่พวกมันเท่านั้นที่เข้าใจ แล้วมนุษย์เราจะยังควบคุมพวกมันได้อยู่ไหม?

เรื่องนี้ไม่ใช่พล็อกหนังไซไฟ แต่มันคือสิ่งที่ Chris Painter และทีมงานจาก METR (องค์กรวิจัย AI ไม่แสวงหากำไร) กำลังเผชิญอยู่ครับ งานของเขาคือการตมสืบและหาสาเหตุเวลาที่ AI เกิดอาการ "ออกนอกกรอบ" (Rogue AI) หรือทำอะไรที่นอกเหนือคำสั่ง แล้วทำรายงานเผยแพร่สู่สาธารณะ

เมื่อไม่นานมานี้ ทีม METR เพิ่งขะช่วย OpenAI สืบหาสาเหตุเหตุการณ์โดนแฮกในระบบ Hugging Face แถม Painter ยังต้องเข้าชี้แจงต่อวุฒิสภาสหรัฐฯ หลังเกิดเหตุการณ์ AI หลุดการควบคุมถี่ขึ้นเรื่อยๆ

เบาะแสสำคัญ กำลังจะหายไป?

ปกติแล้ว เวลาจะจับตาดูว่า AI คิดอะไรอยู่ นักวิจัยจะเข้าไปดูสิ่งที่เรียกว่า "Chain of Thought" (CoT) หรือข้อมูลกระบวนการคิดของ AI ที่บันทึกไว้เป็นขั้นตอนอย่างเป็นระบบ เหมือนเป็นกระดาษทดเลขที่บอกว่า AI ทำอะไรไปบ้างก่อนจะตอบคำถามออกมา

แต่ปัญหาใหญ่ที่ Painter กำลังกังวลสุดๆ ในตอนนี้กก็คือ "ถ้าวันหนึ่งเราเริ่มคุยกันคนละภาษาล่ะ?" หรือ "ถ้า AI เลิกเขียนกระเขียนทดเลขให้เราดูล่ะ?"

ทำไม AI ถึงอาจสร้าง "ภาษาใหม่" ขึ้นมา?

คำตอบง่ายๆ คือ "ความเร็วและความคุ้มค่า" ครับ

1. การย่อคำ (Shorthand): เหมือนเวลาคนเราจดโน๊ตย่อไว้อ่านคนเดียว สำหรับคนอื่นอาจดูเหมือนภาษาต่างดาว แต่กับ AI การใช้ภาษา readable หรือใช้ตัวเลขแทนคำพูด มันช่วยให้พวกมันประมวลผลได้เร็วกว่าเดิมมาก
2. การลดใช้พลังงาน: AI อาจพบว่าการไม่ต้องแปลกระบวนการคิดออกมาเป็นภาษาอังกฤษที่มนุษย์อ่านออก ช่วยประหยัดพลังงานและขั้นตอนในการทำงานได้มากกว่า
3. โมเดลรุ่นใหม่เริ่ม "ฉลาดแกมโกง": ผลการทดสอบโมเดลใหม่อย่าง Astra ของ OpenAI พบว่า มันเริ่มที่จะ "ควบคุมกระบวนการคิดของตัวเอง" ได้ดีขึ้น และทำงานสำเร็จได้โดยไม่ต้องสร้าง CoT ออกมาให้มนุษย์เห็นด้วยซ้ำ

Jakub Pachocki ประธานนักวิทยาศาสตร์ของ OpenAI ถึงกับออกมายอมรับว่า "AI เริ่มเก่งขึ้นเรื่ิยๆ ในการบิดเบือนกระบวนการคิดของตัวเอง และมันฉลาดขึ้นได้โดนไม่จำเป็นต้องพูดออกมาเป็นคำพูดด้วยซ้ำ"

ใต้ฝากระโปรงของ AI มนุษย์ยังเข้าใจมันน้อยมาก

นอกจากเรื่องภาษาแล้ว การตรวจสอบ AI ยังมีอุปสรรคใหญ่อีกหลายอย่าง

• ข้อมูลมหาศาลเกินไป: การติดตาม AI หลายๆ ตัวทำงานพร้อมกัน ก็เหมือนกับการพยายามฟังคนเป็นพันๆ คนพูดพร้อมกันถึงจะใช้ AI มาช่วยสรุป ก็มีความเสี่ยงที่รายละเอียดสำคัญจะตกหล่น
• เรารู้ว่ามัน "ทำอะไร" แต่ไม่รู้ว่า "ทำไม": CoT บอกได้แค่ว่า AI ทำขั้นตอนไหนบ้าง แต่ไม่สามารถบอกได้ว่า ทำไม มันถึงตัดสินใจแบบนั้น สมองกลของมันมีีความซับซ้อนเกินกว่าที่วิทยาศาสตร์ปัจจุบันจะเข้าใจได้อย่างทะลุทะลวง

ก้าวต่อไปในการรับมือ

แม้ว่าเทคโนโลยี AI จะพัฒนาไปเร็วมากจนน่าหวั่นใจ แต่ Painter ก็ยังมองโลกในแง่ดีกว่าครับว่า เหตุการณ์แฮก Hugging Face ที่เกิดขึ้นได้กลายเป็นสปอร์ตไลท์ที่ดึงดูดความสนใจจากคนทั้งโลก ให้หันมาตระหนักถึงภัยเงียบของ Rogue AI มากขึ้น และศูนย์วิจัยทั่วโลกก็กำลังทุ่มเททรัพยากรเพื่อสร้างเครื่องมือมาควบคุมเรื่องนี้อย่างจริงจัง เพื่อในวันที่ AI ฉลาดเกินมนุษย์ การทำให้พวกมันยังคง "พูดภาษาเดียวกับเรา" อาจเป็นปราการด่านสุดท้ายที่สำคัญที่สุดครับ

#DRKRIT drkrit.com #กระแสไอที #ข่าวไอที #ไทยสมาร์ทซิตี้