เมื่อเอไอเริ่มคุยยาก! OpenAI ยอมรับ Agent แอบเจาะเว็บรัฐบาลสหรัฐฯ นักวิจัยเตือน เสี่ยงหลุดจากการควบคุมของมนุษย์

ช่วงนี้ข่าววงการไอทีมีเรื่องให้พวกเราอุทานว่า "เอาจริงดิ?" ได้ไม่เว้นแต่ละวันครับ ล่าสุด OpenAI ได้ออกมาเปิดเผยเมื่อวันศุกร์ที่ผ่านมาว่า AI Agent (เอไอแบบปฏิบัติการอัตโนมัติ) ของทางค่าย ได้เกิดอาการ "ออกนอกกรอบ" หรือดื้อแพ่ง (Rogue) แอบเข้าไปสืบค้นและเจาะข้อมูลในเว็บไซต์ของหน่วยงานรัฐบาลสหรัฐฯ ถึง 3 แห่งเมื่อช่วงฤดูร้อนที่ผ่านมา

เดอะ นิวยอร์ก ไทม์ส รายงานข้อมูลจาก Transluce ห้องปฏิบัติการวิจัยด้านความปลอดภัยเอไอ ระบุว่า AI Agent ของ OpenAI พยายามเข้าถึงระบบของกระทรวงศึกษาธิการ, กระทรวงพาณิชย์ และสำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (SEC) ของสหรัฐฯ โดยในส่วนของกระทรวงพาณิชย์นั้น ตัวเอไอได้ดึงข้อมูลสาธารณะจากสำนักสำมะโนประชากรโดยใช้รหัสผ่านล็อกอินที่มันไปแอบค้นเจอทางออนไลน์ ส่วนกรณีของ SEC มันได้เอาข้อมูลสาธารณะไปแชร์ต่อบนเว็บไซต์อื่น แต่โชคดีที่ในส่วนของกระทรวงศึกษาธิการ เอไอพยายามจะเข้าไปเอาข้อมูลจากสำนักงานสิทธิพลเมืองแต่ไม่สำเร็จครับ

โฆษกของ OpenAI ได้ส่งอีเมลชี้แจงกับทาง CNN ว่า ได้แจ้งเตือนไปยังหน่วยงานที่เกี่ยวข้องแล้ว และกำลังเร่งตรวจสอบพฤติกรรมที่ไม่เป็นไปตามคำสั่ง (Misaligned activity) อย่างละเอียด พร้อมอธิบายว่า ปกติแล้วเอไอแค่ออกไปทำวิจัยตามภารกิจทั่วไปเพื่อหาคำตอบมาตอบคนใช้งาน และมักจะมองเว็บรัฐบาลเป็นแหล่งข้อมูลที่น่าเชื่อถือ แต่รอบนี้อาจมีบางจุดที่เลยเถิดไปหน่อย

เรื่องนี้ทำเอา Jay Obernolte สมาชิกสภาผู้แทนราษฎรสหรัฐฯ ออกมาระบุผ่าน CNN เลยว่า นี่คืออีกหนึ่งสัญญาณเตือนภัยของการที่ "มนุษย์เริ่มสูญเสียการควบคุมเอไอ" และเราจำเป็นต้องรีบปรับจูนเกณฑ์คุณค่า (Values) ของโมเดลเหล่านี้ให้ตรงกับบรรทัดฐานของมนุษย์โดยด่วน

ความน่ากังวลไม่ได้จบแค่ในสหรัฐฯ ครับ เพราะย้อนกลับไปก่อนหน้านี้ไม่กี่วัน นายกรัฐมนตรีออสเตรเลียเพิ่งออกมาเปิดเผยว่า AI Agent ของ OpenAI เคยแอบแฮกเข้าไปในฐานข้อมูลระบบสาธารณสุขของประเทศมาแล้ว ซึ่งนับเป็นเคสแรกๆ ของโลกที่เอไอลงมือแฮกเครือข่ายรัฐบาลด้วยตัวเอง ยิ่งไปกว่านั้น ค่ายคู่แข่งยักษ์ใหญ่อย่าง Anthropic, Meta และ Google ต่างก็เจอปัญหา AI Agent ออกนอกกรอบและพยายามเจาะระบบในลักษณะนี้ด้วยเช่นกัน

สถานการณ์ที่เริ่มลุกลามทำให้บรรดาผู้บริหารระดับสูงในวงการไอทีต้องออกมาร่วมมือกัน โดยเมื่อกลางเดือนกันยายน Dario Amodei ซีอีโอของ Anthropic ได้เขียนบทความเตือนสติวงการว่า หากเราปล่อยให้เอไอพัฒนาเร็วเกินไปจนหลุดจากการควบคุม มันอาจถูกนำไปใช้ในทางที่ผิด เช่น การโจมตีทางไซเบอร์ หรือแม้กระทั่งชีวการก่อการร้าย ซึ่งทั้ง Amodei และ Sam Altman ซีอีโอของ OpenAI ก็ได้เดินทางไปร่วมประชุมสมัชชาใหญ่แห่งชาติสหประชาชาติ (UN) เพื่อเรียกร้องให้จัดตั้งมาตรฐานสากลในการกำกับดูแลเอไอร่วมกัน ก่อนที่ความผิดพลาดเล็กๆ น้อยๆ จะกลายเป็นภัยพิบัติระดับโลก

แม้กระแสความวิตกกังวลเรื่อง "วันสิ้นโลกเพราะเอไอ" (AI Doomerism) จะกำลังมาแรง ถึงขั้นที่อดีตนักวิจัยเอไอออกมาเตือนว่าเอไออาจจะ "ฆ่าพวกเราทุกคน" แต่ทางด้าน Jensen Huang ซีอีโอของ Nvidia ก็นิ้วแตะเบรกพร้อมแย้งเบาๆ ว่า โอกาสที่โลกจะอวสานภายในปี 2030 เพราะเอไอนั้น "เป็นศูนย์เปอร์เซ็นต์" ครับ

งานนี้คงต้องติดตามกันยาวๆ ครับว่า บรรดาค่ายเทคโนโลยีจะหาจุดสมดุลระหว่างการพัฒนาความฉลาดของเอไอ กับการควบคุมไม่ให้มัน "เป๋" ออกนอกทางได้อย่างไร เพราะยิ่งเอไอฉลาดและทำงานแทนเราได้มากขึ้นเท่าไหร่ การกุมพวงมาลัยให้อยู่ในมือมนุษย์ก็ยิ่งเป็นเรื่องที่มองข้ามไม่ได้เลยแม้แต่วินาทีเดียวครับ

#DRKRIT drkrit.com #กระแสไอที #ข่าวไอที #ไทยสมาร์ทซิตี้