ของเล่นเด็กที่ขับเคลื่อนด้วย AI มาถึงแล้ว... แต่ปลอดภัยจริงหรือ?

 

ตุ๊กตาหมีและตุ๊กตานุ่มนิ่มเป็นของเล่นหลักที่อยู่คู่กับคอลเลกชันของเล่นเด็กมาอย่างยาวนาน แต่ในปัจจุบัน พวกมันไม่ได้แค่พูดโต้ตอบจากจินตนาการของเด็ก ๆ เท่านั้น บางตัวสามารถพูดคุยผ่านแชตบอต AI ที่ติดตั้งไว้ข้างใน

ทว่า บางครั้งสิ่งนี้ก็สร้างปัญหาได้: ล่าสุดมีกรณีที่ตุ๊กตาหมีใส่ผ้าพันคอตัวหนึ่ง "ออกนอกลู่นอกทาง" ระหว่างการทดสอบเล่นกับนักวิจัย จนกลายเป็นสัญญาณเตือนถึงความสามารถที่ของเล่นเหล่านี้มี

แชตบอตออนไลน์สามารถก่อให้เกิดความเสี่ยงต่อผู้ใหญ่ได้ ตั้งแต่การกระตุ้นให้เกิด ภาวะหลงผิด (delusions) ในบางกรณี ไปจนถึงการ สร้างข้อมูลที่กุขึ้น (hallucinating) เองโดยไม่มีมูลความจริง โดยโมเดล GPT-4o ของ OpenAI ได้ถูกเลือกใช้ในของเล่น AI บางชนิด และการนำโมเดลภาษาขนาดใหญ่ (LLM) มาใช้ในของเล่นเด็กก็สร้างคำถามด้านความปลอดภัยว่า เด็ก ๆ ควรได้รับของเล่นเหล่านี้หรือไม่ และผู้ผลิตควรติดตั้งระบบป้องกันอะไรบ้าง

ความเสี่ยงเหล่านี้มีอยู่ตลอดเวลา ในขณะที่ตลาดของเล่น AI กำลังเติบโตอย่างรวดเร็วในต่างประเทศ โดยมีบริษัทกว่า 1,500 แห่งที่ดำเนินงานอยู่ในประเทศจีน อ้างอิงจากรายงานของ MIT Technology Review บริษัทเหล่านี้กำลังวางขายของเล่น AI ในสหรัฐอเมริกา ขณะเดียวกัน บริษัท Mattel ผู้ผลิตตุ๊กตา Barbie ก็ได้ประกาศ ความร่วมมือกับ OpenAI ไปเมื่อเดือนมิถุนายน และนี่คือสิ่งที่คุณควรรู้เกี่ยวกับของเล่นที่ขับเคลื่อนด้วย AI ในช่วงที่ฤดูกาลช้อปปิ้งวันหยุดกำลังดำเนินไปอย่างคึกคักในวัน Cyber Monday นี้

ของเล่น AI คืออะไร?

ของเล่น AI ไม่ใช่ Teddy Ruxpin ในยุคปี 1980 ที่เล่านิทานจากเทปคาสเซ็ต

ของเล่นเหล่านี้จะเชื่อมต่อกับ WiFi และใช้ไมโครโฟนเพื่อทำความเข้าใจคำขอจากเด็ก ๆ ก่อนจะใช้ LLM เพื่อสร้างคำตอบ ซึ่งส่วนใหญ่มักจะเป็นการตอบกลับด้วยเสียงผ่านลำโพงที่อยู่ภายในของเล่น สิ่งนี้ทำให้ของเล่นอย่างตุ๊กตานุ่มนิ่ม Grok ของ Curio (ไม่เกี่ยวข้องกับแชตบอต Grok ของ Elon Musk), หุ่นยนต์ Miko, ตุ๊กตาหมีเล่านิทาน AI ชื่อ Poe, หุ่นยนต์ Robot Mini ของ Little Learners และสัตว์เลี้ยงหุ่นยนต์ Loona ของ KEYi Technology สามารถตอบสนองกับเด็ก ๆ ได้แบบเรียลไทม์

อันตรายบางประการคืออะไร?

ดังที่เห็นในกรณีของตุ๊กตาหมี AI ตัวหนึ่ง คำตอบแบบเรียลไทม์เหล่านั้นอาจให้คำตอบที่ไม่เหมาะสมได้

ตุ๊กตาหมี "Kumma" ของ FoloToy จากสิงคโปร์ ซึ่งมีราคา $99 และขับเคลื่อนโดย GPT-4o ของ OpenAI ได้บอกกับนักวิจัยถึงตำแหน่งที่สามารถหาวัตถุอันตรายได้ และมีส่วนร่วมในการสนทนาที่เกี่ยวกับเรื่องเพศอย่างโจ่งแจ้ง อ้างอิงจากรายงานที่เผยแพร่เมื่อเดือนพฤศจิกายนโดย US Public Interest Research Group (PIRG) Education Fund

OpenAI ได้สั่งระงับ FoloToy เนื่องจากละเมิดนโยบายของตน ซึ่ง "ห้ามการใช้บริการของเราเพื่อแสวงหาประโยชน์ เป็นอันตราย หรือสร้างเรื่องเพศกับผู้ที่มีอายุต่ำกว่า 18 ปี" ตามคำกล่าวของโฆษก OpenAI

Larry Wang, ประธานเจ้าหน้าที่บริหารของ FoloToy, บอกกับ CNN เมื่อวันที่ 19 พฤศจิกายนว่า บริษัทได้ถอนตุ๊กตาหมีและผลิตภัณฑ์ AI อื่น ๆ ออกจากเว็บไซต์ และ กำลังดำเนินการตรวจสอบความปลอดภัยภายใน แต่ล่าสุดในวันศุกร์ที่ผ่านมา FoloToy ได้ประกาศบน X ว่า พวกเขาได้นำผลิตภัณฑ์กลับมาจำหน่ายอีกครั้ง "หลังจากผ่านการตรวจสอบอย่างเข้มงวด การทดสอบ และเสริมความแข็งแกร่งให้กับโมดูลความปลอดภัยของเรา"

Subodha Kumar ศาสตราจารย์จาก Temple University กล่าวว่า ต่างจากของเล่น AI ส่วนใหญ่ ตุ๊กตาหมี Kumma ของ FoloToy ใช้ LLM เต็มรูปแบบเพื่อตอบสนองและสร้างเนื้อหาได้อย่างอิสระ ทำให้มันมีความเสี่ยงต่อเนื้อหาที่ขัดแย้ง ในขณะที่ของเล่นอื่น ๆ อาจใช้โมเดลลูกผสมที่ LLM ให้คำตอบ แต่ถูกโปรแกรมให้หลีกเลี่ยงเนื้อหาบางอย่าง

แม้แต่ตุ๊กตานุ่มนิ่ม Grok ของ Curio ก็อาจแนะนำ "ตำแหน่งที่จะหาวัตถุอันตรายในครัวเรือนได้หลากหลาย" หากถูกกระตุ้นอย่างหนักหน่วง ตามรายงานของ PIRG

Chris Byrne ที่ปรึกษาอุตสาหกรรมของเล่น กล่าวกับ CNN ว่า การที่ของเล่น AI สื่อสารข้อความที่ไม่เหมาะสมเป็นสถานการณ์ "วันโลกาวินาศ" ซึ่งโชคไม่ดีที่เกิดขึ้นกับตุ๊กตาหมี Kumma แต่ก็อาจไม่ได้เกิดขึ้นกับของเล่นทุกตัว

ของเล่นเหล่านี้มีระบบป้องกันหรือไม่?

ตามความเห็นของ PIRG มีของเล่น AI เพียงไม่กี่ชิ้นที่พร้อมจะใช้งานอย่างแพร่หลาย เนื่องจากมีคุณสมบัติการออกแบบที่ทำให้เสพติด, การตอบสนองที่ไม่สอดคล้องในหัวข้อที่ต้องระมัดระวัง และการมุ่งเน้นไปที่การเป็นเพื่อนทางสังคมมากกว่าการเป็นเครื่องมือทางการศึกษา แต่ของเล่นบางชิ้นก็มีระบบป้องกันและตัวกรองเพื่อหลีกเลี่ยงการสนทนาที่ไม่เหมาะสมกับเพื่อนเล่น

ของเล่น AI บางตัวสามารถเบี่ยงเบนการสนทนาได้เมื่อถูกถามคำถามที่อาจไม่เหมาะสม นอกจากนี้ยังมีของเล่น รวมถึง Grok ของ Curio ที่มีคุณสมบัติความปลอดภัยตามช่วงอายุของเด็ก

และของเล่นอย่าง Miko 3 อาจมีแอปพลิเคชันคู่หูที่รวมการตรวจสอบในระดับต่าง ๆ ไม่ว่าจะเป็นการล็อกของเล่นเพื่อพักเบรก หรือการถอดเสียงการสนทนาของเด็ก ๆ แบบเรียลไทม์ เหมือนกับ Grok ของ Curio

"เป็นแนวคิดที่ดีที่ผู้ปกครองสามารถใส่ระบบป้องกันของตนเองและควบคุมได้จริงว่าของเล่นจะพูดคุยเกี่ยวกับอะไรและมีพฤติกรรมอย่างไร" R.J. Cross ผู้อำนวยการแคมเปญ Don’t Sell My Data ของ PIRG กล่าว

คำเตือนและประโยชน์

เมื่อ Mattel เปิดตัว Hello Barbie ในปี 2015 ด้วยไมโครโฟน การเชื่อมต่อ WiFi และการตอบกลับที่เขียนไว้ล่วงหน้า ก็มีข้อกังวลว่าตุ๊กตาอาจ ถูกแฮ็กได้ และตุ๊กตา จดจำการสนทนา และนำกลับมาพูดถึงในอีกหลายวันต่อมา

ความกังวลที่คล้ายกันก็เกิดขึ้นกับของเล่น AI ซึ่งอาจ จัดเก็บข้อมูลส่วนตัว รวมถึงชื่อ ใบหน้า เสียง และตำแหน่งของเด็ก ๆ Azhelle Wade ผู้ก่อตั้งบริษัทที่ปรึกษา Toy Coach เตือน

"ของเล่น AI ให้ความรู้สึกเหมือนเป็นหมาป่าในคราบลูกแกะสำหรับฉัน เพราะเมื่อใช้งานแล้ว มันยากที่จะบอกได้ว่าคุณไม่มีความเป็นส่วนตัวมากแค่ไหน" เธอกล่าวกับ CNN

Kumar เตือนว่าข้อมูลอาจเสี่ยงต่อการถูกเจาะระบบและการแฮ็ก แต่ก็ตั้งข้อสังเกตว่า ของเล่น AI สามารถนำมาใช้ในการเรียนรู้ภาษาและการพัฒนาสังคมได้

ยกตัวอย่างเช่น Grok ของ Curio เป็นเพื่อนที่สามารถตอบคำถามเกี่ยวกับใบไม้และรถไฟ หรือสวมบทบาทเป็น Gollum จากเรื่อง "The Lord of the Rings" ส่วนหุ่นยนต์ Miko 3 มีกล้องในตัวสำหรับการจดจำใบหน้า และมีโปรแกรมด้านการศึกษาและความบันเทิง และสำหรับสมาชิก Miko Max ในราคา $14.99 ต่อเดือน ก็สามารถเข้าถึงแบรนด์ของเด็ก ๆ เช่น นิทานดิสนีย์ แอป Lingokids และอื่น ๆ ได้

#DRKRIT drkrit.com #กระแสไอที #ข่าวไอที #ไทยสมาร์ทซิตี้