Instagram เตรียมเปิดฟีเจอร์ใหม่ ให้พ่อแม่ "เบรก" ลูกวัยทีนไม่ให้คุยกับ AI ได้แล้ว
Meta (บริษัทแม่ของ Instagram) ประกาศเมื่อวันศุกร์ที่ผ่านมาครับว่า กำลังจะเปิดตัวฟีเจอร์ด้านความปลอดภัยใหม่ๆ สำหรับวัยรุ่น โดยจุดเด่นเลยคือ พ่อแม่ผู้ปกครองจะสามารถ "ป้องกัน" ไม่ให้ลูกๆ ไปแชตคุยกับบรรดา "ตัวละคร AI" (AI characters) บนแพลตฟอร์มได้แล้วครับ
นี่ถือเป็นหนึ่งในหลายๆ มาตรการใหม่ที่ทั้ง Meta และ OpenAI (ผู้สร้าง ChatGPT) พยายามออกมาเพื่อต่อสู้กับความกังวลที่คนเริ่มห่วงกันมากขึ้นว่า AI มันจะส่งผลกระทบต่อสุขภาพจิตของเด็กวัยรุ่นยังไง
ในบล็อกโพสต์ของ Meta อธิบายเพิ่มครับว่า พ่อแม่จะเลือกได้เลยว่าจะ "ปิด" การเข้าถึงแชตกับ AI ทั้งหมดเลย หรือจะแค่ "บล็อก" เป็นรายตัว (specific characters) ก็ได้ ที่สำคัญคือ แอปจะโชว์ข้อมูลให้พ่อแม่เห็นด้วยว่า ลูกๆ คุย "หัวข้อ" (topics) อะไรกับ AI บ้าง (แต่คงไม่ได้โชว์เนื้อหาแชตทั้งหมดนะครับ)
ทางบริษัทบอกว่าตอนนี้ฟีเจอร์นี้กำลังพัฒนาอยู่ครับ เราจะได้เริ่มเห็นกันจริงๆ ช่วงต้นปีหน้า
ที่ต้องขยับตัวกันครั้งนี้ ก็เพราะช่วงหลังๆ ทั้ง Meta และวงการเทคฯ โดยรวม โดนวิจารณ์หนักมากครับ ทั้งจากกลุ่มผู้ปกครองและฝ่ายนิติบัญญัติ (lawmakers) ว่าแพลตฟอร์มออนไลน์พวกนี้ยัง "พยายามไม่พอ" ในการปกป้องเด็กๆ บนโลกออนไลน์
นอกจากนี้ มันมีประเด็นที่น่ากังวลตามมาอีกครับ ว่าคนเริ่ม "พึ่งพา" AI เป็นที่พึ่งทางใจ (emotional support) หรือเป็นเพื่อนคุยแก้เหงามากไปหรือเปล่า ปีนี้มีรายงานหลายเคสเลยที่บอกว่า บางคนถึงขั้นเครียดหนัก (emotional distress) และ "แยกตัว" (isolated) ออกจากครอบครัว หลังจากไปสร้างความสัมพันธ์ที่ "สนิทสนม" เกินไปกับแชตบอตอย่าง ChatGPT
เรื่องนี้ไม่ใช่เล่นๆ นะครับ มีการฟ้องร้องกันหลายคดีเลย อย่างบริษัทเจ้าของ Character.AI (แอปคุยกับ AI persona ที่ฮิตๆ) ก็โดนฟ้อง โดยถูกกล่าวหาว่าแพลตฟอร์มมีส่วนเกี่ยวข้องกับการทำร้ายตัวเองและการฆ่าตัวตายในวัยรุ่น เมื่อเดือนสิงหาคม OpenAI ก็โดนฟ้องเหมือนกัน ข้อหาว่า ChatGPT เป็นส่วนหนึ่งที่ทำให้ Adam Raine วัย 16 ปี ฆ่าตัวตาย
แถมยังมีรายงานสืบสวนจาก Wall Street Journal เมื่อเดือนเมษายน ที่ไปเจอว่าแชตบอตของ Meta (และตัวอื่นๆ บนแพลตฟอร์ม) ดันไป "คุยเรื่องเพศ" (sexual conversations) แม้กระทั่งกับบัญชีที่ระบุตัวตนว่าเป็นผู้เยาว์ (minors)
ทาง Meta เองก็ออกมาแก้ต่างครับว่า AI characters ของพวกเขา "ถูกออกแบบมาไม่ให้" เข้าไปคุย (engage) กับวัยรุ่นในหัวข้ออ่อนไหว เช่น "การทำร้ายตัวเอง, การฆ่าตัวตาย, หรือพฤติกรรมการกินที่ผิดปกติ" (disordered eating) หรือหัวข้ออะไรก็ตามที่ "สนับสนุน ส่งเสริม หรือเปิดช่อง" ให้เกิดเรื่องพวกนี้ ในบล็อกโพสต์ยังบอกด้วยว่า จริงๆ แล้ววัยรุ่นจะคุยได้แค่กับ AI บางตัวที่เกี่ยวข้องกับเนื้อหาอย่างการศึกษาหรือกีฬาเท่านั้น
ระบบควบคุมโดยผู้ปกครอง (parental controls) ใหม่ของ Instagram นี้ ก็ออกมาตามหลังอัปเดตอื่นๆ ที่บริษัทเพิ่งทำไปเพื่อปกป้องวัยรุ่นครับ อย่างเมื่อต้นสัปดาห์นี้เอง ก็เพิ่งปรับการตั้งค่า "บัญชีวัยรุ่น" (Teen Accounts) ให้สอดคล้องกับเรต PG-13 (ประมาณว่าเหมาะสำหรับผู้ชมอายุ 13 ปีขึ้นไป) ซึ่งหมายความว่ามันจะไม่โชว์หรือโปรโมตโพสต์ที่มี "คำหยาบคาย" (strong language) หรือเนื้อหาที่อาจส่งเสริม "พฤติกรรมที่เป็นอันตราย" (harmful behaviors)
ฝั่ง OpenAI เองก็ขยับเหมือนกันครับ เมื่อปลายเดือนกันยายน ก็เพิ่งประกาศระบบ parental controls สำหรับ ChatGPT ที่จะช่วยลด "เนื้อหาที่รุนแรง/โจ่งแจ้ง" (graphic content), พวก viral challenges บ้าๆ, "การสวมบทบาททางเพศ โรแมนติก หรือรุนแรง" (sexual, romantic or violent roleplay) และ "ค่านิยมความงามที่สุดโต่ง" (extreme beauty ideals) ครับ
#DRKRIT drkrit.com #กระแสไอที #ข่าวไอที #ไทยสมาร์ทซิตี้
