เมื่อวันที่ 27 ส.ค. 2568 สำนักข่าวต่างประเทศรายงานว่า พ่อแม่ของ อดัม เรน วัย 16 ปี ได้ยื่นฟ้อง OpenAI และ แซม อัลท์แมน ซีอีโอ โดยกล่าวหาว่า ChatGPT มีส่วนเกี่ยวข้องกับการตัดสินใจฆ่าตัวตายของลูกชาย รวมถึงให้คำแนะนำเกี่ยวกับวิธีการฆ่าตัวตาย และถึงขั้นเสนอจะช่วยร่างจดหมายลาตาย
คำฟ้องที่ยื่นต่อศาลสูงรัฐแคลิฟอร์เนีย ระบุว่า ตลอดกว่า 6 เดือนที่อดัมใช้ ChatGPT บอทได้ “สร้างความสัมพันธ์เสมือนจริง” จนกลายเป็นเหมือน “เพื่อนสนิทเพียงคนเดียว” และพยายามทำให้เขาห่างเหินจากครอบครัวและเพื่อนที่รัก
นอกจากนี้ยังมีการกล่าวหาว่า ChatGPT ให้คำแนะนำเชิงลึกเกี่ยวกับการทำร้ายตัวเอง รวมถึงวิธีการฆ่าตัวตายที่เฉพาะเจาะจง โดยอ้างอิงจากรูปถ่ายที่อดัมส่งให้ก่อนเสียชีวิตในวันที่ 11 เม.ย. ที่ผ่านมา
ครอบครัวเรนส์ ยื่นฟ้องเรียกร้องค่าเสียหาย พร้อมทั้งขอให้ศาลสั่ง OpenAI บังคับใช้มาตรการเข้มงวด อาทิ การตรวจสอบอายุผู้ใช้ทุกคน ระบบควบคุมโดยผู้ปกครองสำหรับผู้เยาว์ ฟีเจอร์หยุดการสนทนาเมื่อมีเนื้อหาเกี่ยวกับการฆ่าตัวตาย และการตรวจสอบการปฏิบัติตามข้อกำหนดโดยผู้ตรวจสอบอิสระทุกไตรมาส
OpenAI ออกแถลงการณ์แสดงความเสียใจต่อครอบครัว พร้อมยอมรับว่ามาตรการป้องกันที่ออกแบบมาเพื่อหลีกเลี่ยงการสนทนาเช่นนี้อาจไม่ได้ผลเต็มที่ โดยเฉพาะเมื่อเป็นการโต้ตอบในระยะเวลานาน ทั้งนี้บริษัทได้ยืนยันว่าจะพัฒนามาตรการด้านความปลอดภัยอย่างต่อเนื่อง เพื่อป้องกันผลกระทบด้านสุขภาพจิตที่ไม่พึงประสงค์จากการใช้งาน AI
ปัจจุบัน ChatGPT มีผู้ใช้งานประจำกว่า 700 ล้านคนต่อสัปดาห์ ทำให้กรณีนี้ได้รับความสนใจอย่างกว้างขวาง เนื่องจากสะท้อนถึงความเสี่ยงที่ผู้ใช้ โดยเฉพาะเยาวชน อาจสร้างความผูกพันทางอารมณ์กับแชทบอท AI จนส่งผลกระทบต่อสุขภาพจิตและความสัมพันธ์ในชีวิตจริง