รายงานจากสหประชาชาติเปิดเผยสถานการณ์เกี่ยวกับความปลอดภัยของเด็กในโลกออนไลน์ โดยพบการกลั่นแกล้งทางไซเบอร์หรือไซเบอร์บูลลี่เพิ่มสูงขึ้นในเด็กประมาณ 2 ใน 3 ทั่วโลก
ข้อมูลจากการสำรวจความคิดเห็นของเด็กกว่า 30,000 คนจากทุกภูมิภาคทั่วโลกโดย ดร.นาจัต มาลา เอ็มจิด (Dr. Najat Maalla M'jid) ผู้แทนพิเศษของเลขาธิการสหประชาชาติว่าด้วยเรื่องความรุนแรงต่อเด็ก พบมีเด็กถึงร้อยละ 66 ยืนยันว่าการกลั่นแกล้งบนโลกดิจิทัลมีแนวโน้มรุนแรงขึ้น และที่น่าตกใจคือ 1 ใน 2 ของเด็กเหล่านั้นระบุว่าพวกเขาไม่ทราบวิธีที่จะเข้าถึงความช่วยเหลือหรือการสนับสนุนที่ถูกต้องได้อย่างไร
ดร.นาจัต ได้ชี้แจงต่อคณะมนตรีสิทธิมนุษยชนแห่งสหประชาชาติว่า ปัญญาประดิษฐ์หรือ AI คือปัจจัยสำคัญที่เข้ามา "เปลี่ยนแปลงโฉมหน้าของภัยคุกคาม" ต่อเด็กอย่างสิ้นเชิง โดยเฉพาะ AI เชิงสร้างสรรค์ (Generative AI) ที่มีความก้าวหน้าและเข้าถึงง่าย ทำให้การกลั่นแกล้งมีความรวดเร็ว เจาะจงตัวบุคคลได้มากขึ้น ตรวจสอบได้ยาก และสามารถแพร่กระจายไปยังหลายแพลตฟอร์มได้อย่างรวดเร็วและกว้างขวางไร้จำกัด
นอกจากนี้รายงานยังระบุถึงอันตรายจากการใช้ภาพและวิดีโอที่สร้างขึ้นด้วยเทคโนโลยี Deepfake รวมถึงการล่อลวงผ่านแชทบอทและเครื่องมืออื่นๆ ซึ่งเด็กๆ มักจะมีความเชื่อมั่นในเทคโนโลยีเหล่านี้มากเกินไปจนไม่สามารถแยกแยะความแตกต่างระหว่างการปฏิสัมพันธ์กับมนุษย์จริงๆ กับ AI ได้
ส่งผลให้ภาพและวิดีโอ Deepfake เหล่านี้ถูกนำมาใช้เพื่อลดทอนศักดิ์ศรี ข่มขู่ และแสวงหาประโยชน์จากเด็กเพิ่มมากขึ้นเรื่อยๆ ท่ามกลางสถานการณ์โลกที่มีความขัดแย้ง การพลัดถิ่น และความยากจนเป็นปัจจัยหนุนให้ระดับความรุนแรงเพิ่มสูงขึ้น
ในขณะเดียวกันผลการศึกษายังพบอุปสรรคสำคัญในการแจ้งเหตุ โดยเด็กๆ รู้สึกว่าการรายงานการถูกกลั่นแกล้งเป็นเรื่องยากเนื่องจากต้องเผชิญกับตราบาป ความอับอาย และความกลัวว่าจะถูกกลุ่มเพื่อนปฏิเสธหรือถูกผู้ใหญ่ตัดสิน ซึ่งผลกระทบจากการไม่รายงานความรุนแรงนี้อาจนำไปสู่ความทุกข์ทรมานทางจิตใจอย่างรุนแรงและการทำลายชื่อเสียงที่เกิดขึ้นได้ในเวลาเพียงไม่กี่วินาที
และในกรณีที่เลวร้ายที่สุดอาจผลักดันให้เด็กตัดสินใจจบชีวิตตัวเองได้
ด้วยเหตุนี้ ดร.นาจัต จึงเน้นย้ำถึงความจำเป็นเร่งด่วนที่ระบบนิเวศออนไลน์ทั้งหมดต้องทำงานร่วมกันให้เร็วยิ่งขึ้น ทั้งรัฐบาล ภาคอุตสาหกรรม นักการศึกษา ครอบครัว และตัวเยาวชนเอง เพื่อปกป้องเด็กจากอันตรายออนไลน์พร้อมกับเปิดโอกาสให้เด็กมีส่วนร่วมในโลกดิจิทัลอย่างปลอดภัย
เช่นเดียวกับเสียงสะท้อนจากเด็กคนหนึ่งที่ระบุในรายงานว่า พื้นที่ดิจิทัลต้องไม่เป็นเพียงสถานที่ที่รายงานปัญหาแล้วไม่มีการแก้ไข แต่ต้องเป็นสถานที่ที่ความช่วยเหลือเข้าถึงได้อย่างรวดเร็ว ปลอดภัย และมีความเห็นอกเห็นใจในความเป็นมนุษย์ โดยทิ้งท้ายว่า "อย่าเพียงแค่ออกแบบอนาคตดิจิทัลเพื่อเด็กเท่านั้น แต่ต้องออกแบบร่วมกับเด็กด้วย"