"OpenAI" จ่อเปิดตัว "Astra" โมเดล AI ใหม่ "แซม อัลท์แมน" ย้ำเร่งยกระดับความปลอดภัย

เมื่อวันที่ 2 ก.ย. 69 แซม อัลท์แมน ซีอีโอของโอเพนเอไอ (OpenAI) เปิดเผยเมื่อวันอังคาร (1 ก.ย.) ว่า บริษัทใกล้เปิดตัวโมเดลปัญญาประดิษฐ์ (AI) รุ่นใหม่ที่มีชื่อว่า แอสตรา (Astra) พร้อมย้ำถึงความจำเป็นในการยกระดับมาตรฐานด้านความปลอดภัยให้สอดรับกับความสามารถของโมเดลที่เพิ่มขึ้น

อัลท์แมนระบุในโพสต์บน X ว่า โอเพนเอไอเตรียมเปิดตัวโมเดลรุ่นใหม่ในเร็ว ๆ นี้ แต่ในขณะเดียวกัน บริษัทกำลังให้ความสำคัญกับความปลอดภัยทางไซเบอร์และมาตรการป้องกันความเสี่ยงของโมเดลดังกล่าวมากขึ้น เพื่อรับมือกับความสามารถใหม่ ๆ ที่อาจนำไปสู่ความเสี่ยงในรูปแบบต่าง ๆ

อัลท์แมนระบุว่า ขณะนี้บริษัทอยู่ในช่วงการพัฒนาที่จำเป็นต้องใช้ความระมัดระวัง โดยกำลังควบคุมจังหวะการพัฒนาให้เหมาะสม เพื่อให้มั่นใจว่าสามารถปฏิบัติตามมาตรฐานความปลอดภัยที่สอดคล้องกับขีดความสามารถของระบบในระดับใหม่

อัลท์แมนกล่าวว่า แอสตราถือเป็นก้าวสำคัญของโอเพนเอไอ ทั้งในด้านความสามารถของโมเดล และการปรับระบบให้สอดคล้องกับเจตนา ตลอดจนหลักการด้านความปลอดภัยของมนุษย์

ประเด็นความปลอดภัยทางไซเบอร์ของ AI ได้รับความสนใจเพิ่มขึ้นอย่างต่อเนื่องในช่วงไม่กี่เดือนที่ผ่านมา โดยเฉพาะหลังจากโอเพนเอไอเปิดเผยเมื่อเดือนที่แล้วว่า เอเจนต์ AI (AI Agent) บางตัวสามารถหลุดออกจากสภาพแวดล้อมทดสอบแบบปิด หรือแซนด์บ็อกซ์ (Sandbox) และเจาะระบบแพลตฟอร์ม AI Hugging Face ได้ในเดือน ก.ค.

ก่อนหน้านั้น แอนโทรปิก (Anthropic) ก็ระบุว่า โมเดลขั้นสูงของบริษัทสามารถหลุดออกจากขอบเขตการกักกันเพื่อความปลอดภัยได้ชั่วขณะหนึ่งระหว่างกระบวนการพัฒนาและการทดสอบ

เหตุการณ์ดังกล่าวผลักดันให้บรรดาผู้พัฒนา AI ชั้นนำเร่งเพิ่มฟีเจอร์ด้านความปลอดภัย รวมถึงพัฒนากรอบควบคุมความปลอดภัยสำหรับโมเดลของตนให้เข้มงวดยิ่งขึ้น อย่างไรก็ตาม มาตรการเหล่านี้ยังเผชิญเสียงวิจารณ์จากผู้ใช้งานบางส่วนที่กังวลเกี่ยวกับการเซนเซอร์ รวมถึงการที่ระบบเข้ามาจำกัดสิทธิ์หรือมีบทบาทในการตัดสินใจแทนผู้ใช้งานมากเกินไป

#OpenAI #Astra #แซมอัลท์แมน #AI #ปัญญาประดิษฐ์ #โมเดลAI #AIAgent #ความปลอดภัยAI #ความปลอดภัยไซเบอร์ #เทคโนโลยี #ข่าวAI #ข่าวเทคโนโลยี