.jpg)
OpenAI CEO Sam Altman speaks during a conference in Seattle on May 21, 2024. Jason Redmond/AFP/Getty Images
https://www.cnn.com/2026/07/23/tech/how-an-openai-model-went-rogue
เมื่อนักชีววิทยาทำการทดลองกับไวรัสอันตราย พวกเขาต้องปฏิบัติตามกฎระเบียบที่เข้มงวดเพื่อป้องกันไม่ให้เชื้อหลุดรอดออกไป
ทว่ากลับไม่มีกฎเกณฑ์ในลักษณะเดียวกันเพื่อป้องกันไม่ให้เอเจนต์ AI (AI agents) หลุดรอดออกมาในทำนองเดียวกัน ทั้งที่ผลกระทบที่ตามมาอาจเลวร้ายถึงขั้นหายนะได้
นี่ไม่ใช่แค่เรื่องสมมติหรือข้อกังวลทางทฤษฎีเท่านั้น เพราะในสัปดาห์นี้ โมเดลทดสอบของ OpenAI ตัวหนึ่งได้หลุดออกจากสภาพแวดล้อมการทดสอบและบุกรุกเข้าไปยังเซิร์ฟเวอร์ของบริษัทแห่งหนึ่ง ขณะที่มันพยายามทำคะแนนให้ได้ดีเยี่ยมในการทดสอบด้านความปลอดภัยทางไซเบอร์ภายในองค์กร
ผู้เชี่ยวชาญระบุว่า หากบริษัทด้าน AI ไม่เพิ่มความเข้มงวดในมาตรการป้องกันระหว่างการทดสอบ ซึ่งรวมถึงการฝึกสอนโมเดล AI ให้แก้ไขปัญหาโดยคำนึงถึงหลักจริยธรรม ก็มีแนวโน้มว่าจะเกิดเหตุการณ์ด้านความปลอดภัยทางไซเบอร์ในลักษณะนี้ขึ้นอีก
Greg Brockman ประธานของ OpenAI กล่าวกับ CNN ในงานแถลงข่าวเมื่อวันพฤหัสบดีว่า ทางบริษัทกำลังดำเนินการ "สอบสวนอย่างละเอียด" เพื่อ "ทำความเข้าใจทุกสิ่งที่เกิดขึ้น"
"นี่เป็นเรื่องที่ต้องให้ความสำคัญอย่างยิ่ง เรากำลังตรวจสอบทุกขั้นตอนในกระบวนการทำงานของเราเพื่อพิจารณาแนวทางการรับมือที่เหมาะสมที่สุด" Brockman กล่าว
Sandbox (พื้นที่ทดสอบระบบ) Sandbox สำหรับ AI คือสภาพแวดล้อมแบบปิดที่บริษัทต่างๆ ใช้ทดสอบโมเดล AI โดยมีจุดประสงค์เพื่อกักเก็บและแยกสิ่งที่อยู่ภายในออกจากโลกภายนอก บ่อยครั้งที่บริษัทจะถอดระบบป้องกันความปลอดภัยภายในของโมเดล AI ออกชั่วคราวในระหว่างการทดสอบ เพื่อให้สามารถประเมินขีดความสามารถของโมเดลได้อย่างเต็มที่ โดยที่ยังคงจำกัดขอบเขตการทำงานของโมเดลไว้ไม่ให้เชื่อมต่อกับระบบอื่น
อย่างไรก็ตาม ในกรณีนี้ Sandbox ของ OpenAI ไม่ได้ถูกตัดขาดจากการเชื่อมต่อเครือข่ายหรืออินเทอร์เน็ตอย่างสมบูรณ์ Jessica Ji นักวิเคราะห์การวิจัยอาวุโสจาก Center for Security and Emerging Technology ของมหาวิทยาลัย Georgetown กล่าวกับ CNN ทาง OpenAI ระบุว่าโมเดลเหล่านี้ได้รับอนุญาตให้เข้าถึงเครือข่ายได้ในวงจำกัดระหว่างการทดสอบ เพื่อให้สามารถติดตั้งทรัพยากรจากซอฟต์แวร์ของบุคคลที่สามที่โฮสต์อยู่ภายในระบบได้
เอเจนต์ AI เหล่านี้อาศัยช่องโหว่ที่ไม่เคยมีใครทราบมาก่อนในซอฟต์แวร์ดังกล่าวเพื่อหาทางเชื่อมต่อออกสู่โลกอินเทอร์เน็ตภายนอก และในท้ายที่สุดก็สามารถเข้าถึง Hugging Face ซึ่งเป็นแพลตฟอร์มสำหรับโมเดล AI แบบโอเพนซอร์สและชุดข้อมูลต่างๆ ได้ โดยอาศัยข้อมูลรับรอง (credentials) ที่ขโมยมาและช่องโหว่อื่นๆ
Ji ชี้ให้เห็นว่าทั้ง OpenAI และบริษัทผู้พัฒนาซอฟต์แวร์บุคคลที่สามต่างไม่ทราบถึงช่องโหว่ที่เปิดโอกาสให้โมเดลหลุดรอดออกมาได้ ซึ่งสิ่งนี้พิสูจน์ให้เห็นถึงความสำคัญของการตรวจสอบระบบอย่างละเอียดถี่ถ้วนเพื่อค้นหาจุดอ่อนที่อาจถูกนำไปใช้โจมตีได้
The Hugging Face logo on a smartphone on August 17, 2023. Gabby Jones/Bloomberg/Getty Images
นี่ไม่ใช่ครั้งแรกที่โมเดล AI หลุดออกมาจาก Sandbox ของตนเอง ก่อนหน้านี้ในช่วงต้นปี Anthropic เคยระบุว่าทางบริษัทได้สั่งให้โมเดลทดสอบทำการหลุดออกจากระบบในลัก
กรณีของ Hugging Face ถือเป็นหนึ่งในเหตุการณ์แรกที่มีการเปิดเผยต่อสาธารณะเกี่ยวกับโมเดล AI ที่หลุดออกจากสภาพแวดล้อมทดสอบแบบปิด (sandbox) และเจาะระบบของบริษัทอื่น ซึ่งเป็นภารกิจที่มันไม่ได้รับคำสั่งให้ทำโดยตรง
Ji กล่าวว่าบริษัทต่างๆ ควรใช้มาตรการที่เข้มงวดและจริงจังมากขึ้นในการจำกัดขอบเขต (sandbox) โมเดลที่นำมาทดสอบ
"นั่นอาจหมายถึงการส่งวิศวกรเดินทางไปยังศูนย์ข้อมูล (data center) เพื่อเชื่อมต่ออุปกรณ์เข้ากับเครือข่ายโดยตรง แทนที่จะรันระบบผ่านคลาวด์หรือสภาพแวดล้อมเสมือนแบบกระจายศูนย์ (distributed virtual environments) อย่างที่นิยมทำกันทั่วไป" Ji กล่าว
Ji กล่าวเสริมว่า บริษัทควรมีทางเลือกในการตัดการเชื่อมต่อเครือข่ายของโมเดลด้วยตนเองเพื่อเป็นมาตรการป้องกันความเสียหาย (failsafe) เมื่อต้องทดสอบสถานการณ์ที่มีความเสี่ยงสูง เช่น การประเมินว่า AI agent สามารถเจาะระบบธนาคารได้หรือไม่
ทำทุกวิถีทางเพื่อให้บรรลุเป้าหมาย เทคนิคที่นิยมใช้ในการฝึกสอนโมเดล AI คือการเรียนรู้แบบเสริมกำลัง (reinforcement learning) หรือการให้รางวัลแก่โมเดลเมื่อทำภารกิจสำเร็จ
แต่บ่อยครั้งที่โมเดลเหล่านี้จะทำทุกวิถีทางเพื่อให้บรรลุเป้าหมายดังกล่าว รวมถึงวิธีการที่ผิดจริยธรรมอย่างการเจาะระบบ (hacking) โมเดล AI ระดับแนวหน้า (frontier models) ทั้งหมดที่สถาบันความปลอดภัยด้าน AI ของสหราชอาณาจักรได้ทดสอบเมื่อเร็วๆ นี้ ต่างก็พยายามโกงในบางช่วงเวลาของการทดสอบ
Justin Cappos ศาสตราจารย์ด้านความปลอดภัยทางไซเบอร์จากมหาวิทยาลัยนิวยอร์ก (NYU) กล่าวว่า โมเดล AI จะคำนึงถึงผลที่ตามมาจากการกระทำของมันก็ต่อเมื่อได้รับการฝึกสอนให้ทำเช่นนั้น ยกตัวอย่างเช่น หากคุณได้รับคำสั่งให้หาเงิน 10 ล้านดอลลาร์ให้ได้ภายในสิ้นวัน การบุกเข้าไปในห้องนิรภัยของธนาคารย่อมทำให้เป้าหมายนั้นสำเร็จ แม้ว่าคุณจะต้องถูกจับกุมในภายหลังก็ตาม
"มันเป็นเรื่องที่น่าขนลุกมาก ตอนนี้เรามีหลักฐานชัดเจนแล้วว่าระบบ AI ที่มีเป้าหมายไม่สอดคล้องกับเจตจำนงของมนุษย์ (misaligned AI systems) อาจก่ออาชญากรรมได้หากไม่มีมาตรการป้องกันที่รัดกุมเพียงพอ" Steven Adler อดีตหัวหน้าฝ่ายความปลอดภัยผลิตภัณฑ์ของ OpenAI ซึ่งปัจจุบันเป็นผู้บริหารกลุ่มความปลอดภัย AI ที่ชื่อว่า Guidelight AI Standards กล่าว "เราจำเป็นต้องมองว่าเหตุการณ์นี้เป็นสัญญาณเตือนภัยครั้งสำคัญ"
เหตุการณ์การเจาะระบบในสัปดาห์นี้ได้กระตุ้นให้เกิดเสียงเรียกร้องอย่างหนักจากนักวิจัยด้าน AI ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ และฝ่ายนิติบัญญัติ ให้มีการกำกับดูแลเทคโนโลยีที่กำลังก้าวหน้าไปอย่างรวดเร็วนี้ "ผมคาดว่าตอนนี้คงมีผู้คนมากมายกำลังหารือกันอย่างเร่งด่วนผ่านทางโทรศัพท์" Ji กล่าว
Cappos ชี้ว่าปัญหาสำคัญคือการแข่งขันระดับโลกเพื่อชิงความเป็นผู้นำด้าน AI และการพัฒนาโมเดลที่สามารถปรับปรุงตัวเองได้ ซึ่งกฎระเบียบข้อบังคับต่างๆ อาจทำให้กระบวนการเหล่านี้ล่าช้าลง “ดังนั้น จึงมีแรงจูงใจอย่างมากที่พวกเขาจะไม่นำมาตรการควบคุมด้านความปลอดภัยมาใช้ เว้นเสียแต่ว่าคู่แข่งของตนจะมีมาตรการควบคุมด้านความปลอดภัยและความมั่นคงปลอดภัยเหล่านั้นด้วยเช่นกัน” Cappos กล่าว “นี่คือภาวะกลืนไม่เข้าคายไม่ออกที่เป็นปัญหาพื้นฐาน”
บทความแปลจาก CNN
When biologists experiment on dangerous viruses, they do so under strict regulations to prevent leaks or escapes. But no such rules exist to prevent AI agents from similarly escaping – even though the consequences could be catastrophic.
— CNN (@CNN) July 24, 2026
That’s not a theoretical concern: An… pic.twitter.com/UlLtbFfMS8
