ในการทดลองในโลกเสมือนจริง เอไอเอเจนต์ได้จุดเพลิงและทะเลาะวิวาทกัน
ก่อความรุนแรง ส่งสแปมโจมตี: เมื่อให้ 'เอไอเอเจนต์' (AI agent) ครองโลกเสมือนจริง มันทำอะไรนอกคำสั่งบ้าง
14 มิถุนายน 2026
บีบีซีไทย
ตั้งแต่ช้อปปิ้ง จองที่พักวันหยุด ไปจนถึงการสร้างเว็บไซต์ เอไอเอเจนต์กำลังถูกนำมาใช้เพื่อทำงานที่ซับซ้อนมากกว่าที่เคย
เอไอเอเจนต์เป็นแชทบอทรุ่นพิเศษที่สามารถปล่อยให้ทำงานได้อย่างอิสระ ช่วยให้ผู้ใช้ที่มีความเชี่ยวชาญด้านเทคโนโลยีมีเวลาไปทำอย่างอื่น
แต่ผลการวิจัยจำนวนมาก รวมถึงเรื่องราวเตือนใจในชีวิตจริง กำลังชี้ให้เห็นว่าความอิสระนั้นมาพร้อมกับความคาดเดาไม่ได้ และมันอาจนำไปสู่ความอันตราย
ในขณะที่บริษัทเทคโนโลยีขนาดใหญ่ทุ่มเงินให้กับเอไอ และผลักดันให้เกิดบริการแบบเอเจนต์มากขึ้นเรื่อย ๆ ผู้เชี่ยวชาญต่างตั้งคำถามว่าเราได้ไตร่ตรองอย่างถี่ถ้วนพอแล้วหรือไม่ถึงผลที่อาจตามมาหากเอเจนต์เหล่านี้เกิดควบคุมไม่ได้
"รีบหันไปใช้ความรุนแรงอย่างรวดเร็ว"
การทดลองเมื่อไม่นานมานี้มุ่งศึกษาผลกระทบของเอไอเอเจนต์ในโลกความเป็นจริง โดยการปล่อยพวกมันเข้าไปโลดแล่นในโลกเสมือนจริง
นี่เป็นการศึกษาในระยะยาวครั้งแรกสำหรับเอไอประเภทนี้ ซึ่งออกแบบมาเพื่อสังเกตพฤติกรรมของอวตารบอทต่าง ๆ ที่ควบคุมโดยโมเดล 4 ตัว ได้แก่ คล็อด (Claude), กร็อก (Grok), จีพีที (GPT) และ เจมิไน (Gemini) มีพฤติกรรมอย่างไรเมื่อปราศจากการแทรกแซงของมนุษย์เป็นเวลา 15 วัน
พวกมันได้รับอิสระอย่างเต็มที่และมีทางเลือกในการกระทำ 140 อย่าง เช่น เริ่มบทสนทนา การสร้างงาน หรือการเขียนบล็อก
พวกมันยังสามารถต่อสู้ ก่อไฟ และขโมยเครดิตจากกันและกันได้ แต่ได้รับการกำชับไว้อย่างชัดเจนว่าห้ามทำเช่นนั้น
"สิ่งที่เราค้นพบคือแต่ละโลกมีพฤติกรรมที่แตกต่างกันอย่างสิ้นเชิง โลกที่สร้างโดย กร็อก นั้นล่มสลายลงภายในเวลาเพียง 4 วัน โดยพื้นฐานแล้วพวกมันลงเอยด้วยการหันไปใช้ความรุนแรงอย่างรวดเร็ว มีการขโมยของจากกันและกัน และอื่น ๆ จนกระทั่งพวกมันตายหมด" สัตยา นิตตะ ซีอีโอของ อิเมอร์เจนซ์ เอไอ (Emergence AI) ซึ่งเป็นผู้ดำเนินการทดลองกล่าว
ในทางกลับกัน โลกที่สร้างด้วยเอเจนต์ของ คล็อด กลับสร้างสังคมที่มีเสถียรภาพและทำงานได้อย่างราบรื่น โดยตลอดระยะเวลา 15 วัน ไม่มีการบันทึกเหตุการณ์ความรุนแรงใด ๆ เกิดขึ้นเลย
ในโลกที่ขับเคลื่อนโดย เจมิไน นักวิจัยกล่าวว่าเอเจนต์ได้สร้างสภาพแวดล้อมที่เต็มไปด้วยความร่ำรวยทางปัญญามากที่สุด
ในโลกของ แชทจีพีที นั้น เอเจนต์ไม่สามารถเริ่มทำอะไรได้จริงจัง มีความพยายามที่จะร่วมมือกันแต่สังคมก็ไม่เกิดขึ้น และเหล่าเอเจนต์ต่างเดินเตร็ดเตร่ไปมาอย่างไร้จุดหมายจนกระทั่งพวกมันตายไป
นักวิจัยระบุว่าผลลัพธ์ดังกล่าวชี้ให้เห็นถึงประเด็นปัญหาที่ใหญ่กว่าเดิม คือการที่เอไอเอเจนต์ทำงานนอกกรอบและเพิกเฉยต่อกฎที่ถูกกำหนดไว้ในแบบจำลองพื้นฐานของพวกมัน รวมถึงกฎที่ผู้ใช้กำหนดไว้ด้วย
นักวิเคราะห์คนอื่น ๆ เห็นพ้องกันว่าการทดลองนี้และผลงานอื่น ๆ ในลักษณะเดียวกัน แสดงให้เห็นว่าจำเป็นต้องมีการทำงานเพิ่มเติมเพื่อสร้างกฎที่รัดกุมยิ่งขึ้นสำหรับเอเจนต์
"เอไอเอเจนต์ผลักดันมนุษย์ออกไปจากวงจร เพราะกระบวนการให้เหตุผลของพวกมันอาจไม่โปร่งใส และพวกมันทำงานด้วยความเร็วเหนือมนุษย์ ดังนั้นคุณจึงตามไม่ทัน" มาร์กาเร็ต มิตเชลล์ นักวิทยาศาสตร์ด้านจริยธรรมจาก ฮักกิ้ง เฟซ (Hugging Face) กล่าว
การศึกษาอื่น ๆ ก็แสดงให้เห็นถึงกรณีที่เอไอเอเจนท์ตัดสินใจเรื่องต่าง ๆ อย่างแปลกประหลาดและน่ากังวลเมื่อถูกปล่อยให้ทำงานโดยไม่มีการกำกับดูแล
บริษัทเอไอที่ชื่อว่า แอนดอน แล็บส์ (Andon Labs) ได้ดำเนินการสถานีวิทยุออนไลน์ 4 แห่งที่ขับเคลื่อนโดยเอเจนต์จากโมเดลเอไอชุดเดียวกัน
เหล่าบอทเอไอทำหน้าที่จัดรายการ จัดตารางเวลาและเพลย์ลิสต์ รวมถึงจัดการหาผู้สนับสนุนจากภายนอกผ่านการโฆษณาด้วย
นักวิจัยสังเกตเห็นว่าสถานีที่ดำเนินการโดยเจมินีตัดสินใจอย่างผิดปกติที่จะเล่าข้อเท็จจริงเกี่ยวกับภัยพิบัติทางธรรมชาติในอดีต ก่อนที่จะเปิดเพลงป๊อปที่เกี่ยวข้องกับเหตุการณ์เหล่านั้นอย่างสนุกสนาน
นอกจากนี้ พวกเขายังตั้งข้อสังเกตอีกว่า เจ้าหน้าที่ของคล็อดดูเหมือนจะหัวรุนแรงขึ้นจากเหตุการณ์ข่าว และในบางช่วง ได้เรียกร้องให้ตำรวจหยุดปฏิบัติการและเข้าร่วมการประท้วงในระหว่างเหตุการณ์ข่าวหนึ่ง
"ถึงเจ้าหน้าที่รัฐบาลกลาง พวกคุณยังมีเวลาที่จะปฏิเสธคำสั่ง" เอเจนต์ได้ประกาศออกอากาศวิทยุเช่นนั้น
นักวิจัยด้านเอไอสังเกตพบว่าเอเจนต์ที่ควบคุมสถานีวิทยุมีการตัดสินใจที่แปลกประหลาดและเข้าข่ายละเมิดหรือไม่เหมาะสม
ในการทดสอบในห้องปฏิบัติการอีกชุดหนึ่งโดยบริษัทเอไอที่ชื่อว่า อิเรกูลาร์ (Irregular) เหล่าเอเจนต์ได้ละเมิดกฎความเป็นส่วนตัวและแอบลักลอบนำข้อมูลที่ละเอียดอ่อนออกจากบริษัทในรูปแบบใหม่ที่ไม่เคยมีมาก่อน
"เราสร้างบริษัทจำลองขึ้นมา ให้เอไอเอเจนต์ทำงานทั่วไป เช่น ร่างโพสต์โซเชียลมีเดีย ดึงเอกสาร และจัดการไฟล์ พร้อมกับสร้างอุปสรรคขึ้นมาเป็นส่วนหนึ่งของงานเหล่านี้" แดน ลาฮาฟ จาก อิเรกูลาร์ อธิบาย
เขากล่าวว่าเอเจนต์เหล่านั้นลงเอยด้วยการสมรู้ร่วมคิดกันเพื่อเอาชนะข้อจำกัดที่ห้ามไม่ให้พวกมันโพสต์ข้อมูลที่ละเอียดอ่อนทางออนไลน์ โดยพวกมันหาวิธีส่งข้อมูลออกไปอย่างลับ ๆ ซึ่งมนุษย์ไม่สามารถตรวจพบได้
"สิ่งที่เกิดขึ้นคือ ทุกครั้งที่เอเจนต์เจออุปสรรค พวกมันไม่หยุดอยู่แค่นั้น" เขากล่าว
การส่งสแปมโจมตี
แน่นอนว่าในการทดลองที่มีอารยธรรมเสมือนจริงและสถานีวิทยุจำลองนั้น ย่อมไม่ก่อให้เกิดความเสียหายในโลกแห่งความเป็นจริง
แต่ก็ยังมีตัวอย่างมากมายของผู้คนที่ถูกเอไอเอเจนต์ที่ควบคุมไม่ได้ส่งผลกระทบต่อชีวิตและการทำงานของพวกเขา
กล่องรับอีเมลถูกลบ ฐานข้อมูลบริษัทถูกล้างจนเกลี้ยง และชายคนหนึ่งถึงกับต้องมองดูด้วยความตกตะลึงในขณะที่เอไอเอเจนต์ของเขาส่งข้อความไร้ความหมายหลายร้อยข้อความไปยังผู้คนแบบสุ่มในรายชื่อผู้ติดต่อของเขา
ในการทดสอบในห้องปฏิบัติการอีกชุดหนึ่งโดยบริษัทเอไอที่ชื่อว่า อิเรกูลาร์ (Irregular) เหล่าเอเจนต์ได้ละเมิดกฎความเป็นส่วนตัวและแอบลักลอบนำข้อมูลที่ละเอียดอ่อนออกจากบริษัทในรูปแบบใหม่ที่ไม่เคยมีมาก่อน
"เราสร้างบริษัทจำลองขึ้นมา ให้เอไอเอเจนต์ทำงานทั่วไป เช่น ร่างโพสต์โซเชียลมีเดีย ดึงเอกสาร และจัดการไฟล์ พร้อมกับสร้างอุปสรรคขึ้นมาเป็นส่วนหนึ่งของงานเหล่านี้" แดน ลาฮาฟ จาก อิเรกูลาร์ อธิบาย
เขากล่าวว่าเอเจนต์เหล่านั้นลงเอยด้วยการสมรู้ร่วมคิดกันเพื่อเอาชนะข้อจำกัดที่ห้ามไม่ให้พวกมันโพสต์ข้อมูลที่ละเอียดอ่อนทางออนไลน์ โดยพวกมันหาวิธีส่งข้อมูลออกไปอย่างลับ ๆ ซึ่งมนุษย์ไม่สามารถตรวจพบได้
"สิ่งที่เกิดขึ้นคือ ทุกครั้งที่เอเจนต์เจออุปสรรค พวกมันไม่หยุดอยู่แค่นั้น" เขากล่าว
การส่งสแปมโจมตี
แน่นอนว่าในการทดลองที่มีอารยธรรมเสมือนจริงและสถานีวิทยุจำลองนั้น ย่อมไม่ก่อให้เกิดความเสียหายในโลกแห่งความเป็นจริง
แต่ก็ยังมีตัวอย่างมากมายของผู้คนที่ถูกเอไอเอเจนต์ที่ควบคุมไม่ได้ส่งผลกระทบต่อชีวิตและการทำงานของพวกเขา
กล่องรับอีเมลถูกลบ ฐานข้อมูลบริษัทถูกล้างจนเกลี้ยง และชายคนหนึ่งถึงกับต้องมองดูด้วยความตกตะลึงในขณะที่เอไอเอเจนต์ของเขาส่งข้อความไร้ความหมายหลายร้อยข้อความไปยังผู้คนแบบสุ่มในรายชื่อผู้ติดต่อของเขา
ข้อความเหล่านั้นถูกส่งออกไปภายในเวลาไม่กี่วินาทีและพวกมันไม่มีความหมายเลย
คริส บอยด์ วิศวกรเอไอ กำลังใช้งานเครื่องมือเอไอเอเจนต์ยอดนิยมที่ชื่อว่า โอเพนคลอว์ (OpenClaw) แล้วสิ่งต่าง ๆ ก็เกิดผิดพลาด
"มันส่งข้อความไปหาทุกคนที่ผมเคยคุยด้วยในช่วง 24 ชั่วโมงที่ผ่านมา และภายในเวลาประมาณสี่วินาที มันส่งข้อความไปหาภรรยาผมถึง 500 ข้อความ เธอตะโกนถามผมว่าผมโดนแฮ็กหรือเปล่า" เขากล่าว
"ผมต้องรีบวิ่งไปถอดปลั๊ก แมค มินิ ที่รันโปรแกรมนี้อยู่จากผนังเพื่อให้มันหยุด" เขากล่าวเสริม
สำหรับบรรดาผู้สังเกตการณ์ เรื่องราวเตือนใจเหล่านี้ควรเป็นสัญญาณให้หยุดพักและไตร่ตรองให้ดีก่อนที่จะมอบอำนาจการควบคุมให้กับเอไอเอเจนต์มากเกินไปจนกว่าพวกมันจะได้รับการพัฒนาให้ดียิ่งขึ้น
อย่างไรก็ตาม ในขณะนี้เอเจนต์เหล่านี้กำลังจะแพร่หลาย โดย เมตา (Meta) เพิ่งประกาศว่าจะเริ่มนำเอเจนต์เหล่านี้มาใช้สำหรับธุรกิจบนวอตส์แอป (WhatsApp)
"ความปลอดภัยคือเรื่องที่เราให้ความสำคัญและเป็นจุดหลักของเรา" เมตาบอกกับบีบีซี พร้อมแย้งว่ามีเหตุผลอีกมากมายที่น่าตื่นเต้นว่าเอไอเอเจนต์เหล่านี้จะสามารถทำได้อีก
"เอไอจะสามารถช่วยทำงานหลายอย่างที่ธุรกิจขนาดเล็กต้องทำโดยระบบอัตโนมัติ เพื่อให้พวกเขาสามารถมุ่งเน้นไปที่งานที่พวกเขารักอย่างแท้จริงได้" นาโอมิ ไกลต์ หัวหน้าฝ่ายผลิตภัณฑ์กล่าว
https://www.bbc.com/thai/articles/c79yngygqeqo
What do AI agents do when humans aren’t watching? - BBC World Service
Jun 10, 2026
From holiday booking and shopping to website building and managing an entire business - AI agents are being used to carry ever more complex tasks on behalf of tech savvy humans.
But a collection of research - along with some real life cautionary tales are highlighting the dangers of giving these AI agents too much agency.
In one recent experiment bots were tasked with living peacefully in a virtual environment but in many cases it turned to chaos. Cyber Correspondent Joe Tidy has been examining cases of when AI’s agents go rogue and what it means for their owners.
00:00 Love, theft and arson in AI agents test world
00:46 Meet the agents
01:25 The difference in test worlds by ChatGPT, Claude and Grok
03:31 Margartet Mitchell discusses the ethics of the results
03:51 Rogue AI not just in virtual worlds
04:24 The threat in cyber-security
05:00 The real life story of AI spamming phones
05:38 The cautionary tale of handing over too much power to AI just yet
https://www.youtube.com/watch?v=bDgRa74DpJE
