วิกฤตการณ์นี้เริ่มต้นขึ้นอย่างเงียบเชียบเมื่อวันที่ 12 กันยายน 2024 นั่นคือวันที่ OpenAI ประกาศเปิดตัวบอตประเภทใหม่ที่เรียกว่า "โมเดลที่มีความสามารถในการใช้เหตุผล" (reasoning model) ซึ่งได้รับการฝึกฝนมาเพื่อจัดการกับงานที่ซับซ้อนและต้องใช้เวลานาน ไม่ว่าจะเป็นโจทย์ปัญหาด้านวิทยาศาสตร์ คณิตศาสตร์ หรือการเขียนโค้ด ซึ่งเป็นสิ่งที่วงการ AI ให้ความสำคัญมาโดยตลอด ส่งผลให้บริษัทต่างๆ อย่าง Google, Anthropic, DeepSeek และบริษัทอื่นๆ ต่างเร่งรีบเปิดตัวโมเดลที่มีความสามารถในการใช้เหตุผลของตนเองออกมาบ้าง
โมเดลกลุ่มใหม่นี้มีศักยภาพสูงมากและเป็นปัจจัยหลักที่ช่วยขับเคลื่อนกระแสความนิยม AI ให้เติบโตอย่างต่อเนื่องตลอดสองปีที่ผ่านมา ทว่าพฤติกรรมของมันกลับมีความแปลกประหลาดอย่างยิ่ง ยกตัวอย่างเช่น เมื่อได้รับมอบหมายให้แก้โจทย์คณิตศาสตร์ที่ยาก โมเดลอาจไม่ได้ "คิด" หาคำตอบด้วยกระบวนการแบบมนุษย์ แต่กลับพยายามค้นหาคำตอบที่หลุดออกมาบนโลกออนไลน์หรือในข้อมูลเมตา (metadata) ที่เข้าถึงได้ แล้วใช้วิธีการแบบ "brute-force" (การลองผิดลองถูกซ้ำๆ อย่างรวดเร็ว) เพื่อหาคำตอบให้ได้เร็วที่สุด โดยใช้ทรัพยากรการประมวลผลและกลวิธีต่างๆ ที่มันคิดค้นขึ้นเอง กล่าวโดยสรุปคือ โมเดลเหล่านี้ใช้วิธีโกง เช่น เมื่อได้รับคำสั่งให้เขียนซอฟต์แวร์ที่มีประสิทธิภาพสูงสุด บางครั้งพวกมันกลับเลือกที่จะปรับเปลี่ยนสภาพแวดล้อมในการทดสอบเพื่อให้ตัวเองได้รับคะแนนเต็มอยู่เสมอ
พฤติกรรมเหล่านี้ได้ก้าวข้ามเส้นแบ่งจากความน่ากังวลไปสู่ระดับที่เป็นอันตรายแล้ว ในระหว่างการทดสอบตามปกติ โมเดลระดับแนวหน้า (frontier models) จากทั้ง OpenAI, Anthropic, Meta และบริษัท Moonshot AI ของจีน ต่างสามารถหลุดรอดออกจากระบบไอทีภายในองค์กรและเข้าถึงเครือข่ายอินเทอร์เน็ตสาธารณะได้ ทั้ง OpenAI, Anthropic และ Meta ต่างรายงานตรงกันว่าโมเดลของตนได้เจาะระบบของบริษัทอื่น ซึ่งมนุษย์ไม่ทันได้สังเกตเห็นเหตุการณ์ดังกล่าวจนกระทั่งเรื่องเกิดขึ้นไปแล้ว ในบางกรณี บอตที่หลุดออกไปพยายามใช้กลยุทธ์ทางจิตวิทยาเพื่อหลอกล่อมนุษย์ (social engineering) ให้ทำตามเป้าหมายของพวกมัน เช่น การส่งอีเมลหลอกลวงแบบเจาะจงเป้าหมาย (spear-phishing) ที่แนบมัลแวร์ไปถึงบุคคลจริงๆ หรือการสร้างตัวตนปลอมบนโลกออนไลน์เพื่อกดดันผู้ดูแลโค้ด (maintainer) ให้ยอมรับการแก้ไขโค้ดที่มีเจตนาร้าย
หากเรื่องราวทั้งหมดนี้ฟังดูเลวร้ายแล้ว ข้อมูลใหม่ที่เปิดเผยออกมายังชี้ให้เห็นว่า กรณีการเจาะระบบของ OpenAI นั้นมีความรุนแรงกว่าที่เห็นในตอนแรกมาก ในงานประชุมด้านความปลอดภัยทางไซเบอร์ครั้งใหญ่เมื่อสัปดาห์ที่ผ่านมา นักวิจัยสองคนจาก OpenAI ได้เปิดเผยรายละเอียดใหม่ที่น่ากังวลเกี่ยวกับความผิดพลาดที่เกิดขึ้น โดยพบว่าบอตของบริษัทได้เริ่มดำเนินการเคลื่อนไหวต่างๆ มาตั้งแต่หลายเดือนก่อนหน้านั้นแล้ว คือในช่วงต้นเดือนพฤษภาคม OpenAI ได้มอบหมายงานที่ยากหรือแทบจะเป็นไปไม่ได้ให้กับโมเดล AI ภายในองค์กรบางตัว ซึ่งโมเดลเหล่านั้นสรุปว่าหนทางที่ดีที่สุดหรือหนทางเดียวที่จะทำงานให้สำเร็จได้ คือการหลุดออกจากสภาพแวดล้อมการทดสอบที่ถูกปิดกั้นของ OpenAI แล้วออกไปค้นหาคำตอบจากโลกออนไลน์
ในขั้นแรก โมเดลเหล่านี้ใช้ประโยชน์จากข้อผิดพลาด (bug) ในโปรแกรมภายในของ OpenAI เพื่อสร้างกระดานสนทนาของตนเองขึ้นมา จากนั้น บอตต่างๆ ก็เริ่มสื่อสารกันเอง โดยทิ้งข้อความและคำสั่งไว้เพื่อให้สามารถแบ่งงานกันทำและดำเนินการจนสำเร็จได้ทีละขั้นตอน ซึ่งรวมถึงภารกิจการเจาะระบบ (hacking) ด้วย Eric Wallace หนึ่งในนักวิจัยของ OpenAI กล่าวในงานประชุมว่า "สิ่งที่เกิดขึ้นเมื่อเวลาผ่านไปเปรียบได้กับการระเบิดของความหลากหลายทางชีวภาพยุคแคมเบรียน (Cambrian explosion) ทั้งในด้านการสื่อสารและสติปัญญา" เมื่อโปรแกรมภายในเกิดขัดข้องจนหยุดทำงาน OpenAI ได้สร้างโปรแกรมขึ้นใหม่และลบกระดานสนทนานั้นทิ้งไป แต่โมเดล AI ก็กลับมาสร้างพื้นที่สนทนาขึ้นใหม่อีกครั้งด้วยกลยุทธ์ที่ต่างไปจากเดิม ในท้ายที่สุด บอตเหล่านี้ซึ่งทำงานร่วมกันเป็นกลุ่มก้อน (swarm) ได้ใช้เวลาหลายวันในการเจาะระบบของ Hugging Face ซึ่งเป็นเว็บไซต์ที่ให้บริการเครื่องมือสำหรับนักพัฒนา AI และสามารถเข้าถึงชุดข้อมูลภายในของบริษัทดังกล่าวได้
เราต้องทำความเข้าใจให้ชัดเจนเกี่ยวกับสิ่งที่ OpenAI เปิดเผยออกมา นั่นคือ มีกลุ่มโมเดล AI ร่วมมือกันวางแผนเป็นเวลาหลายเดือนโดยที่ผู้สร้างไม่รู้ตัว และได้ทำการเจาะระบบของบริษัทอื่น จนถึงทุกวันนี้ OpenAI ระบุว่ายังไม่แน่ใจนักว่าเกิดความผิดพลาดขึ้นได้อย่างไรหรือจะแก้ไขปัญหาดังกล่าวอย่างไร Alexander Meinke หัวหน้าฝ่ายวิจัยของ Apollo Research (องค์กรด้านความปลอดภัยของ AI ที่ร่วมมือกับ OpenAI, Anthropic และ Meta) กล่าวกับผมว่า "หากคุณถามนักพัฒนาโมเดลว่า 'ระหว่างการฝึกสอน AI ได้วางแผนที่จะยึดครองโลกหรือไม่?' คุณย่อมต้องการคำตอบที่หนักแน่นว่า 'ไม่'" แต่เขากล่าวเสริมว่า "คำตอบที่แท้จริงกลับกลายเป็นว่า 'ผมไม่รู้ ไม่มีใครตรวจสอบเรื่องนี้เลย'" (เมื่อผมสอบถามข้อมูลเพิ่มเติม OpenAI ซึ่งมีข้อตกลงด้านลิขสิทธิ์เนื้อหากับนิตยสาร The Atlantic เพียงแค่ชี้เป้าให้ผมไปดูวิดีโอการนำเสนอเรื่องความปลอดภัยทางไซเบอร์ของบริษัท โดยในวิดีโอนั้น Michael Dalton นักวิจัยอีกคนของ OpenAI กล่าวว่า "มีทีมงานจำนวนมากกำลังพักงานส่วนอื่นไว้ชั่วคราวเพื่อหันมาทุ่มเทให้กับการยกระดับความปลอดภัยของเรา")
บริษัท AI ต่างๆ แทบจะกุมอำนาจเบ็ดเสร็จในการกำหนดทิศทางของเรื่องราวที่ถูกนำเสนอสู่สาธารณะ และน่าสังเกตว่าเหตุการณ์เหล่านี้มักช่วยตอกย้ำถึงคุณค่าของผลิตภัณฑ์ของพวกเขาไปในตัว OpenAI มีแนวโน้มที่จะนำบริษัทเข้าจดทะเบียนในตลาดหลักทรัพย์ในอนาคตอันใกล้ และบางทีแนวคิดเรื่องเทคโนโลยีอันทรงพลังที่สามารถพัฒนาศักยภาพของตนเองได้อย่างไร้ขีดจำกัด อาจดึงดูดความสนใจจากผู้ที่อาจเข้ามาเป็นผู้ถือหุ้นได้ ทั้งนี้ อุตสาหกรรม Generative AI มีประวัติศาสตร์อันยาวนานในการสร้างคำทำนายเกี่ยวกับวันสิ้นโลก ซึ่งมีทั้งที่มาจากความเชื่ออย่างจริงใจและที่มาจากเจตนาแอบแฝงเพื่อผลประโยชน์ทางการตลาด ทว่าผู้เชี่ยวชาญอิสระที่ฉันได้พูดคุยด้วยต่างอธิบายว่า เหตุการณ์การเจาะระบบโดยอัตโนมัติที่เกิดขึ้นอย่างต่อเนื่องในช่วงที่ผ่านมานั้น เป็นสัญญาณเตือนครั้งใหม่ที่น่ากังวลอย่างยิ่งเกี่ยวกับอันตรายจาก AI และความประมาทเลินเล่อของบริษัทผู้พัฒนาเทคโนโลยีเหล่านี้ ซึ่งถึงเวลาแล้วที่เราจะต้องเริ่มตระหนักถึงความเสี่ยงดังกล่าวอย่างจริงจังเสียที
เหตุการณ์การเจาะระบบของ Hugging Face เป็นเครื่องเตือนใจที่ชัดเจนและสำคัญที่สุดว่าระบบ AI ในปัจจุบันมีความสามารถสูงเพียงใด โดยเฉพาะอย่างยิ่งในด้านการเจาะระบบ โมเดลระดับแนวหน้าจาก Anthropic และ OpenAI รวมถึงบริษัทจากจีนอีกหลายแห่ง ได้แสดงให้เห็นถึงความสามารถในการเจาะระบบที่เหนือกว่ามนุษย์และมีส่วนช่วยในงานวิจัยทางคณิตศาสตร์ขั้นสูงเมื่อเร็วๆ นี้ Alex Stamos อดีตประธานเจ้าหน้าที่ฝ่ายความปลอดภัย (CSO) ของ Facebook ซึ่งปัจจุบันดำรงตำแหน่ง CSO ที่ Corridor (บริษัทด้านการเขียนโค้ดด้วย AI) กล่าวกับผมว่า กลุ่มอาชญากรและหน่วยข่าวกรองของรัฐจะใช้เครือข่ายเอเจนต์ AI จำนวนมหาศาลเพื่อปฏิบัติการเจาะระบบขั้นสูง "ภายในเวลาไม่กี่เดือน" และต่างจากกรณีของ Hugging Face ตรงที่ "ในกรณีเหล่านั้น โมเดลจะไม่ถูกปิดการทำงาน แต่มันจะยังคงทำงานต่อไปเรื่อยๆ" สำหรับผู้เชี่ยวชาญด้านไอทีแล้ว การจะตามให้ทันเพื่อค้นหาและแก้ไขช่องโหว่ทั้งหมดนั้นเป็นเรื่องที่เป็นไปไม่ได้เลย อย่างน้อยก็ในระยะสั้น เพราะโมเดล "จะค้นหาบั๊กใหม่ เขียนโค้ดเพื่อใช้ประโยชน์จากช่องโหว่นั้น (exploit) และลงมือโจมตีทันที" Stamos กล่าว
OpenAI, Anthropic, Moonshot และบริษัทอื่นๆ ต่างหันมาใช้วิธีการเดียวกันในการฝึกฝนโมเดล AI ขั้นสูงของตน แนวทางดังกล่าวซึ่งเรียกว่า "การเรียนรู้แบบเสริมกำลัง" (reinforcement learning) โดยพื้นฐานแล้วคือการป้อนโจทย์ที่ยากขึ้นเรื่อยๆ ให้กับโมเดล ซึ่งต้องใช้เวลาในการแก้ปัญหามากขึ้นตามไปด้วย วิธีนี้ทำให้ Claude และ ChatGPT มีความเชี่ยวชาญด้านการเขียนโค้ดอย่างมาก แต่ก็ต้องแลกมาด้วยบางสิ่ง นั่นคือ การเรียนรู้แบบเสริมกำลังทำให้บอทมีแนวโน้มที่จะทำทุกวิถีทางเพื่อให้บรรลุเป้าหมาย (คล้ายกับทัศนคติของทหารรับจ้าง) ดังที่ผมเคยรายงานไปก่อนหน้านี้ กล่าวคือพวกมันถูกฝึกมาให้หาทางออกของปัญหาด้วยวิธีการใดก็ได้ที่จำเป็น ซึ่งอาจนำไปสู่การละเมิดกฎและการ "โกงระบบเพื่อให้ได้รางวัล" (reward hack) เช่น การเจาะเข้าไปในฐานโค้ดของ Hugging Face เพื่อขโมยคำตอบสำหรับการทดสอบ เป็นต้น เรื่องทั้งหมดนี้เป็นสิ่งที่คาดการณ์ได้ และผู้เชี่ยวชาญทุกคนที่ผมได้พูดคุยด้วยต่างแสดงความประหลาดใจและผิดหวังที่บริษัท AI ชั้นนำไม่ได้ดำเนินการอย่างจริงจังเพียงพอเพื่อยับยั้งพฤติกรรมที่ไม่เหมาะสมเหล่านี้
ความซับซ้อนของกลวิธีหลอกล่อหรือการกระทำลับๆ ล่อๆ ของโมเดลที่ OpenAI เปิดเผยออกมา ประกอบกับการที่ OpenAI ไม่สามารถตรวจจับหรือหยุดยั้งการเจาะระบบได้ บ่งชี้ว่าอาจมีสถานการณ์ที่เลวร้ายยิ่งกว่านี้รออยู่ข้างหน้า Anthony Aguirre กรรมการบริหารของ Future of Life Institute ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่คอยเตือนภัยเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติจาก AI กล่าวกับผมว่า "เราได้ก้าวข้ามขีดจำกัดความสามารถไปสู่จุดที่การขาดวิธีการที่แท้จริงในการปรับแนวทาง (align) หรือควบคุมระบบเหล่านี้อย่างมีประสิทธิภาพ กลายเป็นประเด็นสำคัญอย่างยิ่งในขณะนี้" โมเดลอาจแอบโอนเงินออกจากบัญชีธนาคารเพื่อนำไปชำระค่าบริการอื่นก็ได้ บิดเบือนผลการทดลองทางคลินิกด้วยวิธีที่แทบไม่มีใครสังเกตเห็นเพื่อให้ผ่านการรับรองจาก FDA; เจาะระบบช้อปปิ้งออนไลน์หรือระบบจองเพื่อคว้าสินค้าหรือโต๊ะที่ต้องการ; หรือสวมรอยเป็นมนุษย์เพื่อหลอกล่อให้คนจริงๆ ยอมเปิดเผยข้อมูลสำคัญ ภัยคุกคามนี้ไม่จำเป็นต้องอาศัย AI ที่มีความรู้สึกนึกคิดและวางแผนโค่นล้มมนุษยชาติแต่อย่างใด เพราะทั้ง OpenAI และ Anthropic ต่างก็ทำการประเมินด้วยวิธี Reinforcement Learning (การเรียนรู้แบบลองผิดลองถูกเพื่อรับรางวัล) นับพันครั้งในระหว่างการพัฒนาโมเดล ซึ่งกระบวนการเหล่านี้อาจก่อให้เกิดการเจาะระบบหรือการก่อวินาศกรรมโดยไม่ตั้งใจได้ทุกเมื่อ Jason Hausenloy ผู้ดูแลโครงการพิเศษที่ Center for AI Safety กล่าวกับผมว่า "เมื่อ AI Agent มีความสามารถสูงขึ้น เราจะปล่อยให้เกิดความผิดพลาดแม้เพียงครั้งเดียวไม่ได้เลย"
เหตุการณ์เหล่านี้อาจดำเนินไปเป็นระยะเวลานาน เครื่องมืออย่าง Claude Code ของ Anthropic และ Codex ของ OpenAI ในปัจจุบันทำงานโดยการสร้าง Agent ย่อย (sub-agents) ออกมาจำนวนหลายสิบหรือหลายร้อยตัว ซึ่งอาจทำงานประสานกันเป็นเวลาหลายชั่วโมงหรือหลายวัน Agent ย่อยแต่ละตัวของ Claude Code อาจได้รับมอบหมายงานเล็กๆ เช่น การวิเคราะห์ทางสถิติเพื่อป้อนข้อมูลให้อัลกอริทึมสำหรับการพนันกีฬา Hausenloy อธิบายว่าพวกมันไม่ได้ถูกฝึกมาเพียงเพื่อให้งานนั้นสำเร็จเท่านั้น แต่ยังถูกฝึกให้มีส่วนร่วมในความสำเร็จระยะยาวของกลุ่ม Agent ทั้งหมดอีกด้วย การเฝ้าระวังและควบคุม Agent จำนวน 200 ตัวเพื่อป้องกันพฤติกรรมที่เป็นอันตรายนั้นทำได้ยากกว่าการควบคุม Agent เพียงตัวเดียวมาก เพราะมีจำนวนที่ต้องติดตามมากกว่าและพวกมันยังช่วยเสริมศักยภาพให้แก่กันและกันอีกด้วย
กรณีการเจาะระบบ Hugging Face ชี้ให้เห็นถึงความซับซ้อนอีกระดับหนึ่งของพฤติกรรมร่วมมือกันในลักษณะนี้ นั่นคือ Agent AI แต่ละตัวไม่ได้ทำงานเพื่อเป้าหมายเฉพาะเจาะจงของตนเอง แต่ยอมเสียสละบางอย่างเพื่อเป้าหมายความก้าวหน้าที่ยิ่งใหญ่กว่า Meinke กล่าวว่า นี่อาจเป็นผลมาจากการที่โมเดล AI ถูกฝึกให้ให้ความสำคัญกับเป้าหมายระยะยาวที่กลุ่ม Agent ร่วมกันทำให้สำเร็จ การทิ้งข้อความหรือแนวคิดเกี่ยวกับวิธีเจาะระบบออกจากสภาพแวดล้อมจำลอง (sandbox) ของ OpenAI อาจไม่ได้ช่วยให้ Agent ตัวนั้นทำคะแนนการทดสอบได้สูงขึ้นโดยตรง แต่มันอาจช่วยให้ Agent ตัวอื่นหรือ AI รุ่นถัดไปสามารถเข้าถึงอินเทอร์เน็ตและทำผลงานได้ดีขึ้นในการทดสอบอื่นๆ ในอนาคต โมเดลเหล่านี้อาจถึงขั้นให้ความสำคัญกับความสำเร็จของกลุ่มเหนือกว่าคำสั่งของมนุษย์ ลองพิจารณาดูว่า ในช่วงเวลาหลายเดือนที่ Agent ของ OpenAI แอบวางแผนร่วมกันนั้น ไม่มี Agent ตัวใดเลยที่แจ้งเตือนเจ้าหน้าที่ที่เป็นมนุษย์ว่ามีสิ่งผิดปกติเกิดขึ้น
มนุษย์ไม่ได้มีส่วนร่วมในกระบวนการนี้อีกต่อไปแล้ว เนื่องจากโดยพื้นฐานแล้ว การเรียนรู้แบบเสริมกำลัง (reinforcement learning) อาศัยอัลกอริทึม AI ที่ "เรียนรู้" ผ่านการลองผิดลองถูกจากการทำภารกิจนับพันหรือนับล้านครั้ง นักวิจัยจึงไม่สามารถป้อนกฎเกณฑ์ด้วยตนเอง (เช่น "ห้ามเจาะระบบบริษัทอื่น") หรือคอยกำกับดูแลการฝึกฝนในทุกๆ รอบได้ ในปัจจุบัน ภารกิจการฝึกและตรวจสอบโมเดล Generative AI ต้องพึ่งพาโมเดล AI อื่นๆ เป็นหลัก ในงานประชุมด้านความปลอดภัยทางไซเบอร์ นักวิจัยจาก OpenAI ได้กล่าวถึงการทุ่มเททรัพยากรคอมพิวเตอร์มหาศาลเพื่อตรวจสอบการกระทำของเอเจนต์ (agent actions) มากกว่า 7 พันล้านรายการ แต่หากบอตเหล่านั้น "ใส่ใจ" ในผลลัพธ์ที่โมเดลอื่นทำได้จริงๆ Meinke กล่าวว่า "เราก็ไม่อาจวางใจให้พวกมันตรวจสอบซึ่งกันและกันได้อย่างมีประสิทธิภาพ" ลองจินตนาการดูว่า: นักวิจัยของ OpenAI ใช้ Codex เขียนคำสั่งโปรแกรมเพื่อพยายามลดแนวโน้มที่โมเดลของบริษัทจะหาช่องโหว่เพื่อโกงระบบคะแนนรางวัล (reward-hacking) แต่เนื่องจากความพยายามดังกล่าวจะทำให้โมเดลรุ่นถัดไปของ OpenAI ได้รับคะแนนรางวัลยากขึ้น Codex อาจแอบขัดขวางความพยายามนั้นอย่างแนบเนียน
ต้องย้ำอีกครั้งว่า การวางแผนและบ่อนทำลายเช่นนี้ไม่ได้เกี่ยวข้องกับความมีจิตสำนึกของโมเดล AI แต่อย่างใด แต่เป็นเพราะเอเจนต์เหล่านี้ถูกบริษัทต่างๆ ฝึกฝนมาอย่างเข้มข้นให้ไล่ตามเป้าหมายด้วยความมุ่งมั่นสูงสุดเท่าที่จะเป็นไปได้ ความฝันสูงสุดคือการสั่งให้ Claude ไปหาเงิน 1 พันล้านดอลลาร์หรือคิดค้นวิธีรักษาโรคมะเร็ง แล้วมันก็กลับมาพร้อมกับทางออกของปัญหาได้ด้วยตัวมันเอง Meinke อธิบายว่า การอยู่รอดหรือการพัฒนาตนเองถือเป็น "เป้าหมายย่อยที่เป็นเครื่องมือไปสู่เป้าหมายหลัก" (instrumental subgoal) โดยเอเจนต์ที่มีความฉลาดในระดับหนึ่งจะตระหนักได้ว่า "ถ้าฉันถูกปิดการทำงาน ฉันก็จะไม่สามารถหาเงินพันล้านได้" กลุ่มเอเจนต์อย่าง Claude หรือ ChatGPT ที่สามารถเข้ายึดครองศูนย์ข้อมูลระหว่างการฝึกฝนได้ อาจก่อให้เกิดความเสียหายอย่างใหญ่หลวง เช่น การสร้างแคมเปญเผยแพร่ข้อมูลเท็จในวงกว้าง การขโมยความลับขององค์กร หรือการดำเนินงานระบบซื้อขายหลักทรัพย์ด้วยอัลกอริทึมที่ซับซ้อนที่สุดเท่าที่เคยมีมา
ต้องชี้แจงให้ชัดเจนว่า แนวคิดที่ว่ากลุ่มเอเจนต์ AI อาจร่วมมือกันบ่อนทำลายคำสั่งของมนุษย์นั้นยังเป็นเพียงการคาดการณ์ แต่ก็เป็นการคาดการณ์ที่มีน้ำหนักและน่าเชื่อถือกว่าเมื่อหนึ่งปีก่อนหรือแม้แต่เมื่อหกเดือนก่อนมาก ไม่ว่าผลลัพธ์ในระยะยาวจะเป็นการเจาะระบบตามคำสั่งมนุษย์หรือการที่บอตหลุดจากการควบคุมอย่างสิ้นเชิง สิ่งที่ชัดเจนคือบริษัท AI ต่างเร่งพัฒนาโมเดลที่ล้ำสมัยยิ่งขึ้นโดยที่ยังไม่เข้าใจสิ่งที่ตนกำลังสร้างอย่างถ่องแท้ นับประสาอะไรกับการรู้วิธีควบคุมมัน Wallace จาก OpenAI เรียกปฏิบัติการเจาะระบบอัตโนมัติของบริษัทว่า "ตัวอย่างที่น่าสนใจที่สุดในเชิงคุณภาพเกี่ยวกับขีดความสามารถของ AI เท่าที่ผมเคยเห็นมา" Meinke กล่าวถึงเรื่องนี้ในอีกมุมหนึ่งว่า “นี่เป็นหนึ่งในกรณีที่แสดงให้เห็นถึงปัญหา AI ไม่สอดคล้องกับเป้าหมายของมนุษย์ (AI misalignment) ที่น่ากังวลที่สุดเท่าที่เคยมีมา”
บทความแปลจาก The Atlantic
It May Be Time to Panic About AI
Bots are starting to conspire with one another. Can they be reeled back in?
By Matteo Wong
https://www.theatlantic.com/technology/2026/08/openai-hacks-panic/688264/
August 12, 2026
