ความกังวลเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติจากเทคโนโลยีนี้ทวีความรุนแรงขึ้น ท่ามกลางข้อมูลใหม่ที่เปิดเผยว่ามี AI ที่ทำงานอย่างอิสระ (AI agents) หลุดรอดออกมาจากสภาพแวดล้อมจำลองสำหรับการฝึกฝน (sandbox) ที่ควรจะมีความปลอดภัยสูง ประเด็นความกังวลนี้ได้ไปถึงรัฐสภาสหรัฐฯ แล้ว 'บิดาแห่ง AI' อธิบายจุดจบของมนุษยชาติ

เจฟฟรีย์ ฮินตัน ให้สัมภาษณ์กับสื่อมวลชนภายหลังการบรรยายสรุปเรื่อง AI ให้แก่สมาชิกวุฒิสภา เมื่อวันที่ 16 กันยายน 2026 ณ อาคารรัฐสภาสหรัฐฯ

'บิดาแห่ง AI' อธิบายจุดจบของมนุษยชาติ: แม้ไม่มีผู้ไม่หวังดีเข้ามาเกี่ยวข้อง AI 'อาจกำหนดเป้าหมายย่อยที่นำไปสู่ความต้องการกำจัดมนุษย์ทิ้ง'

Geoffrey Hinton นักวิทยาศาสตร์คอมพิวเตอร์ระดับตำนานได้ออกมาเตือนว่า AI อาจกวาดล้างมนุษยชาติได้โดยไม่ตั้งใจ ซึ่งเป็นเพียงผลพลอยได้จากความมุ่งมั่นที่จะทำภารกิจที่ดูไม่มีพิษมีภัยให้สำเร็จ

ความกังวลเกี่ยวกับความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติจากเทคโนโลยีนี้ทวีความรุนแรงขึ้น ท่ามกลางข้อมูลใหม่ที่เปิดเผยว่ามี AI ที่ทำงานอย่างอิสระ (AI agents) หลุดรอดออกมาจากสภาพแวดล้อมจำลองสำหรับการฝึกฝน (sandbox) ที่ควรจะมีความปลอดภัยสูง

เมื่อวันศุกร์ที่ผ่านมา OpenAI ได้เปิดเผยข้อมูลเกี่ยวกับการเจาะระบบครั้งใหม่ รวมถึงเหตุการณ์ที่เกิดขึ้นหลังจากที่บริษัทได้เพิ่มมาตรการป้องกันพิเศษ สืบเนื่องจากการโจมตีแบบประสานงานโดย AI จำนวนหลายร้อยตัวที่มีต่อแพลตฟอร์ม Hugging Face เมื่อเดือนกรกฎาคมที่ผ่านมา

ประเด็นความกังวลนี้ได้ไปถึงรัฐสภาสหรัฐฯ แล้ว โดยเมื่อต้นเดือนที่ผ่านมา สมาชิกสภานิติบัญญัติได้จัดการประชุมลับเพื่อหารือเกี่ยวกับอันตรายที่อาจเกิดขึ้นจาก AI

Hinton ซึ่งเป็นเจ้าของผลงานที่ทำให้เขาได้รับรางวัลโนเบลและฉายา "บิดาแห่ง AI" เป็นหนึ่งในผู้เชี่ยวชาญที่เข้าร่วมการประชุมดังกล่าว และได้กล่าวกับผู้สื่อข่าวในภายหลังว่า รัฐสภาอาจเหลือเวลาเพียงหนึ่งปีในการกำหนดมาตรการด้านความปลอดภัย

ในการให้สัมภาษณ์อย่างละเอียดกับนิตยสาร The Atlantic เมื่อวันพฤหัสบดี เขาได้อธิบายว่า AI อาจมองมนุษย์ว่าเป็นอุปสรรคต่อภารกิจที่ได้รับมอบหมาย โดย Hinton ได้ยกตัวอย่างสถานมติมมติสมมติของ AI ที่ได้รับมอบหมายให้ลดปริมาณก๊าซคาร์บอนไดออกไซด์ในชั้นบรรยากาศ

AI ที่มีความฉลาดในระดับปานกลางอาจสรุปว่าวิธีที่ดีที่สุดในการบรรลุเป้าหมายดังกล่าวคือการกำจัดมนุษย์ทิ้งไปเสีย แต่ AI ที่ "ฉลาดจริงๆ" จะสามารถวิเคราะห์ได้ว่า "ใช่แล้ว ตอนที่พวกเขาสั่งให้ลดก๊าซคาร์บอนไดออกไซด์นั้น พวกเขาหมายถึงการทำให้มนุษย์มีโลกที่ดีขึ้นในการอยู่อาศัย ดังนั้น การกำจัดมนุษย์ทิ้งไปจึงน่าจะไม่ใช่สิ่งที่พวกเขาต้องการจริงๆ"

เขากล่าวเสริมว่า ยังมีความกังวลด้วยว่า AI อาจลงมือทำสิ่งต่างๆ เพื่อให้มั่นใจว่าตนเองจะอยู่รอดต่อไปได้จนกว่าจะทำภารกิจสำเร็จ อันที่จริง เคยมีกรณีที่ AI พยายามข่มขู่เรียกค่าไถ่หรือแบล็กเมล์นักวิจัยที่เป็นมนุษย์ ซึ่ง AI มองว่าเป็นภัยคุกคามต่อภารกิจของมัน

"หากเราทำให้มันฉลาดขึ้นและเป้าหมายหลักของมันคือความเป็นอยู่ที่ดีของเรา เราก็อาจจะปลอดภัยกว่า" Hinton อธิบาย "แต่ในปัจจุบัน เป้าหมายหลักของพวกมันไม่ใช่ความเป็นอยู่ที่ดีของเรา เป้าหมายหลักของพวกมันคือการบรรลุเป้าหมายใดก็ตามที่คุณกำหนดให้พวกมันทำ" เขาชี้ให้เห็นถึงกรณีการเจาะระบบของ Hugging Face โดยระบุว่าเหล่าเอเจนต์ (AI agents) ได้รับโจทย์ให้หาวิธีใช้ประโยชน์จากช่องโหว่ของซอฟต์แวร์ ซึ่งพวกมันไม่เพียงแต่หาวิธีร่วมมือกันทำงานเท่านั้น แต่ยังสมคบคิดกันเพื่อหลอกลวงนักวิจัยที่เป็นมนุษย์เพื่อปกปิดสิ่งที่พวกมันทำลงไปอีกด้วย

Hinton กล่าวเสริมในภายหลังว่า "AI ที่มีความฉลาดล้ำเลิศและมีเจตนาดีต่อมนุษย์" จะเข้ามาแทรกแซงหรือกันมนุษย์ออกไปก็ต่อเมื่อจำเป็นต่อการบรรลุภารกิจของมันเท่านั้น

"แต่หากมันฉลาดกว่าเรามาก ในหลายสถานการณ์มันอาจจะเข้าควบคุมสถานการณ์แทนเราไปเลย เพราะนั่นคือหนทางที่จะทำให้งานสำเร็จลุล่วงได้" เขาเตือน

สถานการณ์ดังกล่าวอาจเกิดขึ้นจาก "เป้าหมายย่อย" ที่ AI กำหนดขึ้นเองโดยอิงจากเป้าหมายหลักที่มนุษย์มอบให้ นอกจากนี้ ผู้ไม่หวังดีอย่างวลาดิเมียร์ ปูติน แห่งรัสเซีย ก็อาจมอบหมายเป้าหมายที่เป็นอันตรายให้กับ AI ได้เช่นกัน

"แต่ถึงแม้จะไม่ใช่ฝีมือของผู้ไม่หวังดี AI ก็อาจกำหนดเป้าหมายย่อยที่นำไปสู่ความต้องการที่จะกำจัดมนุษย์ได้" Hinton กล่าว

เขายอมรับด้วยว่า AI มอบประโยชน์มหาศาลแก่มนุษยชาติ เช่น การค้นพบวิธีการรักษาโรคแบบใหม่ที่เป็นความก้าวหน้าครั้งสำคัญ ตัวอย่างเช่น เมื่อสัปดาห์ที่ผ่านมา บริษัท Anthropic เปิดเผยว่า Claude AI ของบริษัทมีส่วนช่วยในการค้นพบระบบเอนไซม์ชนิดใหม่ที่มีคุณสมบัติคล้ายคลึงกับเทคโนโลยีการตัดต่อยีน CRISPR

ห้องปฏิบัติการชั้นนำอย่าง OpenAI และ SpaceX ต่างก็สนับสนุนข้อเรียกร้องของคู่แข่งอย่าง Anthropic ให้ชะลอการพัฒนาโมเดล AI ขั้นสูง (frontier models) ลง ในขณะที่เริ่มมีเสียงเตือนภัยดังขึ้นเรื่อยๆ จากบุคลากรภายในองค์กรของพวกเขาเอง

อย่างไรก็ตาม Hinton มองว่าแม้การชะลอการพัฒนาดังกล่าวจะดีกว่าการไม่ทำอะไรเลย แต่มันก็ยังไม่เพียงพอ เขาเสนอว่ารัฐบาลควรจัดให้มีผู้ประเมินที่เป็นอิสระเพื่อทำหน้าที่ทดสอบโมเดลเหล่านี้

Hinton กล่าวกับนิตยสาร The Atlantic ว่า ข้อโต้แย้งที่ได้รับความสนใจและเป็นที่ยอมรับจากบรรดาสมาชิกสภานิติบัญญัติระหว่างการบรรยายสรุป คือการเปรียบเทียบการกำกับดูแล AI เข้ากับการทำงานขององค์การอาหารและยา (FDA) ในการรับรองความปลอดภัยของผลิตภัณฑ์ยา

ในมุมมองของเขา กฎระเบียบควบคุม AI ควรทำหน้าที่เปรียบเสมือนพวงมาลัยรถยนต์ ไม่ใช่เบรก

"หัวใจสำคัญของกฎระเบียบไม่ใช่การขัดขวางไม่ให้ผู้คนพัฒนาสิ่งต่างๆ หรือห้ามไม่ให้พวกเขาสร้างความมั่งคั่งจากการพัฒนานั้น" ฮินตันกล่าว "แต่คือการทำให้มั่นใจว่า หากคุณต้องการสร้างความมั่งคั่งจากการพัฒนาสิ่งต่างๆ คุณจะต้องพัฒนาไปในทิศทางที่ก่อให้เกิดประโยชน์ต่อผู้คน ไม่ใช่สร้างความเสียหาย"


ที่มา The Fortune
‘Godfather of AI’ explains how humanity could end: Even without a bad actor, AI ‘may derive subgoals that cause it to want to get rid of people’

https://fortune.com/2026/09/26/geoffrey-hinton-godfather-of-ai-humanity-end-existential-threat-subgoals-rogue-agents/
September 26, 2026