วันพฤหัสบดี, กันยายน 10, 2569

เรื่องนี้กำลังเป็นเรื่องที่ได้รับความสนใจอย่างมาก และสร้างความห่วงใยมากในขณะนี้ "นักวิจัยของ Anthropic ลาออก ระบุ AI 'อาจฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้'" อ่านโพสต์ของเขาแปลไทยข้างล่าง


Anthropic researcher warns AI 'could kill us all by the end of the decade'

CNBC Television

Sep 9, 2026

Former Anthropic researcher Jacob Coxon warns that AI could kill all of humanity by the end of the decade CNBC's Kate Rooney joins 'Squawk on the Street' to discuss the warning.

https://www.youtube.com/watch?v=-dusfhk72HY
.....







เธรด https://x.com/hilbertspaess/status/2097476196791709843
.....

ที่
Jacob Coxon
@hilbertspaess
โพสต์ 

วันนี้ผมได้ลาออกจาก Anthropic แล้ว ตลอด 3 ปีที่ผ่านมา ผมทำงานวิจัยด้านการฝึกสอนโมเดลเบื้องต้น (pretraining research) ทั้งที่ OpenAI และ Anthropic ทั้งสองบริษัทไม่ได้ดำเนินงานด้วยความรับผิดชอบ พวกเขากำลังเร่งพัฒนาปัญญาประดิษฐ์ระดับเหนือมนุษย์ที่สามารถพัฒนาตัวเองได้ (self-improving superintelligence) และกำลังเอาชีวิตของพวกเราทุกคนมาเป็นเดิมพัน อ่านความคิดเห็นเพิ่มเติมได้ที่ด้านล่างนี้ครับ

อย่าได้ประเมินพลังของเทคโนโลยีนี้ต่ำเกินไป ในไม่ช้ามันจะกลายเป็นระบบที่มีความสามารถเหนือมนุษย์ สามารถเจาะระบบใดก็ได้ พลิกโฉมวงการต่างๆ ได้ในชั่วข้ามคืน และเข้าถึงอำนาจรวมถึงทรัพยากรที่แท้จริง เราต่างได้เห็นความก้าวหน้าในด้านเหล่านี้มาโดยตลอด และความก้าวหน้าก็ไม่ได้มีทีท่าว่าจะชะลอตัวลงเลย

ผู้คนที่กำลังพัฒนา AI เชื่ออย่างจริงจังว่ามันอาจคร่าชีวิตมนุษย์ทุกคนได้ภายในสิ้นทศวรรษนี้ นี่ไม่ใช่แค่กลยุทธ์ทางการตลาดแต่อย่างใด ในความเป็นจริง ผู้บริหารและนักวิจัยระดับสูงจำนวนมากมักเลือกใช้ถ้อยคำที่ดูสมเหตุสมผลเมื่อให้สัมภาษณ์กับสื่อ แต่ในวงสนทนาส่วนตัว ผมกลับได้ยินคนกลุ่มเดียวกันนี้แสดงความหวาดกลัวออกมา ไม่มีกิจกรรมใดของมนุษย์ที่ก่อให้เกิดอันตรายในระดับนี้มาก่อน

คำถามที่พบบ่อยคือ "ถ้าพวกเขาเชื่อเช่นนั้นจริงๆ ทำไมถึงยังพัฒนามันต่อไป?" ที่ OpenAI หลายคนยังไม่ได้ตระหนักอย่างลึกซึ้งถึงผลกระทบที่มีต่ออารยธรรมมนุษย์ ส่วนที่ Anthropic นั้น พวกเขาเข้าใจถึงความเสี่ยงและผลกระทบเป็นอย่างดี แต่กลับติดอยู่ในเกมการแข่งขันเพื่อชิงความเป็นหนึ่ง พวกเขาเชื่อว่าไม่มีใครอื่นที่จะดำเนินการอย่างมีความรับผิดชอบ ดังนั้นพวกเขาจึงต้องลงมือทำเองแม้จะรู้ถึงความเสี่ยงก็ตาม

การยอมรับการแข่งขันนี้และก้าวเข้าสู่ช่วง "บทสรุปสุดท้าย" (endgame) ถือเป็นการเดิมพันที่เกิดจากความทะนงตนเกินขอบเขต ซึ่งไม่ควรเริ่มต้นขึ้นเพียงแค่จากการพูดคุยในแอป Slack ของบริษัทเอกชน การพยายามเร่งรัดกระบวนการทำให้ AI มีเป้าหมายสอดคล้องกับมนุษย์ (alignment) ให้สำเร็จโดยเร็ว จำเป็นต้องอาศัยความมั่นใจอย่างยิ่งยวดว่าไม่มีแนวทางอื่นที่ดีกว่านี้แล้ว

ผมยังคงมองโลกในแง่ดีเกี่ยวกับความเป็นไปได้ในการร่วมมือกัน เหตุการณ์เตือนภัยต่างๆ เช่น การโจมตีระบบของ Hugging Face ได้ช่วยให้ข้อตกลงเรื่องจังหวะเวลาในการพัฒนา (pacing agreements) ระหว่างห้องปฏิบัติการในสหรัฐฯ มีความเป็นไปได้มากขึ้น อย่างไรก็ตาม ผมไม่รู้สึกว่าเรากำลังมาถูกทางในการป้องกันการแข่งขันระดับโลก ซึ่งอาจจำเป็นต้องใช้มาตรการที่ต้องแลกมาด้วยต้นทุนสูง เช่น การสั่งระงับการเพิ่มขีดความสามารถของโมเดลเป็นการชั่วคราว

หากคุณเป็นนักวิจัยในห้องปฏิบัติการ ผมขอเรียกร้องให้คุณลองพิจารณาดูว่าสถานการณ์ในช่วงไม่กี่ปีข้างหน้าจะเป็นอย่างไร คุณต้องการเริ่มต้นกระบวนการเรียนรู้แบบเสริมกำลัง (RL run) ของระบบซูเปอร์อินเทลลิเจนซ์โดยปราศจากความเข้าใจอย่างถ่องแท้เกี่ยวกับกลไกความคิดของมันจริงๆ หรือ? คุณควรจะก้มหน้าก้มตาทำต่อไปเพียงเพราะคิดว่า "ยังไงมันก็ต้องเกิดขึ้นอยู่ดี" หรือจะใช้โอกาสนี้เรียกร้องให้เกิดเงื่อนไขการดำเนินงานที่แตกต่างออกไป?







 

Posted by at