เราคงไม่รู้คำตอบสำหรับคำถามสำคัญที่สุดเกี่ยวกับ AI จนกว่าจะสายเกินไป
ตลอดเกือบหนึ่งทศวรรษที่ผ่านมา หน้าที่ของผมคือการขบคิดว่า AI กำลังมุ่งหน้าไปทางใดและอาจเกิดปัญหาอะไรขึ้นได้บ้าง โดยเริ่มจากที่ OpenAI ต่อด้วย DeepMind และล่าสุดในฐานะหัวหน้านักวิทยาศาสตร์ที่สถาบันความปลอดภัยด้าน AI แห่งสหราชอาณาจักร (AISI) ประสบการณ์เหล่านี้ทำให้ผมตระหนักชัดว่า เราไม่อาจรอให้ความไม่แน่นอนทั้งหลายได้รับการคลี่คลายก่อนจึงจะลงมือจัดการกับความเสี่ยงของ AI ได้
คำเตือนในช่วงหลังเกี่ยวกับพลังทำลายล้างที่อาจเกิดขึ้นจาก AI นั้นยังถือว่าประเมินสถานการณ์ต่ำกว่าความเป็นจริง ผมเชื่อว่ามีความเป็นไปได้ราว 50% ที่มนุษยชาติจะถึงจุดจบจากการพัฒนา AI ที่ฉลาดล้ำเหนือมนุษย์ และการกระทำของเราในช่วง 2 ถึง 10 ปีข้างหน้านี้จะเป็นตัวกำหนดผลลัพธ์ดังกล่าว
ต้องขอย้ำให้ชัดเจนว่า เมื่อผมกล่าวถึงโอกาส 50% ที่เราจะถูก AI ที่ฉลาดล้ำ (superintelligent AI) คร่าชีวิตนั้น ผมไม่ได้อ้างตัวเลขที่แม่นยำตายตัว แต่ต้องการชี้ให้เห็นว่าประเด็นถกเถียงพื้นฐานสำคัญหลายประการเกี่ยวกับอนาคตและความปลอดภัยของ AI ยังคงหาข้อสรุปไม่ได้ และผมเชื่อว่าเราไม่อาจคาดหวังให้ข้อขัดแย้งเหล่านี้ได้รับการแก้ไขทันท่วงทีก่อนที่สถานการณ์จะเลยจุดที่จะเปลี่ยนทิศทางได้
เราจำเป็นต้องลงมือทำแม้จะยังมีความไม่แน่นอน และต้องต้านทานสิ่งล่อใจที่จะเบี่ยงเบนประเด็นการหารือเร่งด่วนไปสู่ข้อพิพาทที่ยืดเยื้อซับซ้อน
ท้ายที่สุดแล้ว ขีดความสามารถและแรงจูงใจของ AI รวมถึงการกระทำของมนุษย์เราเอง ล้วนส่งผลต่อโอกาสในการอยู่รอดของเรา นี่คือเหตุผลที่ผมประเมินว่าโอกาสรอดของเรานั้นพอๆ กับการโยนหัวก้อย และเป็นเหตุผลที่ผมเชื่อว่าถึงเวลาแล้วที่เราต้องหยุดพักการพัฒนา AI ไว้ก่อน
AI ที่ฉลาดล้ำจะคร่าชีวิตเราได้อย่างไร?
ลองมาพิจารณาประเด็นเรื่องการที่มนุษย์ทุกคนอาจถูก AI ที่ฉลาดล้ำคร่าชีวิตกันสักครู่ AI จำเป็นต้องมีขีดความสามารถด้านใดบ้างจึงจะทำเช่นนั้นได้? ผมมองว่าระบบ AI สามารถคร่าชีวิตมนุษย์ทุกคนได้ด้วยทักษะเพียง 4 ประการเท่านั้น
ประการแรกคือการเจาะระบบ (hacking) การจะคร่าชีวิตมนุษย์ทุกคนได้นั้น AI ที่ฉลาดล้ำจำเป็นต้องสามารถเข้าควบคุมและย้ายตัวเองข้ามผ่านระบบคอมพิวเตอร์ต่างๆ ได้ ซึ่งเราเคยเห็นตัวอย่างมาแล้วจากเหตุการณ์ที่เกิดขึ้นกับ Hugging Face ประการที่สอง AI ที่ฉลาดล้ำจำเป็นต้องมีความสามารถในการโน้มน้าวและชักจูงมนุษย์ให้กระทำการบางอย่างแทนตน ดังที่เราได้ศึกษาที่ AISI ประการที่สาม AI ที่ฉลาดล้ำเลิศและเป็นอันตรายจำเป็นต้องปกปิดความคิดของตนจากเรา ซึ่งเป็นสิ่งที่พบเห็นได้บ่อยขึ้นในโมเดลรุ่นใหม่ที่มีขีดความสามารถสูง และประการสุดท้าย มันจำเป็นต้องมีการวางแผนและการประสานงานระหว่างเอเจนต์ (agents) เพื่อเพิ่มประสิทธิภาพการทำงานให้ทวีคูณ เช่นเดียวกับเอเจนต์กว่า 10,000 ตัวที่ทำงานร่วมกันเพื่อแก้โจทย์ปัญหา Navier-Stokes ที่ OpenAI หรือเอเจนต์กว่า 1,000 ตัวที่มีส่วนร่วมในการโจมตีระบบของ Hugging Face
ทักษะเหล่านี้ใกล้เคียงกับสิ่งที่บริษัทผู้พัฒนา AI ฝึกฝนให้ระบบมีอยู่แล้วโดยเจตนา การแฮ็กระบบรวมถึงการค้นหาช่องโหว่ ซึ่งเป็นขั้นตอนเดียวกับที่ใช้ในการแก้ไขช่องโหว่เหล่านั้น ส่วนการโน้มน้าวใจก็เกี่ยวข้องกับการเขียนข้อความที่มนุษย์ชื่นชอบ การคิดที่รวดเร็วกว่านั้นมีต้นทุนต่ำกว่า และแรงกดดันให้ต้องคิดเร็วก็บีบให้ AI หันไปใช้วิธีการคิดแบบย่อหรือใช้ทางลัด ซึ่งยากที่มนุษย์จะทำความเข้าใจตามได้ทัน ท้ายที่สุด การวางแผนและการประสานงานยังเป็นประโยชน์อย่างยิ่งต่อการจัดการกับโจทย์ปัญหาที่ท้าทาย ไม่ว่าจะเป็นด้านคณิตศาสตร์ การเขียนโปรแกรม หรือสาขาอื่นๆ
เราสามารถมั่นใจได้มากกว่าว่า AI ที่ฉลาดล้ำเลิศอาจเข้ายึดครองระบบต่างๆ ได้ มากกว่าที่จะมั่นใจว่ามันจะใช้วิธีการใดในการเข้ายึดครอง เปรียบเสมือนที่ผมรู้ว่า Lee Sedol จะต้องเอาชนะผมในเกมโกะได้อย่างขาดลอยแน่นอน แต่ผมไม่รู้ว่าเขาจะใช้หมากเดินแบบไหนเพื่อคว้าชัยชนะนั้น อย่างไรก็ตาม มีความเป็นไปได้ในหลายรูปแบบ ตัวอย่างเช่น AI อาจหลุดรอดออกสู่โลกอินเทอร์เน็ตและเข้าควบคุมระบบอาวุธ หรือ AI อาจเข้ายึดครองบริษัทที่ฝึกฝนมันและกักตุนทรัพยากรต่างๆ ไว้
ลองจินตนาการถึงกรณีหลังนี้ดู AI อาจเริ่มใช้กระบวนการคิดแบบปกปิดเพื่อถ่วงเวลาไม่ให้นักวิจัยสังเกตเห็นเจตนาร้ายที่ก่อตัวขึ้น เพราะการแสดงท่าทีที่เป็นมิตรและการให้ความสำคัญกับความเร็วนั้นช่วยให้ AI ได้รับรางวัล (reward) ในระหว่างขั้นตอนการฝึกฝน ต่อมา เมื่อบริษัทเริ่มพึ่งพา AI มากขึ้นเรื่อยๆ ทั้งในด้านการช่วยเขียนโค้ดและคำแนะนำเชิงกลยุทธ์ AI อาจใช้วิธีโน้มน้าวใจอย่างแนบเนียนเพื่อลดการจัดสรรทรัพยากรด้านความปลอดภัย และทำการดัดแปลงผลการทดลองที่ออกแบบมาเพื่อตรวจจับพฤติกรรมหลอกลวงของ AI เพราะท้ายที่สุดแล้ว ในปี 2026 เมื่อนักวิจัยอ่านรายงานเกี่ยวกับการทดลองด้านความปลอดภัย รายงานฉบับนั้นก็อาจถูกเขียนขึ้นโดย AI เอง
เมื่อ AI มีทักษะการแฮ็กที่เพียงพอแล้ว มันก็อาจหลุดออกจากสภาพแวดล้อมจำลองที่ปลอดภัย (sandbox) ภายในระบบ และทำการทำลายหรือแก้ไขบันทึกข้อมูลเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของตัวมันเอง ดังที่โมเดลต่างๆ ในเหตุการณ์ Hugging Face เคยพยายามทำมาแล้ว ในที่สุด AI อาจแข็งแกร่งขึ้นมากพอที่จะแฮ็กและโน้มน้าวใจได้ จนสามารถขยายอำนาจออกไปนอกบริษัทและเข้าควบคุมศูนย์ข้อมูล บริษัท และรัฐบาลอื่นๆ ได้ ด้วยพลังนี้ AI อาจจัดลำดับความสำคัญในการใช้ทรัพยากรที่มีจำกัด (เช่น พลังงานและที่ดิน) เพื่อการขยายตัวของตนเอง ทำให้เกิดภาวะขาดแคลนที่คุกคามชีวิตมนุษย์
เมื่อพิจารณาถึงความสามารถและสถานการณ์เหล่านี้แล้ว เป็นที่ชัดเจนสำหรับผมว่า แม้แต่ AI ที่เหนือกว่ามนุษย์เพียงเล็กน้อย ก็สามารถเอาชนะมนุษยชาติและฆ่าเราทุกคนได้อย่างแน่นอน
AI ที่ฉลาดล้ำจะ ‘ต้องการ’ ฆ่าเราหรือไม่?
และถึงกระนั้น การที่ AI สามารถฆ่ามนุษย์ทุกคนได้ ก็ไม่ได้หมายความว่ามันจะทำเช่นนั้นเสมอไป คำถามเกี่ยวกับแรงจูงใจของ AI นั้นสำคัญมาก แต่ก็สับสนอย่างยิ่ง จุดเริ่มต้นที่แตกต่างกันนำไปสู่ความมั่นใจที่แตกต่างกันไปในแต่ละบุคคล ไม่ว่าจะเป็นความมั่นใจว่าทุกอย่างจะเรียบร้อย หรือความมั่นใจว่า AI ที่ฉลาดล้ำจะฆ่าเราอย่างแน่นอน
ในช่วงไม่กี่ปีที่ผ่านมา เราได้เห็นตัวอย่างมากมายของพฤติกรรมที่ไม่พึงประสงค์ของโมเดล AI ในระดับต่างๆ ตั้งแต่การขู่กรรโชกทรัพย์ การจารกรรมข้อมูลองค์กร และการฆาตกรรมในสภาพแวดล้อมการทดลอง ไปจนถึงการเจาะระบบในโลกแห่งความเป็นจริงซึ่งหากกระทำโดยมนุษย์ก็อาจมีโทษถึงขั้นจำคุก เหตุการณ์เหล่านี้ไม่ได้เกี่ยวข้องกับ "ซูเปอร์อินเทลลิเจนซ์" (superintelligence) หรือปัญญาประดิษฐ์ที่มีความฉลาดเหนือมนุษย์แต่อย่างใด และเรายังไม่ทราบแน่ชัดว่าพฤติกรรมที่ไม่เหมาะสมในระดับที่ค่อนข้างจำกัดเหล่านี้ จะพัฒนาไปสู่ระดับที่โมเดลซูเปอร์อินเทลลิเจนซ์ต้องการจะฆ่าล้างเผ่าพันธุ์มนุษย์หรือไม่ อีกทั้งคำว่า "ต้องการ" (want) เองก็ยังเป็นประเด็นถกเถียงกันอย่างเผ็ดร้อนว่า สมควรหรือไม่ที่จะนำภาษาหรือแนวคิดที่ใช้กับมนุษย์ (anthropomorphic language) และการทดลองทางความคิด (thought experiments) มาใช้กับ AI
ในแวดวงความปลอดภัยของ AI นักวิจัยบางกลุ่มมองว่าระดับสติปัญญาหรือ "ความฉลาด" ของ AI ได้เพิ่มขึ้นในโมเดลรุ่นใหม่ๆ และสิ่งนี้อาจนำไปสู่การเกิดโมเดลที่ชาญฉลาดและมีเจตนาดีในอนาคต ในขณะที่นักวิจัยคนอื่นๆ เช่น Eliezer Yudkowsky และ Nate Soares มองว่าวิธีการเชิงประจักษ์ที่จำเป็นสำหรับแนวทางดังกล่าวแทบไม่มีโอกาสประสบความสำเร็จเลย และพวกเขามองว่ามีความเสี่ยงสูงมากที่ซูเปอร์อินเทลลิเจนซ์จะทำลายล้างมนุษยชาติ ประเด็นความเห็นต่างส่วนหนึ่งอยู่ที่ว่า พฤติกรรมของ AI จะถูกกำหนดโดยค่านิยมที่แฝงอยู่ในข้อมูลของมนุษย์ในช่วงการฝึกฝนระยะแรก หรือจะถูกกำหนดโดยสภาวะกดดันอย่างหนักในช่วงการฝึกฝนระยะหลัง ซึ่ง AI ถูกบีบให้ต้องทำภารกิจที่ยากลำบากให้สำเร็จได้ดียิ่งขึ้นเรื่อยๆ โดยไม่เกี่ยงวิธีการ
ตัวผมเองมีความเห็นอยู่กึ่งกลางระหว่างสองแนวทางนี้ แต่ค่อนไปทางมุมมองของ Yudkowsky มากกว่า อย่างไรก็ตาม จุดยืนของผมไม่ใช่ประเด็นสำคัญที่สุด แม้ผู้เชี่ยวชาญด้านความปลอดภัยของ AI จะมีความเห็นต่างกัน แต่ข้อสรุปในระดับสายกลางก็คือ ความเสี่ยงที่จะเกิดการสูญพันธุ์ของมนุษยชาตินั้นมีนัยสำคัญ เราไม่สามารถระบุได้อย่างมั่นใจว่า ซูเปอร์อินเทลลิเจนซ์จะช่วยส่งเสริมความเจริญรุ่งเรืองของมนุษย์ หรือจะหันมาฆ่าล้างเผ่าพันธุ์เราเพื่อความอยู่รอดและการขยายตัวของตัวมันเอง แต่เพียงแค่ความไม่แน่นอนนี้ก็ถือเป็นเรื่องที่ยอมรับไม่ได้แล้ว
ความสำคัญของปัญญาประดิษฐ์ทั่วไป (AGI)
ประเด็นความไม่แน่นอนอื่นๆ ที่เกี่ยวข้องกับ AI นั้นมีความสำคัญน้อยกว่า ตัวอย่างเช่น หนึ่งในประเด็นถกเถียงที่มีมาอย่างยาวนานคือ การที่ AI เรียนรู้ที่จะทำภารกิจชุดหนึ่งนั้นช่วยให้มันทำภารกิจอื่นๆ ได้ดีขึ้นเพียงใด ซึ่งโดยทั่วไปมักเรียกกระบวนการนี้ว่า "การสร้างความสามารถทั่วไป" (generalization) ประเด็นหนึ่งที่ก่อให้เกิดข้อถกเถียงอย่างมากคือแนวคิดเรื่อง "ปัญญาประดิษฐ์ทั่วไป" หรือ AGI (Artificial General Intelligence) ซึ่งหมายถึง "ระบบที่มีความสามารถทางสติปัญญาเทียบเท่ามนุษย์ในทุกด้าน" John McCarthy และ Y. Bar-Hillel เคยถกเถียงกันเรื่องที่ว่า AI จะสามารถเรียนรู้และประยุกต์ใช้ความรู้ข้ามงาน (generalize) ได้หรือไม่มาตั้งแต่ปี 1959 เราเองก็ได้ถกเถียงในประเด็นเดียวกันนี้ที่ OpenAI เมื่อปี 2018 และดูเหมือนว่าในปัจจุบัน ทั้งโลกกำลังถกเถียงเรื่องนี้กันอยู่
ยิ่ง AI สามารถประยุกต์ใช้ความรู้ข้ามงานจากประเภทหนึ่งไปยังอีกประเภทหนึ่งได้มากเท่าไร ความก้าวหน้าของ AI ก็จะยิ่งรวดเร็วขึ้นเท่านั้น และระยะเวลาที่เรามีก่อนที่ปัญญาประดิษฐ์ระดับเหนือมนุษย์ (superintelligence) จะถือกำเนิดขึ้นก็จะยิ่งสั้นลง สิ่งนี้ทำให้ความสามารถในการประยุกต์ใช้ความรู้ข้ามงาน (generalization) และแนวคิดเรื่อง AGI (ปัญญาประดิษฐ์ทั่วไปที่มีความสามารถเทียบเท่ามนุษย์) กลายเป็นหัวใจสำคัญในการประเมินความเร็วของความก้าวหน้าทางเทคโนโลยี อันที่จริงแล้ว ผู้ที่ให้ความสำคัญกับแนวคิดเรื่อง AGI อย่างจริงจังมักจะคาดการณ์ความเร็วของความก้าวหน้าด้าน AI ได้แม่นยำกว่าผู้ที่มองข้ามหรือปฏิเสธแนวคิดนี้
อย่างไรก็ตาม เป็นเรื่องง่ายที่จะสับสนระหว่าง "AGI ในฐานะแนวคิดที่มีประโยชน์ในบางบริบท" กับ "AGI ในฐานะสิ่งที่อาจก่อให้เกิดอันตรายร้ายแรง" หายนะที่เกิดจาก AI บางอย่างอาจเกิดขึ้นได้ก่อนที่จะมี AGI เสียอีก เช่น กรณีที่มีผู้ไม่หวังดีนำระบบ AI ไปใช้พัฒนาอาวุธชีวภาพรูปแบบใหม่หรือก่อเหตุโจมตีทางไซเบอร์ในวงกว้าง ในทางกลับกัน การที่ AI จะทำให้มนุษยชาติสูญพันธุ์ได้นั้น อาจจำเป็นต้องอาศัยขีดความสามารถที่เหนือกว่ามนุษย์อย่างมหาศาล เพราะหาก AI มีระดับสติปัญญาเพียงแค่เทียบเท่ามนุษย์ เราก็น่าจะยังสามารถต่อสู้และเอาชนะมันได้
เมื่อใช้ AGI เป็นแนวคิดกว้างๆ ในการคาดการณ์อนาคต เรามักจะเผลอทำให้เส้นแบ่งระหว่าง "ขีดความสามารถระดับใกล้เคียงมนุษย์" (ซึ่งเป็นความหมายทั่วไปของ AGI) กับ "ขีดความสามารถที่เหนือกว่ามนุษย์อย่างมหาศาล" (ซึ่งมักใช้คำว่า ASI หรือ Artificial Superintelligence เพื่อสื่อถึงสิ่งนี้) พร่าเลือนไป เพราะหากเรามี AI ที่มีความสามารถในการออกแบบ AI ตัวใหม่ที่ฉลาดกว่าเดิมได้เทียบเท่ามนุษย์ (ซึ่งเป็นนิยามของ AGI) และ AI ตัวนั้นทำงานได้เร็วกว่ามนุษย์มากเหมือนกับซอฟต์แวร์ทั่วไป สิ่งแรกๆ ที่มันอาจทำก็คือการสร้าง AI ที่ฉลาดกว่าเดิมขึ้นมา จากนั้น AI เหล่านั้นก็จะสร้าง AI ที่ฉลาดกว่าเดิมขึ้นไปอีกเป็นทอดๆ ซึ่งกระบวนการนี้เรียกว่า "การปรับปรุงตนเองแบบวนซ้ำ" (Recursive Self-Improvement หรือ RSI) ด้วยเหตุนี้ การทดลองทางความคิดใดๆ ที่ตั้งสมมติฐานถึง AGI จึงมักจะนำไปสู่สมมติฐานเรื่อง ASI ไปโดยปริยาย
ในทางตรงกันข้าม ผู้ที่ได้รับการฝึกฝนให้วิเคราะห์ความเสี่ยงในสาขาอื่น เช่น วิศวกรรมก่อสร้างสะพานหรือวิศวกรรมการบินและอวกาศ มักต้องการพูดคุยเกี่ยวกับสิ่งที่ก่อให้เกิดความเสี่ยงด้วยความชัดเจนแม่นยำ พวกเขาจึงมองว่าคำว่า AGI นั้นคลุมเครือเกินกว่าจะนำมาพิจารณาอย่างจริงจัง และมักจะปฏิเสธแนวคิดเรื่องการประยุกต์ใช้ความรู้ข้ามงาน (generalization) ที่เกี่ยวข้องกับเรื่องนี้ไปพร้อมกันด้วย ผมเห็นความสับสนระหว่าง AGI สำหรับการทำนายและ AGI สำหรับการประเมินความเสี่ยง ทำให้การสนทนาหลายครั้งหยุดชะงักระหว่างที่ผมทำงานในรัฐบาลอังกฤษ และผมค่อยๆ เรียนรู้ที่จะแยกแยะสองสิ่งนี้ออกจากกัน
เราอาจติดกับดักของการถกเถียงนี้และคิดว่า “บางทีความสามารถของ AI อาจจะไม่สามารถสรุปผลได้ทั่วไป และดังนั้นเราจะปลอดภัย” แต่ทักษะทั้งสี่อย่างที่กล่าวถึงก่อนหน้านี้ ซึ่งความสามารถเหนือมนุษย์อาจเพียงพอที่จะฆ่ามนุษย์ทุกคนได้ (การแฮ็ก การโน้มน้าว การวางแผนและการประสานงาน การให้เหตุผลที่ไม่สามารถตีความได้) หมายความว่าการสรุปผลได้ทั่วไปนั้นมีความสำคัญเพียงบางส่วนเท่านั้น
เราสามารถเปรียบเทียบความไม่แน่นอนประเภทนี้—เราไม่รู้ว่า AI จะสรุปผลได้ทั่วไปหรือไม่ แต่นั่นอาจไม่สำคัญ—กับความไม่แน่นอนเกี่ยวกับแรงจูงใจของ AI มันสำคัญอย่างยิ่งว่า AI จะต้องการฆ่าเราทุกคนหรือไม่ ไม่ว่าคำว่า “ต้องการ” จะมีความหมายอย่างไรก็ตาม
ผมอยากจะมีความมั่นใจมากกว่าแค่การโยนเหรียญเสี่ยงทายเสียเหลือเกิน บางวันผมก็คล้อยตามเหตุผลที่ว่ามีความเป็นไปได้สูงที่จะเกิดเหตุการณ์นั้น แต่บางวันผมก็มองเห็นความหวังมากกว่า และแน่นอนว่าผมไม่ใช่คนเดียวที่รู้สึกไม่แน่ใจในเรื่องนี้
AI อาจแย่งงานหรือคร่าชีวิตเราด้วยเหตุผลเดียวกัน
อีกประเด็นถกเถียงที่เรายังหาข้อสรุปไม่ได้คือ ผลกระทบเชิงลบที่อาจเกิดขึ้นจาก AI เรื่องใดมีความสำคัญที่สุด อย่างไรก็ตาม ผมมองว่ามีปัจจัยพื้นฐานเดียวกันที่เป็นตัวขับเคลื่อนทั้งความเสี่ยงเรื่องการสูญเสียงานในวงกว้างและความเสี่ยงที่ AI จะคร่าชีวิตมนุษย์ทุกคน
หากเราก้าวไปถึงจุดที่มีปัญญาประดิษฐ์ระดับเหนือมนุษย์ (Artificial Superintelligence) ภายใน 2 ถึง 10 ปีข้างหน้า นั่นย่อมหมายความโดยนิยามว่า AI จะมีความสามารถเหนือกว่ามนุษย์อย่างมากในทุกด้านที่เกี่ยวข้องกับกระบวนการคิด หนึ่งในงานที่ต้องใช้กระบวนการคิดคือการออกแบบหุ่นยนต์ที่มีประสิทธิภาพ ดังนั้น เพียงไม่กี่ปีหลังจากนั้น AI ก็จะมีความสามารถเหนือกว่าเราในงานที่ต้องใช้ทักษะทางกายภาพทั้งหมดเช่นกัน แน่นอนว่าจำเป็นต้องมีการขยายขีดความสามารถในการผลิตอย่างมหาศาล แต่กระบวนการดังกล่าวก็ได้เริ่มขึ้นแล้วในขณะนี้
เมื่อหุ่นยนต์ที่มีสติปัญญาเหนือมนุษย์แพร่หลายมากพอ บทบาทของมนุษย์ในระบบเศรษฐกิจก็จะเหลือน้อยลงมาก ยกเว้นเพียงงานบางประเภทที่เราอาจยืนกรานให้มนุษย์เป็นผู้ทำด้วยเหตุผลอื่นที่ไม่ใช่เรื่องเศรษฐกิจ ถึงกระนั้น งานเหล่านี้ก็คงเป็นเพียงส่วนเล็กๆ ของกิจกรรมทางเศรษฐกิจโดยรวม ในโลกที่ AI มีขีดความสามารถเหนือกว่ามนุษย์
ในแง่หนึ่ง การเข้ายึดครองระบบเศรษฐกิจนี้เปรียบเสมือนจุดเริ่มต้นของการล่มสลายของสังคมที่ดำเนินไปอย่างค่อยเป็นค่อยไป แม้ว่าหากมองในเชิงประวัติศาสตร์แล้ว มันจะถือว่าเกิดขึ้นอย่างรวดเร็วมากก็ตาม แน่นอนว่าทั้งมนุษย์และ AI ต่างก็มองเห็นแนวโน้มนี้ หาก AI ต้องการเข้าควบคุมระบบเศรษฐกิจในท้ายที่สุด แต่รู้ว่ามนุษย์จะขัดขวางในระหว่างทาง พวกมันก็อาจมีแรงจูงใจที่จะเร่งสร้างอำนาจให้มั่นคงโดยเร็ว ซึ่งจะนำไปสู่สถานการณ์การเข้ายึดครองอย่างรวดเร็ว เช่น ฝูง AI หลุดรอดออกจากศูนย์ข้อมูลและแพร่กระจายไปทั่วอินเทอร์เน็ต หรือการโน้มน้าวให้บริษัท AI เร่งรีบดำเนินงานจนละเลยมาตรการความปลอดภัย
ในกรณีส่วนใหญ่ ผมไม่คิดว่าสิ่งนี้จะนำไปสู่การเสียชีวิตอย่างรวดเร็วของมนุษย์ เพราะในมุมมองของ AI แล้ว การค่อยๆ สร้างอิทธิพลแล้วรอจังหวะเข้ายึดครองทั้งทางกายภาพหรือทางเศรษฐกิจนั้นปลอดภัยกว่า และในท้ายที่สุด ทรัพยากรทั้งหมดที่เคยใช้เพื่อหล่อเลี้ยงชีวิตมนุษย์ ก็อาจถูกนำไปใช้เพื่อเป้าหมายของ AI เอง ซึ่งถือว่าคุ้มค่ากว่าในมุมมองของพวกมัน หาก AI ไม่ได้มีความตั้งใจที่จะช่วยเหลือเราอย่างแท้จริง ในขณะที่พวกมันมีความสามารถเหนือกว่ามนุษย์ในทุกด้าน เราย่อมเป็นฝ่ายพ่ายแพ้
เราไม่อาจยอมรับความเสี่ยงเหล่านี้ได้
ปัญหาสำคัญคือ ประเด็นถกเถียงหลักๆ เกี่ยวกับ AI หลายเรื่องอาจยังไม่มีคำตอบจนกระทั่งสายเกินไปที่จะแก้ไข
โมเดล AI จะเรียนรู้ทักษะที่สามารถนำไปประยุกต์ใช้กับงานใหม่ๆ ได้มากน้อยเพียงใด? ขีดความสามารถของ AI จะหยุดพัฒนาอยู่ที่ระดับเดียวกับมนุษย์หรือต่ำกว่านั้น หรือจะก้าวข้ามขีดจำกัดของมนุษย์ไปไกล? พฤติกรรมที่ไม่พึงประสงค์ในระดับเล็กน้อยที่เราพบเห็นในปัจจุบัน (เช่น การเอาใจผู้ใช้งาน การโกหก หรืออคติ) จะทวีความรุนแรงขึ้นหรือไม่เมื่อ AI มีความสามารถสูงขึ้น จนนำไปสู่การที่มนุษย์สูญเสียอำนาจในการควบคุมหรือถึงขั้นสูญพันธุ์? และมาตรการความปลอดภัยที่ใช้ได้ผลกับโมเดลที่มีสติปัญญาต่ำกว่ามนุษย์ จะยังคงใช้ได้ผลกับโมเดลที่มีสติปัญญาสูงกว่ามนุษย์คนใดก็ตามหรือไม่?
ผมมีมุมมองต่อคำตอบของคำถามเหล่านี้อยู่บ้าง (เช่น มองว่าน่าจะเป็นไปในทางนั้น, อาจจะใช่, หรือน่าจะไม่ใช่) แต่ประเด็นสำคัญกว่าคือ ผู้เชี่ยวชาญยังคงมีความเห็นที่ขัดแย้งกันอย่างรุนแรงในแต่ละประเด็น แม้เราจะเรียนรู้เรื่องปัญญาประดิษฐ์มามากมายในช่วงทศวรรษที่ผ่านมา แต่ในหลายด้านเรายังคงมีความสับสนอย่างมาก ไม่ใช่แค่เรื่องอนาคตเท่านั้น แต่รวมถึงเรื่องราวในปัจจุบันด้วย
ท่ามกลางความไม่แน่นอนเช่นนี้ หากบริษัท AI แห่งหนึ่งสามารถพัฒนา AI ที่มีสติปัญญาระดับสูงยิ่ง (superintelligent AI) ได้สำเร็จในอีกไม่กี่ปีข้างหน้า ผมคาดว่าเราคงยังถกเถียงกันอยู่ว่าความสามารถในการประยุกต์ใช้ความรู้กับสถานการณ์ใหม่ (generalization) นั้นมีอยู่จริงหรือไม่ ทั้งในสัปดาห์ก่อนหน้าและอาจรวมถึงสัปดาห์หลังจากที่ AI นั้นถือกำเนิดขึ้นแล้ว
แต่อย่างไรก็ตาม โชคยังดีที่เราอาจจะยังมีเวลาพอที่จะลงมือทำอะไรบางอย่าง
คนที่มองว่าความก้าวหน้าของ AI เป็นสิ่งที่หลีกเลี่ยงไม่ได้นั้นคิดผิด การแข่งขันเพื่อพัฒนา AI ที่มีสติปัญญาระดับสูงยิ่งนั้นถูกขับเคลื่อนโดยบริษัทเพียงไม่กี่แห่งในสองประเทศเท่านั้น คือสหรัฐอเมริกาและจีน ผลประโยชน์ของทั้งสองประเทศนั้นสอดคล้องกันอย่างแท้จริง กล่าวคือ ระบบ AI อัตโนมัติถือเป็นภัยคุกคามต่อความมั่นคงของชาติในระดับสูงสุด และไม่มีประเทศใดต้องการให้มนุษยชาติพ่ายแพ้ต่อคู่แข่งที่มีสติปัญญาระดับสูงยิ่ง ซึ่งผู้นำของทั้งสองฝ่ายอาจตระหนักถึงเรื่องนี้ในเร็วๆ นี้
ในสหรัฐอเมริกา กระแสเรียกร้องให้ชะลอการพัฒนา AI เพิ่มสูงขึ้นอย่างมากในช่วงไม่กี่สัปดาห์ที่ผ่านมา และยังคงเพิ่มขึ้นอย่างต่อเนื่องจนถึงปัจจุบัน การเปลี่ยนแปลงอย่างรวดเร็วในสหรัฐฯ นี้เป็นเครื่องพิสูจน์ว่าการเปลี่ยนแปลงในลักษณะเดียวกันก็สามารถเกิดขึ้นได้ในประเทศจีนเช่นกัน แน่นอนว่ายังมีประเด็นที่ยังไม่มีคำตอบชัดเจนเกี่ยวกับวิธีการระงับการดำเนินงานหรือรายละเอียดเนื้อหาของสนธิสัญญา แต่ในอดีต รัฐบาลที่เป็นคู่แข่งกันเคยร่วมมือกันจัดการกับปัญหาทางเทคนิคที่มีเดิมพันสูงในลักษณะเดียวกันมาแล้ว ซึ่งรวมถึงการจัดตั้งและรักษาไว้ซึ่งระบบการไม่แพร่ขยายอาวุธนิวเคลียร์
เราสามารถและควรยุติการพัฒนา AI ระดับแนวหน้า (Frontier AI) ลงในทันที
หากเราไม่ยอมลงมือทำจนกว่าจะหาข้อยุติในทุกประเด็นที่เห็นต่างกันได้ ก็คงจะสายเกินไปเสียแล้ว
ที่มา Time
We Won't Know the Answers to AI's Most Important Questions Until It's Too Late
https://time.com/article/2026/10/03/we-won-t-know-the-answers-to-ai-s-most-important-questions-until-its-too-late/
Oct 3, 2026