วันศุกร์, มิถุนายน 05, 2569

การกระจุกตัวของอำนาจและความมั่งคั่งในกลุ่มผู้เชี่ยวชาญด้าน AI เพียงไม่กี่คน เสี่ยงที่จะทำให้เกิดกระแสต่อต้านทางการเมือง ที่เริ่มสร้างความกังวลให้กับวอชิงตันมากขึ้น อเมริกากำลังตื่นตัวต่อพลังอันตรายของ "เทพเจ้า AI"








https://x.com/TheEconomist/status/2062562575703760951

จาก Gemini 

นิตยสาร The Economist
@TheEconomist
·3 ชั่วโมงที่แล้ว

การกระจุกตัวของอำนาจและความมั่งคั่งในกลุ่มผู้เชี่ยวชาญด้าน AI เพียงไม่กี่คนนั้น เสี่ยงที่จะทำให้เกิดกระแสต่อต้านทางการเมืองที่เริ่มสร้างความกังวลให้กับวอชิงตันมากขึ้น

อเมริกาตื่นตัวต่อพลังอันตรายของ AI

หลังจาก Mythos แนวทางแบบปล่อยให้เป็นไปตามธรรมชาติ (laissez-faire) ไม่สามารถใช้ได้อีกต่อไปทั้งในทางการเมืองและในเชิงกลยุทธ์

ทวีตนี้อ้างถึงจุดเปลี่ยนสำคัญในภาคเทคโนโลยี ซึ่งมักถูกเรียกว่า "ช่วงเวลา Mythos" มันแสดงให้เห็นถึงการเปลี่ยนแปลงอย่างลึกซึ้งในมุมมองของวอชิงตันและประชาคมโลกที่มีต่อการควบคุมปัญญาประดิษฐ์ขั้นสูง

นี่คือรายละเอียดสิ่งที่ The Economist เน้นย้ำและเหตุผลที่ยุค "laissez-faire" (ไม่แทรกแซง) ของการกำกับดูแล AI ได้สิ้นสุดลงอย่างมีประสิทธิภาพ

1. "ช่วงเวลา Mythos" คืออะไร?

ตัวเร่งปฏิกิริยาสำหรับการเปลี่ยนแปลงนี้คือการใช้งานโมเดลขั้นสูงของ Anthropic ที่ชื่อ Claude Mythos (และ Preview ในเวลาต่อมา) แตกต่างจากโมเดล AI รุ่นก่อนๆ ที่ส่วนใหญ่สร้างข้อความหรือโค้ดช่วยเหลือ Mythos แสดงให้เห็นถึงความสามารถที่ไม่เคยมีมาก่อนในการระบุและใช้ประโยชน์จากช่องโหว่ซอฟต์แวร์ "zero-day" ที่สำคัญอย่างยิ่งในระบบปฏิบัติการและเว็บเบราว์เซอร์หลักๆ

เนื่องจากซอฟต์แวร์พิสูจน์แล้วว่ามีประสิทธิภาพสูงในการเปิดเผยจุดอ่อนด้านความปลอดภัยทางไซเบอร์ Anthropic จึงตัดสินใจครั้งสำคัญที่จะไม่ปล่อยให้สาธารณชนใช้งาน โดยเกรงว่าหากถูกผู้ไม่ประสงค์ดีนำไปใช้เป็นอาวุธ อาจทำให้การโจมตีทางไซเบอร์ทั่วโลกทวีความรุนแรงขึ้น

2. การเปลี่ยนไปใช้ "Project Glasswing"

แทนที่จะปล่อยให้สาธารณชนใช้งานตามปกติ Anthropic ได้ล็อกโมเดลไว้และสร้าง Project Glasswing ขึ้นมา

กลยุทธ์: พวกเขาให้สิทธิ์การเข้าถึงแบบจำกัดแก่กลุ่มองค์กรที่เชื่อถือได้ประมาณ 50 แห่ง (ปัจจุบันขยายเป็นประมาณ 150 แห่ง) ซึ่งส่วนใหญ่เป็นธนาคารขนาดใหญ่ในสหรัฐฯ ผู้ให้บริการโครงสร้างพื้นฐานที่สำคัญ และบริษัทยักษ์ใหญ่ด้านเทคโนโลยี เพื่อสแกนและแก้ไขโค้ดของตนเอง

ผลลัพธ์: ภายในไม่กี่สัปดาห์ โมเดลนี้สามารถเปิดเผยช่องโหว่ด้านความปลอดภัยระดับสูงและวิกฤตกว่า 10,000 รายการในโครงสร้างพื้นฐานที่สำคัญได้สำเร็จ

3. เหตุใดแนวทาง "ปล่อยให้เป็นไปตามกลไกตลาด" ของวอชิงตันจึงหมดอายุลง

พลังอันมหาศาลของ Mythos ทำให้ผู้กำหนดนโยบายเห็นชัดเจนว่า การปล่อยให้การพัฒนา AI เป็นไปตามกลไกตลาดอย่างสมบูรณ์นั้นไม่สามารถทำได้ในเชิงกลยุทธ์อีกต่อไป ซึ่งนำไปสู่การดำเนินการเชิงนโยบายที่สำคัญ:

คำสั่งบริหารของทำเนียบขาว: ประธานาธิบดีทรัมป์ลงนามในคำสั่งบริหารที่สำคัญเกี่ยวกับ AI และความปลอดภัยทางไซเบอร์ คำสั่งดังกล่าวได้กำหนดให้มีการทดสอบก่อนการใช้งานโดยสมัครใจเป็นเวลา 30 วัน ซึ่งอนุญาตให้รัฐบาลกลาง (ผ่านหน่วยงานต่างๆ เช่น NSA และ CISA) ประเมินแบบจำลองล้ำสมัยสำหรับความมั่นคงแห่งชาติที่สำคัญและความเสี่ยงทางไซเบอร์ ก่อนที่จะนำไปใช้งานหรือแบ่งปัน

มาตรการป้องกันทางภูมิรัฐศาสตร์: ความวิตกกังวลเกี่ยวกับความสามารถทางไซเบอร์แบบอัตโนมัติเหล่านี้ยังนำไปสู่การเปิดการเจรจาด้านความปลอดภัยของ AI ระหว่างสหรัฐฯ และจีนอีกครั้ง

4. ความเสี่ยงของ "เทพเจ้า AI"

คำเตือนหลักในบทความของ The Economist คืออันตรายทางสังคม เศรษฐกิจ และการเมืองของวิธีการจัดการวิกฤตนี้

ภาวะกลืนไม่เข้าคายไม่ออก: หากแบบจำลอง AI ล้ำสมัยเป็นอันตรายเกินไปสำหรับสาธารณชน พวกมันก็จะถูกจำกัดไว้เฉพาะกลุ่มชนชั้นสูงของบริษัทเทคโนโลยีขนาดใหญ่ที่มีมูลค่าหลายพันล้านดอลลาร์ สถาบันการเงินขนาดใหญ่ และหน่วยงานด้านการป้องกันประเทศของรัฐบาล

การเก็บเครื่องมือขั้นสูงเหล่านี้ไว้ในมือของ "เทพเจ้า AI" เพียงไม่กี่คน วอชิงตันเสี่ยงที่จะสร้างเศรษฐกิจเทคโนโลยีสองระดับที่ไม่เท่าเทียมกันอย่างชัดเจน การกระจุกตัวของความมั่งคั่งและอำนาจต่อรองทางเทคโนโลยีมหาศาลนี้เองที่เป็นสาเหตุให้เกิดปฏิกิริยาต่อต้านทางการเมืองอย่างรุนแรง ตั้งแต่ความวิตกกังวลของประชาชนเกี่ยวกับการทดแทนงานด้วยระบบอัตโนมัติ ไปจนถึงการประท้วงทางการเมืองในระดับท้องถิ่นต่อการขยายตัวอย่างรวดเร็วของศูนย์ข้อมูล AI ที่ใช้ทรัพยากรจำนวนมาก

ความท้าทายที่วอชิงตันกำลังเผชิญอยู่ในขณะนี้มีความละเอียดอ่อนอย่างยิ่ง: จะกำกับดูแลและรักษาความปลอดภัยของเทคโนโลยีที่มีอันตรายและใช้งานได้สองทางได้อย่างไร โดยไม่สร้างการผูกขาดของบริษัทขนาดใหญ่ที่ขัดขวางนวัตกรรมแบบโอเพนซอร์ส?