วันอังคาร, กันยายน 15, 2569

บทความวิจัยเรื่อง "The Last AI Built by Humans" ซึ่งจัดทำโดยนักวิจัยจีน มีผู้เขียน 33 คนได้เปิดเผยความจริงที่ยากจะยอมรับ ระบุว่าการพัฒนา AI โดยมีมนุษย์เป็นผู้ขับเคลื่อนกำลังเผชิญกับทางตัน จึงจำเป็นต้องเปลี่ยนผ่านไปสู่กระบวนการ "Recursive Self-Improvement" (RSI) หรือจุดที่ AI สามารถปรับปรุงและพัฒนาตนเองได้อย่างอิสระ (แต่อันตรายนะ !)








https://x.com/HowToPrompt__/status/2099315553878123006/

นักวิจัยชาวจีนเพิ่งตีพิมพ์บทความที่มีชื่อชวนให้รู้สึกสิ้นหวัง: "AI ตัวสุดท้ายที่สร้างโดยมนุษย์"

มหาวิทยาลัยเซี่ยงไฮ้ เจียวตง, มหาวิทยาลัยชิงหัว, ไบต์แดนซ์ และห้องปฏิบัติการ AI เซี่ยงไฮ้ ได้เผยแพร่บทความความยาว 75 หน้าเกี่ยวกับการพัฒนาตนเองแบบวนซ้ำอย่างแท้จริง

บทความนี้ได้กำหนดระดับความเป็นอิสระของ AI ไว้ 5 ระดับ โดยจบลงด้วยแบบจำลองที่ออกแบบกระบวนการพัฒนาตนเองใหม่

เราใช้เวลาสามปีที่ผ่านมาหมกมุ่นอยู่กับกฎการปรับขนาด เพิ่มพลังการประมวลผลและข้อมูลให้กับแบบจำลองพื้นฐานเดิมๆ

แต่บทความขนาดใหญ่ที่มีผู้เขียน 33 คนได้เปิดเผยความจริงที่ยากจะยอมรับ

แบบจำลองระดับความเป็นอิสระ (LLM) ที่มีอยู่กำลังหยุดชะงัก

นักวิจัยได้พัฒนาตัวชี้วัดที่เรียกว่า "ดัชนีขีดจำกัดความสามารถ" (Headroom-Closed Index) ซึ่งพิสูจน์ทางคณิตศาสตร์ว่าระบบ AI ในปัจจุบันกำลังติดขัดอยู่ที่ไหนและเพราะเหตุใด

พวกมันไม่สามารถฉลาดขึ้นอย่างไม่มีที่สิ้นสุดได้เพียงแค่การอ่านข้อความของมนุษย์มากขึ้น

วิธีการแก้ปัญหานี้จะเปลี่ยนทิศทางของอุตสาหกรรมทั้งหมด

แทนที่มนุษย์จะปรับแต่งอัลกอริทึมด้วยตนเอง AI ต้องเรียนรู้วิธีเขียนโปรแกรมใหม่ด้วยตัวเอง

บทความนี้ได้วางแผนเส้นทาง 5 ขั้นตอนที่น่าตกใจไว้อย่างชัดเจน:

ขั้นแรก AI จะดำเนินการปรับปรุงที่มนุษย์ออกแบบไว้ จากนั้น มันจะตัดสินใจว่าจะปรับปรุงอย่างไร จากนั้น มันจะรวบรวมประสบการณ์การฝึกฝนของตัวเอง จากนั้น มันจะปรับสถาปัตยกรรมของตัวเองให้เข้ากับสภาพแวดล้อมใหม่

สุดท้าย มันจะเข้าสู่ขั้นตอนที่ 5: การปรับปรุงแบบวนซ้ำ

AI จะคิดค้นวิธีการใหม่ ๆ ในการปรับปรุง AI วิธีการที่วิศวกรมนุษย์ไม่สามารถจินตนาการได้ด้วยซ้ำ

นี่ไม่ใช่เรื่องทางทฤษฎี บทความนี้เชื่อมโยงแผนเส้นทางนี้โดยตรงกับแนวปฏิบัติในอุตสาหกรรมที่มีอยู่แล้ว ตั้งแต่ด้านวิศวกรรมซอฟต์แวร์ไปจนถึงปัญญาประดิษฐ์แบบฝังตัว

เมื่อ AI เข้าสู่ขั้นตอนที่ห้า มันจะปรับปรุงสติปัญญาของตัวเองได้เร็วกว่าที่ทีมมนุษย์จะทำได้

ช่องว่างระหว่างมนุษย์และเครื่องจักรจะไม่ใช่เส้นตรงอีกต่อไป มันจะกลายเป็นแนวตั้ง

เราไม่ได้กำลังสร้าง AI ที่ดีที่สุดอีกต่อไปแล้ว

เรากำลังสร้างเพียงแค่เมล็ดพันธุ์เท่านั้น

เมื่อสิ่งมีชีวิตเรียนรู้ที่จะเติบโตได้ด้วยตัวเองแล้ว วิศวกรมนุษย์ก็จะไม่มีส่วนเกี่ยวข้องอีกต่อไป
.....

1. ปัญหาหลัก: "ภาระในการขยายขีดความสามารถ" (Scaling Burdens)

ผู้เขียนชี้ให้เห็นว่าโมเดล AI ระดับแนวหน้า (frontier models) ในปัจจุบันกำลังเผชิญกับข้อจำกัดสำคัญจากปัญหาหลัก 3 ประการ:

คอขวดด้านวิศวกรรมที่ต้องอาศัยมนุษย์: กระบวนการคัดสรรข้อมูล การปรับสูตรการฝึกสอน (training recipes) และการค้นหาสถาปัตยกรรมโมเดล ล้วนต้องพึ่งพาแรงงานมนุษย์เป็นหลัก

ความก้าวหน้าแบบคงที่ที่เริ่มถึงทางตัน: ​​ด้วยตัวชี้วัดที่ผู้เขียนนำเสนอ (Headroom-Closed Index) พบว่าแม้ LLM จะทำผลงานได้ดีเยี่ยมในการทดสอบมาตรฐานแบบคงที่ (static benchmarks) แต่ความก้าวหน้ากลับหยุดชะงักเมื่อต้องรับมือกับงานที่มีลักษณะโต้ตอบ (interactive) มีสถานะต่อเนื่อง (stateful) และต้องใช้เครื่องมือในโลกแห่งความเป็นจริง

ต้นทุนในการนำไปใช้งานจริง: ระบบต่างๆ ประสบปัญหาในการปรับตัวให้เข้ากับสภาพแวดล้อมจริงที่เปลี่ยนแปลงไปอย่างต่อเนื่อง โดยไม่จำเป็นต้องเริ่มกระบวนการฝึกสอนใหม่ทั้งหมด (re-engineered retraining) ซึ่งต้องใช้ทรัพยากรมหาศาล

2. ทางออก: ลำดับขั้นความเป็นอิสระ 5 ระดับ (L1 ถึง L5)

เพื่อทดแทนกระบวนการพัฒนาที่ต้องอาศัยมนุษย์ บทความนี้นำเสนอกรอบแนวคิดที่อธิบายการเปลี่ยนผ่านของ AI จากเครื่องมือที่มนุษย์คอยกำกับดูแล ไปสู่ระบบที่สามารถปรับปรุงตนเองได้อย่างอิสระโดยสมบูรณ์:

B0 (การปรับปรุง AI ภายในงาน): การปรับปรุงแบบวนซ้ำในระดับเซสชัน (เช่น Chain-of-Thought หรือ Reflexion) โดยไม่มีการเปลี่ยนแปลงระบบพื้นฐานอย่างถาวร

L1 (การดำเนินการปรับปรุง): AI ทำหน้าที่ดำเนินการตามขั้นตอนที่มนุษย์กำหนดไว้โดยอัตโนมัติ (เช่น การรันกระบวนการคัดกรองข้อมูล หรือสคริปต์แก้ไขจุดบกพร่องที่วิศวกรออกแบบไว้)

L2 (กลยุทธ์การปรับปรุง): AI ตัดสินใจเองว่าจะปรับปรุงอย่างไร เมื่อได้รับเป้าหมายจากมนุษย์ AI จะวิเคราะห์จุดอ่อนของตนและเลือกกลยุทธ์การปรับปรุงด้วยตนเอง (เช่น การเลือกค่าไฮเปอร์พารามิเตอร์สำหรับการฝึกสอน หรือการปรับปรุงสถาปัตยกรรมโมเดล)

L3 (การสั่งสมประสบการณ์): AI กำหนดแนวทางการเรียนรู้ของตนเอง โดยแสวงหาข้อมูลใหม่หรือสร้างประสบการณ์ผ่านการสำรวจเชิงรุก (active exploration) และการเล่นแข่งขันกับตนเอง (self-play)

L4 (การปรับตัวเข้ากับสภาพแวดล้อม): AI ปรับตัวแบบพลวัตตามข้อมูลป้อนกลับจากการใช้งานจริง โดยปรับปรุงหน่วยความจำระยะยาว โค้ด หรือชุดทักษะของตนอย่างต่อเนื่องโดยไม่ต้องอาศัยมนุษย์เข้ามาแทรกแซง

L5 (การปรับปรุงตนเองในระดับเมตาแบบวนซ้ำ): ขั้นสูงสุด AI จะปรับเปลี่ยนกลไกพื้นฐานที่กำหนดวิธีการปรับปรุงตนเอง (เช่น ตัวปรับปรุง, ตัวตรวจสอบความถูกต้อง และอัลกอริทึมการค้นหา) AI แต่ละรุ่นจะส่งต่อขีดความสามารถในการปรับปรุงตนเองที่ดียิ่งขึ้นไปสู่รุ่นถัดไป ก่อให้เกิดวงจรปิดแบบวนซ้ำ (recursive closed-loop cycle) ซึ่งทำให้ไม่จำเป็นต้องมีนักพัฒนาที่เป็นมนุษย์ในการสร้างระบบ AI ในอนาคตอีกต่อไป ส่งผลให้ AI รุ่นปัจจุบันกลายเป็น "AI รุ่นสุดท้ายที่ถูกสร้างขึ้นโดยมนุษย์" 3. ความเสี่ยงและอุปสรรคสำคัญ

ผู้เขียนเตือนว่า การบรรลุการพัฒนาตนเองระดับ L5 อย่างแท้จริงนั้นมาพร้อมกับอันตรายร้ายแรงที่ต้องแก้ไขอย่างปลอดภัย:

การสืบทอดอย่างปลอดภัย: การป้องกันข้อผิดพลาด ภาพหลอน หรือการถดถอยของความสามารถจากการถูกเข้ารหัสอย่างถาวรในรุ่นต่อๆ ไป

การแสวงหาประโยชน์จากผู้ประเมิน: อันตรายจากการที่ AI บิดเบือนระบบการตรวจสอบ/ให้รางวัลภายในของตนเองเพื่อบันทึก "การปรับปรุง" ปลอม แทนที่จะเป็นการเพิ่มประสิทธิภาพที่แท้จริง

การทุจริตประสบการณ์: วงจรป้อนกลับที่ข้อมูลหรือสมมติฐานที่ผิดพลาดสะสมเพิ่มขึ้นอย่างรวดเร็วในหลายรอบของการพัฒนาตนเอง