Anthropic ระบุว่าบริษัทได้สกัดกั้นความพยายามหลายครั้งในการนำ AI ของตนไปใช้เพื่อสร้างอาวุธชีวภาพ
หนึ่งในกรณีศึกษาที่ระบุไว้ในรายงานของบริษัทกล่าวถึงการดำเนินงานที่เกี่ยวข้องกับไวรัส เช่น ไวรัสไข้ทรพิษ (smallpox)
เมื่อวันพฤหัสบดีที่ผ่านมา Anthropic ได้เผยแพร่เอกสารที่ระบุรายละเอียดเกี่ยวกับการที่บริษัทดำเนินการจัดการกับผู้ใช้งานโมเดล AI บางราย ซึ่งกำลังทำการวิจัยที่อาจนำไปสู่การพัฒนาอาวุธชีวภาพ รายงานระบุว่ากรณีศึกษาเหล่านี้ไม่ใช่แค่ตัวอย่างทั่วไปของการนำ AI ไปใช้ในทางที่ผิด แต่ครอบคลุมตั้งแต่แอปหาคู่ปลอม ระบบสอดแนม ไปจนถึงเรื่องอาวุธชีวภาพที่อาจเกิดขึ้นได้จริง
รายงานดังกล่าวไม่ได้ระบุชื่อองค์กรหรือบุคคลที่ Anthropic สั่งระงับการใช้งานเนื่องจากการวิจัยอาวุธชีวภาพ และไม่ได้ระบุว่ามีการใช้เชื้อก่อโรคชนิดใดบ้าง แต่ Anthropic กล่าวว่ามีนักวิทยาศาสตร์บางกลุ่มที่ "พยายามปกปิดวัตถุประสงค์ที่แท้จริงของการวิจัยเพื่อหลีกเลี่ยงมาตรการป้องกันของเรา"
หนึ่งในกรณีศึกษาที่ Anthropic ยกมาอ้างถึงในรายงานเกี่ยวข้องกับ "การยื่นขอทุนวิจัยเรื่องไวรัสในกลุ่มออร์โธพ็อกซ์ (orthopoxvirus) ที่ห้องปฏิบัติการโรคติดเชื้อของรัฐ" ซึ่งมีการระบุแผนงานที่จะใช้เชื้อไวรัสออร์โธพ็อกซ์ที่มีชีวิต ไวรัสในกลุ่มนี้รวมถึงไวรัส Variola หรือที่รู้จักกันดีในชื่อไข้ทรพิษ (smallpox) และไวรัส Mpox หรือฝีดาษลิง (monkeypox)
Anthropic ระบุในรายงานว่าบริษัทเผยแพร่ข้อมูลเกี่ยวกับความพยายามเหล่านี้ต่อสาธารณะ "เพราะเราเชื่อว่าเรามีความรับผิดชอบที่จะต้องเปิดเผยกรณีการนำบริการของเราไปใช้ในทางที่ผิดและเป็นอันตราย เมื่อโมเดล AI มีขีดความสามารถสูงขึ้น ความเสี่ยงก็จะเพิ่มขึ้นตามไปด้วย เว้นแต่ว่านักพัฒนา AI และผู้ที่ทำหน้าที่ปกป้องสังคมจะร่วมมือกันทำให้เทคโนโลยีเหล่านี้มีความปลอดภัยมากยิ่งขึ้น"
อย่างไรก็ตาม เป็นที่น่าสังเกตว่าการเผยแพร่รายงานฉบับนี้เกิดขึ้นหลังจากที่มีการโพสต์ข้อความผ่านโซเชียลมีเดียในสัปดาห์นี้โดยนักวิจัยของ Anthropic ซึ่งเตือนว่า AI อาจ "คร่าชีวิตมนุษย์ทุกคน" ได้ภายในสิ้นทศวรรษนี้ Jacob Coxon นักวิจัยที่ลาออกจาก Anthropic เมื่อวันอังคาร กล่าวว่าคำเตือนดังกล่าว "ไม่ใช่กลยุทธ์ทางการตลาด" และย้ำว่า "ไม่มีกิจกรรมใดของมนุษย์ที่ก่อให้เกิดอันตรายในระดับนี้มาก่อน"
Anthropic ระบุว่าตัวอย่างงานวิจัยที่ซับซ้อนซึ่งบริษัทได้สั่งระงับไปนั้น สามารถเกิดขึ้นได้ก็เพราะโมเดล AI รุ่นล่าสุดของบริษัทมีขีดความสามารถสูงพอที่จะทำงานเหล่านั้นได้ โดยในหลายกรณี "หากเป็นเพียงแค่ปีที่แล้ว งานเหล่านี้จำเป็นต้องอาศัยผู้ปฏิบัติงานที่มีทักษะสูงจำนวนมากและความรู้เฉพาะทางอย่างลึกซึ้ง"
.....
Anthropic ตรวจพบนักวิทยาศาสตร์ใช้ Claude เพื่อต่อยอดงานวิจัยด้านอาวุธชีวภาพ
ข้อมูลที่บริษัทเผยแพร่เมื่อวันพฤหัสบดี "การนำ AI ไปใช้ในทางที่ผิดเกี่ยวกับชีววิทยา" เป็นเพียงรูปแบบหนึ่งของการใช้งาน AI ที่น่ากังวลซึ่งระบุไว้ในรายงานฉบับนี้ แต่ประเด็นนี้กำลังมีความสำคัญมากขึ้นเรื่อยๆ เนื่องจากโมเดลรุ่นใหม่ๆ อย่าง Fable 5 มีความสามารถสูงขึ้นในการช่วยสนับสนุนงานวิจัยทางวิทยาศาสตร์
รายงานของบริษัทได้นำเสนอกรณีศึกษา 5 กรณีที่โมเดลของ Anthropic ถูกนำไปใช้ในการพัฒนาอาวุธชีวภาพ รวมถึงมาตรการความปลอดภัยที่ทำให้ Anthropic ตรวจพบการใช้งานในทางที่ผิดดังกล่าวและแนวทางการตอบสนองของบริษัท การตรวจจับการใช้งานในทางที่ผิดนั้นมีความซับซ้อน ดังที่บริษัทได้เน้นย้ำกับหนังสือพิมพ์ The New York Times เนื่องจากขั้นตอนการวิจัยเพื่อพัฒนาวัคซีนชนิดใหม่อาจมีลักษณะคล้ายคลึงกับการสร้างอาวุธชีวภาพอย่างมาก ในทุกกรณี บริษัทระบุว่าตนเลือกที่จะใช้ความระมัดระวังไว้ก่อน (err on the side of caution) เนื่องจากตระหนักถึงผลกระทบที่อาจตามมา
"คุณจะไม่ได้เห็นภาพแบบในหนังสือการ์ตูนที่มีคนพูดว่า 'เฮ้ ฉันอยากสร้างอาวุธชีวภาพเพื่อฆ่าทุกคนหรอกนะ'" Jacob Klein หัวหน้าฝ่ายข่าวกรองด้านภัยคุกคามของ Anthropic กล่าวกับ The New York Times "มันเป็นสถานการณ์ที่มีความละเอียดอ่อนและซับซ้อนอย่างยิ่ง"
ในกรณีศึกษาหนึ่งเมื่อเดือนพฤษภาคม Anthropic ระบุว่าระบบ "ตัวจำแนกความปลอดภัยทางชีวภาพ" (biological safety classifier) ของบริษัทได้ตรวจพบคำสั่งให้ Claude ช่วยร่างข้อเสนอโครงการวิจัยเพื่อเพิ่มขีดความสามารถของเชื้อไวรัส (gain-of-function research) สำหรับไวรัสชิคุนกุนยา บริษัทระบุว่าไวรัสชนิดนี้ยังไม่มีวิธีการรักษาที่ได้รับการรับรอง และอาจก่อให้เกิดอาการป่วยรุนแรงจนส่งผลกระทบต่อการใช้ชีวิตได้นานหลายสัปดาห์หรือหลายเดือน การวิจัยแบบ gain-of-function คือการศึกษาเพื่อดัดแปลงพันธุกรรมของสิ่งมีชีวิต ซึ่งในกรณีของไวรัสชนิดนี้ ข้อเสนอโครงการวิจัยระบุถึงการเพิ่มความสามารถในการแพร่เชื้อและความสามารถในการหลบหลีกระบบภูมิคุ้มกันของร่างกาย การรวมคุณสมบัติเหล่านี้เข้าด้วยกันถือเป็นเรื่องอันตราย และ Anthropic ระบุว่าข้อเท็จจริงที่ว่างานวิจัยดังกล่าวมีความเกี่ยวข้องกับสถาบันวิจัยทางทหาร ยิ่งทำให้โครงการนี้มีความน่าสงสัยมากยิ่งขึ้นไปอีก
บริษัทได้แสดงความกังวลในลักษณะเดียวกันต่อกรณีการวิจัยแบบ gain-of-function ในเชื้อไข้หวัดนก และอีกกรณีหนึ่งที่นักวิจัยใช้ Claude เพื่อพัฒนาฐานข้อมูลเปปไทด์ที่เป็นพิษ (venom toxin peptides) รวมถึง "กระบวนการสร้างแบบอัตโนมัติ (generative pipeline) เพื่อปรับปรุงคุณสมบัติของสารพิษให้มีประสิทธิภาพสูงสุด" นอกจากนี้ รายงานฉบับเต็มยังรวมถึงกรณีศึกษาเกี่ยวกับการนำโมเดลของ Anthropic ไปใช้เป็นเครื่องมือในการสอดแนม การสร้างซอฟต์แวร์เพื่อเจาะระบบ (exploits) การเผยแพร่โฆษณาชวนเชื่อ และการพัฒนาระบบอาวุธ
ข้อมูลจากบริษัทระบุว่า บัญชีของผู้ที่นำ Claude หรือโมเดลของ Anthropic ไปใช้ในทางที่ผิดจะถูกระงับการใช้งาน และผลการตรวจสอบจะถูกนำไปใช้เพื่อปรับปรุงมาตรการป้องกันความปลอดภัยของโมเดล รวมถึงป้องกันการใช้งานในทางที่ผิดในอนาคต ด้วยความซับซ้อนของประเด็นการนำ AI ไปใช้ในทางที่ผิดเกี่ยวกับชีววิทยา Anthropic จึงไม่ได้เปิดเผยชื่อบุคคลหรือสถาบันที่การตรวจสอบพบว่ามีความเกี่ยวข้องกับการพัฒนาสิ่งที่อาจเป็นอาวุธชีวภาพดังกล่าว "บุคคลที่เกี่ยวข้องในกรณีศึกษาเหล่านี้คือนักวิทยาศาสตร์ที่ปฏิบัติงานอยู่จริง" Anthropic ระบุ "เราไม่ได้กล่าวหาว่าพวกเขามีเจตนาร้าย และการระบุตัวตนของพวกเขาหรือห้องปฏิบัติการอาจทำให้พวกเขาตกอยู่ในอันตรายได้"
https://tech.yahoo.com/ai/claude/articles/anthropic-caught-scientists-using-claude-210454670.html
