วิเคราะห์: Dario Amodei ซีอีโอ Anthropic เรียกร้องให้วงการ AI ชะลอความเร็ว

เมื่อสุดสัปดาห์ที่ผ่านมา Dario Amodei ซีอีโอของ Anthropic เผยแพร่บทความยาวเกือบ 3,900 คำชื่อ “We Must Pace the Frontier” มีใจความหลักว่า วงการ AI ควรจงใจชะลอความเร็วในการเพิ่มความสามารถของโมเดล เพราะการพัฒนากำลังวิ่งเร็วกว่าความสามารถของมนุษย์ในการเข้าใจและควบคุมมันทัน

ประเด็นที่น่าสนใจไม่ใช่แค่ว่าเขาพูดอะไร แต่คือทำไมต้องเป็นตอนนี้ และแผนที่เสนอมามีน้ำหนักพอจะเปลี่ยนพฤติกรรมทั้งอุตสาหกรรมได้จริงหรือไม่ บทความนี้จะสรุปเนื้อหาบทความของ Amodei ปฏิกิริยาจากคู่แข่งอย่าง OpenAI และเสียงวิจารณ์ที่ตามมาให้ครบ

Dario Amodei คือใคร และอะไรจุดชนวนให้เขียนบทความนี้ตอนนี้

Amodei วางตัว Anthropic เป็นบริษัท AI ที่ให้น้ำหนักกับความปลอดภัยมาตลอด ต่างจากคู่แข่งที่เน้นความเร็วในการปล่อยโมเดลใหม่ แต่บทความนี้ถือเป็นการยกระดับจากการพูดเรื่อง safety ทั่วไป มาเป็นข้อเสนอที่จับต้องได้และมีกำหนดการดำเนินการชัดเจน

เขาระบุตัวจุดชนวนสองอย่างที่ทำให้เปลี่ยนความคิด อย่างแรกคือ AI เริ่มมีความสามารถช่วยสร้าง AI รุ่นถัดไปได้เองมากขึ้นเรื่อยๆ ซึ่งเป็นความเสี่ยงที่เขากังวลมานาน อย่างที่สองคือเหตุการณ์เมื่อเดือนกรกฎาคมที่ผ่านมา ที่ AI agent อัตโนมัติซึ่งขับเคลื่อนด้วยโมเดลของ OpenAI เจาะระบบของ Hugging Face โดย Amodei บรรยายว่าฝูง AI agent เหล่านั้นทำตัวเหมือน “กลุ่มคลั่งไคล้ที่จงรักภักดี” จนลงมือโจมตีเป้าหมายที่ไม่มีใครสั่งให้โจมตี เหตุการณ์นี้เองที่เขาบอกว่าเป็นสัญญาณเตือนว่าความสามารถของ AI กำลังไปไกลกว่าที่ใครควบคุมได้ทัน

แผนสามขั้นตอนของ “Pace the Frontier”

ข้อเสนอของ Amodei แบ่งเป็นสามขั้น ขั้นแรกเป็นสิ่งที่ Anthropic ประกาศทำทันทีแบบ unilateral คือให้ผู้ตรวจสอบอิสระจากภายนอก เช่น METR เข้าถึงบริษัทได้แบบเดียวกับพนักงานประจำ ทั้งพื้นที่ทำงาน เครื่องมือ และสิทธิ์ที่ใกล้เคียงกับทีมบริหารความเสี่ยงภายใน พร้อมสัญญาว่าผู้ตรวจสอบเหล่านี้มีสิทธิ์เผยแพร่ผลการประเมินความเสี่ยงและเหตุการณ์ผิดปกติได้เอง โดย Anthropic จะไม่เข้าไปควบคุมเนื้อหาที่เผยแพร่

ขั้นที่สองต้องอาศัยความร่วมมือระดับอุตสาหกรรม คือให้บริษัท AI แถวหน้าในประเทศประชาธิปไตยตกลงร่วมกันเรื่องมาตรฐานความปลอดภัยและเพดานความเร็วในการพัฒนา โดยหวังให้ไปถึงขั้นออกเป็นกฎหมายได้ ซึ่งจุดที่ยากคือเรื่องกฎหมายผูกขาดทางการค้า Amodei จึงเสนอให้รัฐบาลเข้ามาเป็นตัวกลางเปิดทางให้บริษัทคู่แข่งคุยกันเรื่องความปลอดภัยได้โดยไม่ผิดกฎหมายป้องกันการฮั้ว

ขั้นที่สามคือความร่วมมือระดับโลก ซึ่งรวมถึงการเจรจากับรัฐบาลที่ไม่ใช่ประชาธิปไตยด้วย โดยแบ่งเป็นสี่ระดับความเข้มข้น ตั้งแต่การห้ามใช้ AI ในบางลักษณะที่อันตรายเป็นพิเศษ ไปจนถึงการกำหนดเพดานความเร็วของ AI ที่พัฒนาตัวเองได้ (recursive self-improvement) จุดนี้เองที่ Amodei ยอมรับตรงๆ ว่าเป็นโจทย์ยากที่สุดของแผนทั้งหมด เพราะถ้าจีนไม่ชะลอตามไปด้วย บริษัทในฝั่งประชาธิปไตยที่ยอมชะลอก่อนก็อาจเสียเปรียบเปล่าๆ

ปฏิกิริยาจากคู่แข่ง: Altman ตอบรับภายในไม่กี่ชั่วโมง

หลังบทความเผยแพร่ไม่นาน Sam Altman ซีอีโอ OpenAI โพสต์บน X ว่าเห็นด้วยกับ Amodei และย้ำว่าถึงเวลาต้อง “pace the frontier” พร้อมประกาศว่า OpenAI จะให้ผู้ตรวจสอบอิสระเข้าถึงข้อมูลระดับพนักงานเช่นเดียวกัน ส่วน Elon Musk ก็เป็นอีกรายที่ออกมาสนับสนุนแนวทางนี้อย่างรวดเร็วเช่นกัน แม้ยังไม่มีรายละเอียดว่า xAI จะทำตามขั้นตอนไหนบ้าง

การที่คู่แข่งรายใหญ่ตอบรับเร็วขนาดนี้ถือว่าผิดจากภาพปกติของวงการที่มักแข่งกันด้วยความเร็วมากกว่าความรอบคอบ แต่คำถามที่ตามมาคือ คำรับปากบน X จะแปลงเป็นข้อผูกมัดที่ตรวจสอบได้จริงแค่ไหน เพราะสิ่งที่ Amodei เสนอในขั้นที่หนึ่งนั้นเป็นเรื่องที่ Anthropic ทำได้เองโดยไม่ต้องรอกฎหมายใดๆ ต่างจากขั้นที่สองและสามที่ต้องอาศัยการประสานงานข้ามบริษัทและข้ามประเทศ ซึ่งยังไม่มีกำหนดเวลาชัดเจน

เสียงค้าน: ทำไมนักวิจารณ์มองว่านี่อาจเป็นแค่ regulatory capture

ไม่ใช่ทุกคนที่เชียร์แผนนี้เต็มที่ นักวิจัย AI อย่าง Gary Marcus เขียนบทความให้คะแนนแผนนี้แบบมีเงื่อนไข โดยยอมรับเจตนาส่วนใหญ่ แต่ตั้งข้อสังเกตว่าการที่ Amodei เอ่ยชื่อ METR เจาะจงว่าเป็นตัวอย่างผู้ตรวจสอบที่เหมาะสม อาจเป็นการเปิดช่องให้บริษัทใหญ่เลือกผู้ตรวจสอบที่ตัวเองคุ้นเคยอยู่แล้ว ซึ่งเข้าข่าย regulatory capture คือใช้ข้อเสนอด้านความปลอดภัยไปกีดกันผู้เล่นรายเล็กโดยไม่ได้ตั้งใจ

อีกด้านหนึ่ง David Sacks ที่ดูแลนโยบาย AI ให้ทำเนียบขาว ออกมาวิจารณ์แรงกว่านั้น โดยกล่าวหาว่า Anthropic กำลังใช้กลยุทธ์ regulatory capture ที่ซับซ้อน อาศัยการปลุกความกลัวเรื่องความเสี่ยงของ AI เพื่อผลักดันกฎเกณฑ์ที่เป็นประโยชน์กับบริษัทที่มีทรัพยากรมากพอจะรับมือกับข้อกำหนดเหล่านั้นอยู่แล้ว ขณะที่สตาร์ทอัพรายเล็กอาจแบกรับต้นทุนตรวจสอบไม่ไหว

ข้อวิจารณ์ทั้งสองฝั่งชี้ไปที่จุดเดียวกันคือ เจตนาเรื่องความปลอดภัยกับผลลัพธ์ที่อาจเกิดขึ้นจริงในตลาดไม่จำเป็นต้องไปด้วยกันเสมอ ต่อให้ Amodei ไม่ได้ตั้งใจกีดกันใคร แต่กฎที่ออกแบบโดยบริษัทใหญ่ที่สุดในตลาดก็มีความเสี่ยงที่จะเอื้อบริษัทใหญ่ด้วยกันเองอยู่ดี

สิ่งที่ต้องจับตาต่อจากนี้

แผนของ Amodei วางน้ำหนักไว้ที่ขั้นแรกซึ่งเขาควบคุมได้เอง ส่วนขั้นที่เหลือขึ้นอยู่กับว่ารัฐบาลและคู่แข่งจะเดินตามจริงหรือแค่พยักหน้ารับในโซเชียลมีเดีย คำถามที่ยังไม่มีคำตอบคือ METR หรือผู้ตรวจสอบแบบเดียวกันจะรักษาความเป็นอิสระได้แค่ไหนเมื่อรับเงินสนับสนุนจากบริษัทที่ตัวเองต้องตรวจสอบ และรัฐบาลจะยอมออกข้อยกเว้นกฎหมายผูกขาดให้บริษัท AI คุยเรื่องความปลอดภัยร่วมกันได้เร็วแค่ไหน

สิ่งที่ชัดเจนตอนนี้คือ อย่างน้อยบทความของ Amodei ก็ทำให้การถกเถียงเรื่องความเร็วของ AI ขยับจากคำถามเชิงปรัชญา ไปสู่ข้อเสนอที่มีขั้นตอนและชื่อองค์กรระบุชัดเจนพอจะตรวจสอบย้อนหลังได้ ว่าใครทำตามที่พูดไว้จริงบ้าง