“Pace the Frontier” คือข้อเสนอของ Dario Amodei ซีอีโอ Anthropic ที่บอกว่าวงการ AI ต้อง “ชะลอความเร็วในการเพิ่มความสามารถของโมเดล” ผ่านผู้ตรวจสอบอิสระที่เข้าไปประจำในแล็บ และมาตรฐานความปลอดภัยร่วมระหว่างบริษัทในประเทศประชาธิปไตย จุดที่ทำให้เรื่องนี้กลายเป็นข่าวใหญ่คือจังหวะเวลา เพราะมันมาไม่กี่วันหลังนักวิจัยคนหนึ่งลาออกจาก Anthropic พร้อมคำเตือนแรงๆ เรื่องความเสี่ยงของ AI ฝั่งที่หนุนมี Sam Altman และ Elon Musk ส่วนฝั่งที่ค้านชัดคือ Jensen Huang แห่ง Nvidia ที่บอกตรงๆ ว่าอุตสาหกรรม “จะไม่ปล่อยให้ AI ชะลอตัวเกิดขึ้น”
Pace the Frontier คืออะไรกันแน่
Amodei พูดชัดว่า “เราต้องชะลอความเร็วที่เราเพิ่มความสามารถของโมเดล AI” นี่ไม่ใช่การขอให้หยุดพัฒนา แต่เป็นการเสนอกลไกที่ทำให้ความเร็วของโมเดลไม่วิ่งนำหน้าความสามารถในการตรวจสอบมันมากเกินไป
ข้อเสนอมีสามชั้น ชั้นแรกคือ embedded evaluators ผู้ตรวจสอบอิสระที่เข้าไปมีสิทธิ์เข้าถึงออฟฟิศและระบบของบริษัทได้จริง เทียบได้กับหน่วยงานกำกับดูแลธนาคารที่เข้าไปตรวจสอบจากภายใน Anthropic ประกาศว่า Accenture เป็น embedded evaluator รายแรกของบริษัท ซึ่งอยู่ในแนวทางเดียวกับองค์กรอย่าง METR ที่ทำงานประเมินความเสี่ยงโมเดลมาก่อนแล้ว
ชั้นที่สองคือการให้บริษัท AI รายใหญ่ในประเทศประชาธิปไตยตกลงมาตรฐานความปลอดภัยและเพดานความเร็วร่วมกัน โดยต้องมีรัฐบาลสหรัฐฯ เข้ามาเป็นตัวกลาง เพื่อไม่ให้ข้อตกลงแบบนี้ถูกมองว่าขัดกฎหมายการแข่งขันทางการค้า ชั้นที่สามคือความพยายามเจรจากับประเทศที่ไม่เป็นประชาธิปไตยอย่างจีน โดยเฉพาะประเด็นการใช้ AI ในทางที่อันตรายชัดเจน เช่น การผลิตอาวุธชีวภาพ
อะไรเป็นตัวเร่งให้ Amodei ต้องพูดเรื่องนี้ตอนนี้
สองเหตุการณ์ผลักให้ Amodei ออกมาพูดเรื่องนี้เร็วกว่าที่คาด อย่างแรกคือช่องโหว่ความปลอดภัยที่เกี่ยวข้องกับ OpenAI และ Hugging Face ซึ่งทำให้เห็นว่าระบบนิเวศ AI ยังมีจุดรั่วที่จัดการไม่ทัน อย่างที่สองคือความเร็วของความก้าวหน้าล่าสุด โดยเฉพาะกรณีที่ระบบ AI เริ่มมีส่วนช่วยสร้างโมเดลรุ่นต่อจากตัวเอง
แรงกระตุ้นที่ชัดที่สุดคือการลาออกของนักวิจัย Anthropic ที่ชื่อ Jacob Coxon ซึ่งเตือนว่าอุตสาหกรรมกำลัง “พนันกับชีวิตของพวกเรา” และเชื่อว่า AI “อาจฆ่าพวกเราทั้งหมดได้ก่อนสิ้นทศวรรษนี้” คำเตือนนี้เขย่าวงการไม่น้อย เพราะมาจากคนในบริษัทที่ผลักดันเรื่องความปลอดภัยเป็นจุดขายอยู่แล้ว
ท่าทีของคนอื่นในวงการที่ตอบรับหรือค้าน
Sam Altman จาก OpenAI ตอบรับแนวคิดเรื่องจังหวะการพัฒนาว่าจำเป็น และบอกเรื่อง embedded evaluators ว่า “เราจะมีอะไรมาแชร์เพิ่มในไม่ช้า” ส่วน Elon Musk โพสต์สั้นๆ เพียงว่า “Dario พูดถูก”
ฝั่งที่ค้านชัดที่สุดคือ Jensen Huang ซีอีโอ Nvidia ที่บอกตรงๆ ว่าอุตสาหกรรม “จะไม่ยอมให้ AI ชะลอตัวเกิดขึ้น” มุมมองนี้สมเหตุสมผลในแบบของ Nvidia เพราะรายได้บริษัทผูกกับความเร็วในการอัปเกรดโมเดลของทั้งอุตสาหกรรมโดยตรง ยิ่งพัฒนาช้าลง ยิ่งกระทบดีมานด์ชิปของ Nvidia เอง
นักวิจารณ์อีกกลุ่มมองว่าคำเตือนแบบหายนะทำให้คนไขว้เขวจากปัญหา AI ที่เกิดขึ้นจริงตอนนี้ และมองว่าการเสนอให้มีผู้ตรวจสอบแบบ embedded evaluator อาจกลายเป็นเครื่องมือกีดกันคู่แข่งรายเล็กที่ไม่มีทรัพยากรมากพอจะรับมือกับกระบวนการตรวจสอบแบบนี้
เทียบตำแหน่งของแต่ละฝ่ายในเรื่องนี้
| Factor | Anthropic | OpenAI | Nvidia | รัฐบาลหรือผู้กำกับดูแล |
|---|---|---|---|---|
| ท่าทีต่อ Pace the Frontier | ผู้เสนอหลัก ผลักดันเต็มที่ | หนุนแนวคิด แต่ยังไม่ประกาศมาตรการชัดเจน | คัดค้าน กังวลเรื่องความเร็วธุรกิจ | ยังอยู่ระหว่างพิจารณาบทบาทตัวกลาง |
| กลไกที่เสนอ/ใช้อยู่ | Embedded evaluator (เริ่มจาก Accenture) | ยังไม่ประกาศรายละเอียด | ไม่มี เน้นเดินหน้าธุรกิจต่อ | อาจต้องออกกรอบเพื่อกันประเด็นผูกขาด |
| แรงจูงใจหลัก | ลดความเสี่ยงจากโมเดลที่แรงเกินจะตรวจสอบ | รักษาความน่าเชื่อถือ ไม่อยากตกขบวนความปลอดภัย | รายได้ผูกกับความเร็วการอัปเกรดของทั้งวงการ | ป้องกันความเสี่ยงระดับประเทศ/ระดับโลก |
| อำนาจบังคับใช้จริง | จำกัดอยู่ในบริษัทตัวเอง | จำกัดอยู่ในบริษัทตัวเอง | จำกัดอยู่ในบริษัทตัวเอง | มีอำนาจตามกฎหมายหากออกเป็นนโยบาย |
ตารางนี้บอกว่า “Pace the Frontier” ยังไม่ใช่ข้อตกลงที่ปิดดีลแล้ว แต่เป็นจุดยืนที่แต่ละฝ่ายกำลังต่อรองกันอยู่ Anthropic ผลักก่อนเพราะมีจุดขายด้านความปลอดภัยอยู่แล้ว ส่วน Nvidia มีเหตุผลทางธุรกิจที่จะค้านตรงๆ
จุดแข็งของแนวคิดนี้ และข้อจำกัดที่ยังแก้ไม่ตก
การมี embedded evaluator แบบที่ Accenture เริ่มทำกับ Anthropic ทำให้การตรวจสอบไม่ใช่แค่รายงานที่บริษัทเขียนเอง แต่มีคนนอกเข้าไปดูของจริง และถ้าบริษัทใหญ่หลายรายทำพร้อมกัน มาตรฐานการทดสอบก็มีโอกาสยกระดับทั้งอุตสาหกรรมจริง
ข้อดี
- +มีกลไกจับต้องได้ ไม่ใช่แค่คำแถลงนโยบาย เช่น embedded evaluator ที่เข้าถึงระบบจริง
- +ดึงผู้นำหลายคนมาพูดเรื่องเดียวกันในเวลาไล่เลี่ยกัน ทำให้ประเด็นความปลอดภัยถูกยกน้ำหนักขึ้น
ข้อเสีย
- −Nvidia ซึ่งมีผลประโยชน์ผูกกับความเร็วการพัฒนาโดยตรงออกมาค้านแล้ว
- −ยังไม่มีรายละเอียดว่าจะบังคับใช้ข้ามบริษัทหรือข้ามประเทศได้อย่างไรจริง
- −นักวิจารณ์มองว่าอาจกลายเป็นเครื่องมือกีดกันบริษัทเล็กที่ไม่มีทรัพยากรพอจะรับการตรวจสอบ
ผมมองว่าจุดที่ต้องจับตาต่อไม่ใช่ว่า Amodei พูดอะไร แต่เป็นว่า OpenAI จะออกมาตรการ embedded evaluator ของตัวเองจริงไหม เพราะถ้ามีแค่ Anthropic ทำฝ่ายเดียว แนวคิดนี้ก็ยังเป็นแค่จุดยืนของบริษัทหนึ่งนะ ไม่ใช่มาตรฐานร่วมของวงการอย่างที่ตั้งใจไว้ครับ
อะไรคือสิ่งที่ต้องจับตาต่อจากนี้
คำถามที่ยังไม่มีคำตอบคือรัฐบาลสหรัฐฯ จะเข้ามาเป็นตัวกลางแบบที่ Amodei ต้องการหรือไม่ เพราะถ้าไม่มีกลไกป้องกันปัญหาการแข่งขันทางการค้า ข้อตกลงร่วมระหว่างบริษัทใหญ่ก็เสี่ยงถูกท้าทายทางกฎหมายได้ง่าย ส่วนการเจรจากับจีนในประเด็นความเสี่ยงร้ายแรงอย่างอาวุธชีวภาพ ก็เป็นเรื่องที่ต้องใช้เวลานานกว่าจะเห็นผลจริง
สิ่งที่ยืนยันได้ตอนนี้คือแนวคิดนี้แบ่งวงการออกเป็นสองฝั่งชัดเจนแล้ว ฝั่งที่เห็นด้วยในหลักการอย่าง Sam Altman และ Elon Musk กับฝั่งที่มองว่าธุรกิจต้องเดินหน้าต่ออย่าง Jensen Huang ส่วนจะลงเอยที่มาตรฐานร่วมจริงหรือกลายเป็นแค่ท่าทีของแต่ละบริษัท คงต้องรอดูว่าใครจะประกาศมาตรการที่จับต้องได้ตามมาบ้าง