Dario Amodei ซีอีโอของ Anthropic ออกมาเสนอแผนชะลอการพัฒนา AI อย่างเป็นทางการ พร้อมประกาศว่า Anthropic จะเริ่มลงมือทำบางส่วนด้วยตัวเองก่อน โดยไม่รอให้คู่แข่งเห็นด้วย เขาระบุตรงๆ ว่า “เราต้องชะลอความเร็วที่เราจะยกระดับความสามารถของโมเดล AI” และย้ำว่าถึงจะชะลอ ความก้าวหน้าก็ยังดูเร็วอยู่ดี สิ่งสำคัญคือต้องใช้เวลาที่ได้มาให้คุ้มค่าที่สุด
ข้อเสนอนี้มาในจังหวะที่ Anthropic เพิ่งเจอทั้งการลาออกของพนักงานและเหตุการณ์ด้านความปลอดภัยของ AI หลายครั้งติดกัน ทำให้คำถามเรื่อง “ใครควรเป็นคนตรวจสอบบริษัท AI” กลายเป็นประเด็นร้อนขึ้นมาอีกครั้งในอุตสาหกรรม
แผนของ Amodei ประกอบด้วยอะไรบ้าง
แผนที่ Amodei วางไว้แบ่งเป็นสามส่วนหลัก ส่วนแรกคือให้ผู้ประเมินอิสระจากภายนอก อย่างองค์กร METR เข้ามาตรวจสอบว่าบริษัทต่างๆ ทำตามคำมั่นด้านความปลอดภัยที่ประกาศไว้จริงหรือไม่ และรายงานเหตุการณ์ผิดปกติอย่างตรงไปตรงมา ส่วนที่สองคือชวนบริษัท AI รายใหญ่ในประเทศประชาธิปไตยมาตกลงมาตรฐานความปลอดภัยร่วมกัน พร้อมจำกัดความเร็วของการพัฒนาความสามารถที่ยังไม่ผ่านการตรวจสอบ โดยให้รัฐบาลสหรัฐฯ ช่วยไกล่เกลี่ยและผ่อนปรนกฎหมายผูกขาดสำหรับการพูดคุยเรื่องความปลอดภัยโดยเฉพาะ ส่วนสุดท้ายคือพยายามเจรจากับรัฐบาลประเทศที่ไม่เป็นประชาธิปไตย โดยเฉพาะจีน ให้ตกลงร่วมกันในเรื่องแคบๆ ที่อันตรายชัดเจน เช่น ห้ามใช้ AI ช่วยผลิตอาวุธชีวภาพ
Anthropic เลือกเริ่มข้อแรกด้วยตัวเองก่อน โดยไม่รอมติร่วมจากทั้งอุตสาหกรรม
ผู้ตรวจสอบอิสระอย่าง METR จะเข้าไปนั่งในบริษัทได้แค่ไหน
สิ่งที่ทำให้ข้อเสนอนี้ต่างจากคำมั่นสัญญาทั่วไปคือระดับการเข้าถึงที่ Anthropic ให้กับผู้ประเมินจากภายนอก แทนที่จะให้ตรวจแค่เอกสารหรือรายงานที่บริษัทเตรียมไว้ Anthropic มอบบัตรพนักงาน โต๊ะทำงาน และโน้ตบุ๊กให้ผู้ประเมินจาก METR เข้าถึงข้อมูลภายในได้ในระดับเดียวกับทีมบริหารความเสี่ยงของบริษัทเอง
นี่คือจุดที่ทำให้แผนนี้ฟังดูจริงจังกว่าการแค่ประกาศจุดยืน เพราะผู้ตรวจสอบไม่ได้อยู่แค่ภายนอกอีกต่อไป แต่เข้าไปเห็นการทำงานจริงของทีมที่ดูแลความเสี่ยงจากโมเดล
ทำไม Amodei อยากให้รัฐบาลช่วยไกล่เกลี่ยกติการ่วม
Amodei มองว่าถ้าปล่อยให้บริษัทแต่ละแห่งตั้งมาตรฐานความปลอดภัยของตัวเอง รายที่ยอมชะลอเพื่อความรอบคอบจะเสียเปรียบรายที่เดินหน้าเต็มสูบ เขาจึงเสนอให้บริษัท AI รายใหญ่ในประเทศประชาธิปไตยนั่งคุยกันเรื่องมาตรฐานความปลอดภัยร่วม พร้อมขอให้รัฐบาลสหรัฐฯ เป็นตัวกลาง และออกข้อยกเว้นกฎหมายผูกขาดให้การพูดคุยเรื่องความปลอดภัยโดยเฉพาะ เพื่อไม่ให้บริษัทที่นั่งคุยกันเรื่องนี้เสี่ยงผิดกฎหมายฮั้วราคาหรือแบ่งตลาดกันเอง
ถ้าทำได้จริง มันจะเปลี่ยนจากการแข่งขันด้านความเร็วอย่างเดียว เป็นการแข่งขันที่มีเพดานความปลอดภัยร่วมกันเป็นเส้นเดียวกันทั้งอุตสาหกรรม
ต่อรองกับจีน: ข้อตกลงแคบๆ ที่พอเป็นไปได้
ส่วนที่ยากที่สุดในแผนนี้คือการเจรจากับรัฐบาลที่ไม่ใช่ประชาธิปไตย โดยเฉพาะจีน ซึ่ง Amodei เองก็ยอมรับว่าคงตกลงกติกากว้างๆ ร่วมกันไม่ได้ เขาจึงเสนอให้เล็งไปที่ข้อตกลงแคบๆ เฉพาะกรณีที่อันตรายชัดเจนจนทุกฝ่ายเห็นตรงกัน เช่น ห้ามใช้ AI ช่วยผลิตอาวุธชีวภาพ แทนที่จะพยายามตกลงกันทั้งหมดในคราวเดียว
แนวคิดนี้สะท้อนว่าความร่วมมือระดับโลกด้าน AI อาจไม่ได้เริ่มจากกรอบใหญ่ แต่เริ่มจากจุดที่ทุกฝ่ายเสียประโยชน์เท่ากันถ้าไม่ร่วมมือ
จากแข่งกันปล่อยเร็วสู่การวางกติกากลาง
เมื่อรวมทั้งสามกลไกเข้าด้วยกัน แผนของ Amodei เปลี่ยนหน้าตาของการแข่งขันในอุตสาหกรรม AI จากเดิมที่ต่างคนต่างเร่งปล่อยโมเดลให้เร็วที่สุด ไปเป็นการวางกติกากลางที่ตรวจสอบได้
| Factor | แนวทางเดิมของอุตสาหกรรม | แผนที่ Amodei เสนอ |
|---|---|---|
| การตรวจสอบความปลอดภัย | ตรวจสอบกันเองภายในบริษัท | ให้ผู้ประเมินอิสระอย่าง METR เข้าถึงข้อมูลเทียบเท่าทีมความเสี่ยงในบริษัท |
| กติการะหว่างบริษัท | ต่างคนต่างกำหนดมาตรฐานเอง | ตั้งมาตรฐานความปลอดภัยร่วม โดยรัฐบาลช่วยไกล่เกลี่ยและผ่อนปรนกฎหมายผูกขาด |
| ความร่วมมือระหว่างประเทศ | แข่งขันแยกกันตามค่าย | เจรจาข้อตกลงแคบๆ กับประเทศอย่างจีน เช่น ห้ามใช้ AI ผลิตอาวุธชีวภาพ |
| ความเร็วในการพัฒนาโมเดล | เร่งยกระดับความสามารถให้เร็วที่สุด | ชะลอความเร็วของความสามารถที่ยังไม่ผ่านการตรวจสอบ |
ข้อแลกเปลี่ยนคือบริษัทที่เข้าร่วมต้องเปิดให้ผู้ประเมินภายนอกเข้าถึงข้อมูลลึกกว่าที่เคย และต้องรอความร่วมมือจากรัฐบาลหลายประเทศ ซึ่งไม่มีอะไรรับประกันว่าจะได้มา
เสียงตอบรับจากคู่แข่ง: Altman เห็นด้วย Musk ก็ขานรับ
ข้อเสนอของ Amodei ได้รับเสียงตอบรับค่อนข้างเป็นบวกจากคู่แข่งในสนามเดียวกัน Sam Altman ซีอีโอของ OpenAI ออกมาสนับสนุนแนวทางนี้ ขณะที่ Elon Musk ก็โพสต์แสดงความเห็นด้วยเช่นกัน ซึ่งผิดจากภาพที่คนมักเห็นบริษัท AI แข่งกันแบบไม่มีใครยอมใคร
การที่คู่แข่งรายใหญ่ออกมาขานรับต่อสาธารณะ อาจเป็นสัญญาณว่าอุตสาหกรรมเริ่มรู้สึกถึงความเสี่ยงร่วมกัน แม้จะยังไม่มีใครลงนามในข้อตกลงที่เป็นรูปธรรมก็ตาม
จุดแข็งและข้อจำกัดของแผนนี้
แผนของ Amodei มีจุดแข็งตรงที่เริ่มลงมือจริงฝ่ายเดียวก่อน ไม่ใช่แค่พูดแล้วรอให้คนอื่นตาม แต่ก็ยังมีข้อจำกัดที่ต้องอาศัยความร่วมมือจากหลายฝ่ายซึ่งไม่มีอะไรผูกมัดทางกฎหมาย
ข้อดี
- +มีผู้ตรวจสอบอิสระเข้าถึงข้อมูลจริงในบริษัท ไม่ใช่แค่ตรวจเอกสาร
- +เปิดทางให้รัฐบาลช่วยไกล่เกลี่ยกติการ่วมระหว่างบริษัทคู่แข่ง
ข้อเสีย
- −ต้องอาศัยความร่วมมือจากบริษัทคู่แข่งและรัฐบาลหลายประเทศ ซึ่งไม่มีอะไรผูกมัด
- −ข้อตกลงกับประเทศอย่างจีนจำกัดอยู่แค่กรณีอันตรายชัดเจน ไม่ครอบคลุมความเสี่ยงด้านอื่น
สิ่งที่ยังไม่ชัดเจนและคำถามที่รอคำตอบ
คำถามที่ยังไม่มีคำตอบชัดคืออะไรนับเป็น “ความเร็วที่ยังไม่ผ่านการตรวจสอบ” ตามที่ Amodei พูดถึง และใครเป็นคนตัดสินว่าโมเดลระดับไหนต้องหยุดทบทวนก่อน ข้อตกลงระหว่างประเทศประชาธิปไตยด้วยกันเองก็ยังต้องรอดูว่าจะแปลงจากไอเดียเป็นข้อตกลงจริงได้แค่ไหน ส่วนความร่วมมือกับจีนก็จำกัดอยู่แค่กรณีอันตรายชัดเจนอย่างอาวุธชีวภาพ ไม่ได้ครอบคลุมความเสี่ยงด้านอื่นอย่างการสอดแนมหรือการแทรกแซงข้อมูล
ท้ายที่สุดแล้ว แผนนี้จะกลายเป็นมาตรฐานใหม่ของอุตสาหกรรม หรือเป็นแค่จุดยืนของ Anthropic เพียงบริษัทเดียว ยังต้องรอดูว่าบริษัทอื่นและรัฐบาลจะเดินตามจริงหรือไม่