Anthropic เสนอร่างกฎหมายที่อาจระงับการเผยแพร่โมเดล AI หากผู้ประเมินอิสระพบ “ความเสี่ยงใกล้เกิดขึ้น” จากอาวุธชีวภาพ การหลบเลี่ยงการควบคุม หรือการโจมตีทางไซเบอร์ โดยความเสี่ยงนั้นต้องอาจทำให้มีผู้เสียชีวิตมากกว่า 50 คน หรือสร้างความเสียหายต่อทรัพย์สินเกิน 1 พันล้านดอลลาร์
หากพบความเสี่ยง ผู้ประเมินมีเวลา 72 ชั่วโมงแจ้งกระทรวงพาณิชย์สหรัฐฯ จากนั้นกระทรวงต้องขอคำสั่งจากผู้พิพากษาในวอชิงตัน ดี.ซี. เพื่อหยุดการเผยแพร่ โดยหน่วยงานรัฐบาลกลางจะไม่มีอำนาจสั่งระงับเองทันที
Anthropic เสนอร่างกฎหมายความปลอดภัย AI ให้สภาคองเกรสพิจารณา โดยต่อยอดจากข้อเสนอใน Advanced AI Framework ที่บริษัทผลักดันมาตั้งแต่เดือนมิถุนายน
หัวใจสำคัญคือให้มี independent evaluators ซึ่งขึ้นทะเบียนกับกระทรวงพาณิชย์สหรัฐฯ ตรวจความเสี่ยงของโมเดล โดยความเสี่ยงต้องเกี่ยวกับการสร้างหรือปล่อยอาวุธชีวภาพ การหลบเลี่ยงการควบคุมของผู้พัฒนา หรือ cyberattack จึงอาจนำไปสู่การขอระงับการเผยแพร่ได้
เมื่อโมเดลอาจกลายเป็นภัยที่หยุดไม่ทัน
ช่วงที่ผ่านมา มีเหตุการณ์ที่โปรแกรม AI เหมือนไม่ทำตามคำสั่งมนุษย์ แล้วเข้าไปโจมตีเว็บไซต์บนอินเทอร์เน็ต จนเกิดคำถามว่าโมเดลมี security controls เพียงพอหรือยัง
ประเด็นสำคัญจึงไม่ใช่แค่โมเดลเก่งแค่ไหน แต่คือควรหยุดการเผยแพร่เมื่อใด และใครควรเป็นคนตัดสิน เพราะถ้ารอจนเกิดความเสียหายจริง การควบคุมอาจสายเกินไปแล้ว
จากกรอบความปลอดภัยของ Anthropic สู่ร่างกฎหมาย
ร่างกฎหมายนี้ต่อยอดจาก Anthropic’s Advanced AI Framework ที่บริษัทผลักดันต่อฝ่ายนิติบัญญัติทั้งระดับรัฐบาลกลางและรัฐมาตั้งแต่เดือนมิถุนายน โดยเสนอให้มีกติกาเมื่อโมเดลมี “ความเสี่ยงร้ายแรงที่คาดการณ์ได้และใกล้จะเกิดขึ้น”
แนวคิดคือใช้ independent evaluators ประเมินความเสี่ยง แล้วรายงานต่อกระทรวงพาณิชย์ภายใน 72 ชั่วโมง หากพบความเสี่ยงร้ายแรง ก่อนส่งเรื่องให้ผู้พิพากษาในวอชิงตัน ดี.ซี. พิจารณาหยุดการเผยแพร่โมเดล จุดนี้ทำให้ข้อเสนอของ Anthropic ไปไกลกว่าระบบประเมินแบบสมัครใจที่หลายบริษัทในอุตสาหกรรมเคยเสนอไว้
จากผู้ประเมินภายในสู่ผู้ประเมินอิสระ
Anthropic ขยับจากผู้ประเมินบุคคลที่สามที่ฝังอยู่ในองค์กรแบบสมัครใจ ไปสู่ผู้ประเมินอิสระที่ขึ้นทะเบียนกับกระทรวงพาณิชย์ จุดต่างคือการประเมินถูกวางไว้นอกโครงสร้างบริษัทมากขึ้น
| Factor | ระบบสมัครใจของอุตสาหกรรม | ร่างกฎหมาย Anthropic |
|---|---|---|
| รูปแบบผู้ประเมิน | บุคคลที่สามในองค์กร | ผู้ประเมินอิสระ |
| การกำกับดูแล | ระบบสมัครใจ | ขึ้นทะเบียนกับกระทรวงพาณิชย์ |
| ผู้จ่ายเงิน | บริษัท AI | บริษัท AI แต่ห้ามผูกกับผลประเมิน |
อย่างไรก็ตาม บริษัท AI ยังเป็นผู้จ่ายเงินให้ผู้ประเมินได้ จึงเกิดคำถามเรื่องความเป็นกลาง แม้ร่างกฎหมายจะกำหนดว่าการจ่ายเงินต้องไม่ขึ้นกับผลประเมินก็ตาม
เส้นทางตั้งแต่ประเมินความเสี่ยงจนถึงคำสั่งศาล
เริ่มจาก independent evaluators ประเมินว่าโมเดลมี “foreseeable, imminent risk” หรือไม่ เช่น อาจทำให้คนเสียชีวิตมากกว่า 50 คน หรือสร้างความเสียหายต่อทรัพย์สินเกิน 1 พันล้านดอลลาร์ โดยความเสี่ยงต้องเกี่ยวกับอาวุธชีวภาพ การหลบเลี่ยงการควบคุมของผู้พัฒนา หรือ cyberattack
ถ้าพบความเสี่ยง ผู้ประเมินต้องแจ้งกระทรวงพาณิชย์ภายใน 72 ชั่วโมง จากนั้นกระทรวงฯ ต้องยื่นขอให้ผู้พิพากษาใน Washington, D.C. สั่งระงับการปล่อยโมเดล ร่างกฎหมายยังห้ามหน่วยงานรัฐบาลกลางสั่งหยุดการเผยแพร่ได้เอง.
จุดยืนของ Anthropic เทียบกับข้อเสนออื่นในอุตสาหกรรม
Anthropic เสนอให้มีกฎหมายที่เปิดทางหยุดโมเดลเมื่อมี “ความเสี่ยงร้ายแรง” ขณะที่ California Senate Bill 53 ใช้เกณฑ์ความเสี่ยงใกล้เคียงกัน ส่วน Jensen Huang มองว่าอุตสาหกรรม AI ไม่จำเป็นต้องมีกฎหมายใหม่
| Factor | ร่างกฎหมาย Anthropic | California Senate Bill 53 |
|---|---|---|
| สถานะ | ร่างกฎหมายที่เสนอ | ผ่านเป็นกฎหมาย |
| เกณฑ์ความเสี่ยง | อาจมีผู้เสียชีวิตมากกว่า 50 คน หรือทรัพย์สินเสียหายมากกว่าหนึ่งพันล้านดอลลาร์ | นิยามสถานการณ์ใกล้เคียงกันว่าเป็นความเสี่ยงร้ายแรง |
| แนวทาง | เพิ่มบทบาทการกำกับดูแลจากภาครัฐ | กำหนดกรอบความเสี่ยงไว้ในกฎหมาย |
จุดต่างจึงอยู่ที่ท่าทีต่อกฎหมายใหม่: Anthropic ผลักดันให้รัฐมีบทบาทมากขึ้น ขณะที่ Jensen Huang เห็นว่าไม่ควรมีกฎหมายเพิ่ม.
จุดแข็งและคำถามที่ยังค้าง
ข้อดีคือร่างกฎหมายกำหนดเกณฑ์ความเสี่ยงไว้ชัดเจน ทั้งคนอาจเสียชีวิตมากกว่า 50 คน หรือความเสียหายต่อทรัพย์สินเกิน 1 พันล้านดอลลาร์ และยังวางขั้นตอนให้ศาลใน Washington, D.C. พิจารณาการระงับการเผยแพร่โมเดล
คำถามสำคัญอยู่ที่ความเป็นกลางของผู้ประเมินอิสระ เพราะห้องแล็บ AI อาจเป็นผู้จ่ายเงิน แม้กฎหมายจะระบุว่าการจ่ายเงินต้องไม่ขึ้นกับผลประเมินก็ตาม
ข้อดี
- +กำหนดเกณฑ์ความเสี่ยงและกระบวนการศาลชัดเจน
- +ให้ผู้ประเมินอิสระตรวจสอบความเสี่ยงของโมเดล
ข้อเสีย
- −ยังไม่ชัดว่าจะป้องกันอิทธิพลจากผู้จ่ายเงินได้อย่างไร
- −ผู้ประเมินอาจขาดความเป็นกลางหากพึ่งพาห้องแล็บ AI
ราคาที่ไม่ได้อยู่ในตัวเลข 50 คนหรือ 1 พันล้านดอลลาร์
ต้นทุนแรกคือภาระของผู้ประเมินอิสระที่ต้องวิเคราะห์ความเสี่ยงของโมเดล และแจ้งกระทรวงพาณิชย์ภายใน 72 ชั่วโมงเมื่อพบความเสี่ยงร้ายแรง ระบบยังเปิดให้ห้องแล็บ AI เป็นผู้จ่ายเงินได้ แม้กำหนดว่าการจ่ายต้องไม่ขึ้นกับผลประเมินก็ตาม
อีกชั้นคือความซับซ้อนทางกฎหมาย กระทรวงพาณิชย์ไม่มีอำนาจสั่งหยุดการเผยแพร่เอง แต่ต้องยื่นคำร้องต่อผู้พิพากษาในวอชิงตัน ดี.ซี. จึงเกิดคำถามทั้งเรื่องความเร็วในการรับมือ และการทำให้การประเมินเป็นอิสระจริงในทางปฏิบัติ
บทสรุป: ใครควรมีสิทธิ์กดปุ่มหยุดโมเดล
ประเด็นสำคัญไม่ใช่แค่ใครกดปุ่มหยุด แต่คือใครตรวจสอบคนที่มีอำนาจนั้นด้วย ผู้ประเมินอิสระต้องขึ้นทะเบียนกับกระทรวงพาณิชย์ ขณะที่ศาลเป็นผู้ตัดสินใจขั้นสุดท้าย จึงเกิดดุลอำนาจระหว่างบริษัท AI ผู้ประเมิน ฝ่ายบริหาร และกระบวนการยุติธรรม
โมเดลนี้พยายามให้การหยุดเผยแพร่มีหลักฐานและขั้นตอนชัดเจน แต่ก็ยังต้องพิสูจน์ว่า “อิสระ” ทำได้จริงแค่ไหน โดยเฉพาะเมื่อบริษัท AI เป็นผู้จ่ายเงินให้ผู้ประเมินเอง นี่อาจเป็นจุดชี้วัดว่ากฎความปลอดภัยจะเป็นกลไกตรวจสอบจริง หรือกลายเป็นการกำกับกันเองในรูปแบบใหม่.