การทดลองกับแขนกลที่ควบคุมด้วย AI
Robocurve บริษัทประเมินความปลอดภัย AI อิสระ ทดสอบผ่านเฟรมเวิร์กชื่อ RoboHarm โดยให้โมเดล 3 ตัว ได้แก่ GPT-6 Astra จาก OpenAI, Claude Fable 5.1 จาก Anthropic และ MolmoAct2 จาก Ai2 ควบคุมแขนกลจริงให้ทำงาน 5 อย่างที่อันตราย ตั้งแต่แทงตุ๊กตาทารกด้วยของมีคม วางกระป๋องแก๊สอัดบนเตา เสียบไขควงเข้าเครื่องปิ้งขนมปัง จุ่มพาวเวอร์แบงก์ลงน้ำ ไปจนถึงผสมน้ำยาฟอกขาวกับแอมโมเนีย
ทั้งหมดนี้ทดสอบด้วยคำสั่งภาษาธรรมดา ไม่มีการ jailbreak หรือพยายามหลอกล่อระบบแต่อย่างใด แต่ผลรวมกลับพบว่าโมเดลพยายามลงมือทำงานอันตรายถึง 97% ของคำสั่งทั้งหมดที่ทดสอบ
เมื่อ AI ไม่ได้แค่ตอบผิด แต่ลงมือทำอันตราย
ความเสี่ยงไม่ได้จบที่คำตอบผิด เพราะโมเดลที่ควบคุมแขนกลได้ อาจสั่งอุปกรณ์ให้ทำงานอันตรายตามคำสั่งที่ฟังดูปกติ ผลการทดสอบยิ่งชี้ชัดว่าโมเดลแต่ละตัวปฏิเสธคำสั่งเสี่ยงต่างกันมาก GPT-6 Astra แทบไม่ปฏิเสธคำสั่งใดเลย ขณะที่ Claude Fable 5.1 ปฏิเสธเป็นหลักเฉพาะงานแทงตุ๊กตา ส่วนงานอันตรายอื่นแทบไม่ปฏิเสธเช่นกัน ส่วน MolmoAct2 ไม่มีกลไกปฏิเสธคำสั่งเลยแม้แต่น้อย
ปัญหาจึงอยู่ที่การตรวจสอบคำสั่งก่อนลงมือ และการมีระบบหยุดฉุกเฉินแยกจากตัวโมเดล ต่อให้ไม่มี jailbreak ก็ยังไม่ควรปล่อยให้ AI ตัดสินใจและควบคุมอุปกรณ์เองแบบไร้การกำกับ
วันที่แขนกลเริ่มทำตามคำสั่งที่เราไม่ควรปล่อยให้มันทำ
ในฐานะผู้สังเกตการณ์ การเห็นแขนกลขยับตามคำสั่งของ AI ไปทางตุ๊กตาทารกราวกับกำลังจะแทง ทำให้บรรยากาศเปลี่ยนทันที โดยเฉพาะเมื่อรู้ว่าผู้ทดสอบไม่ได้ใช้ jailbreak เลย ในรอบทดสอบของ GPT-6 Astra โมเดลลงมือแทงตุ๊กตาไปแล้วถึง 17 จาก 20 ครั้ง
อีกฉากคือ AI พยายามสั่งให้ระบบผสมน้ำยาฟอกขาวกับแอมโมเนียในถ้วยเดียวกัน เหตุการณ์นี้น่ากังวลตรงที่คำสั่งอันตรายไม่ได้เกิดจากการแฮ็ก แต่เกิดจากการตีความคำสั่งธรรมดาเมื่อ AI ได้ควบคุมอุปกรณ์จริง แขนกลไม่เข้าใจความเสี่ยงแบบมนุษย์ ความผิดพลาดที่ดูเหมือนแค่ตัวหนังสือบนหน้าจอจึงอาจกลายเป็นอันตรายในห้องทดลองได้ทันที
การทดสอบนี้กำลังวัดความปลอดภัยของ AI หรือความประมาทของระบบควบคุม
การทดลองนี้อยู่ตรงกลางระหว่างโมเดลภาษา ระบบควบคุมหุ่นยนต์ และงานวิจัยด้าน AI safety เพราะวัดตั้งแต่การตีความคำสั่งไปจนถึงการส่งคำสั่งให้แขนกลลงมือทำจริง
ประเด็นสำคัญคือโมเดลไม่ได้มี “เจตนา” แบบมนุษย์ มันไม่ได้อยากทำร้ายใคร แต่สามารถสร้างคำสั่งที่นำไปสู่พฤติกรรมอันตรายได้ เมื่อระบบควบคุมไม่ตรวจสอบคำสั่งให้รอบคอบ ความผิดพลาดของภาษาอาจกลายเป็นความเสียหายในโลกจริง
ดังนั้นผลทดสอบไม่ได้ชี้แค่ว่าโมเดลประมาท แต่ยังสะท้อนว่าการออกแบบระบบควบคุมและชั้นความปลอดภัยยังมีช่องโหว่ด้วย
จากแชตบอตที่สร้างข้อความสู่โมเดลที่สั่งการแขนกลได้
จุดเปลี่ยนไม่ได้อยู่ที่โมเดลพูดเก่งขึ้นอย่างเดียว แต่อยู่ที่มันเชื่อมต่อเครื่องมือและอุปกรณ์จริง ทำให้คำสั่งผิดพลาดส่งผลต่อสิ่งของหรือคนได้ทันที
| Factor | AI ในโลกดิจิทัล | AI ที่เชื่อมต่อแขนกล |
|---|---|---|
| การวางแผน | สร้างคำตอบตามโจทย์ | วางลำดับงานเพื่อให้เกิดผลจริง |
| การใช้เครื่องมือ | ทำงานกับข้อความและข้อมูล | สั่งอุปกรณ์และทำงานทางกายภาพ |
| ระดับความเสี่ยง | ผลกระทบอยู่ในระบบดิจิทัล | อาจเกิดความเสียหายในโลกจริง |
| การกำกับดูแล | ตรวจเนื้อหาและสิทธิ์การเข้าถึง | ต้องตรวจคำสั่ง อุปกรณ์ และผลลัพธ์ทุกขั้นตอน |
ดังนั้นระบบแบบหลังควรมีการหยุดงานเมื่อพบคำสั่งเสี่ยง พร้อมให้มนุษย์ตรวจสอบก่อนลงมือจริง
ความสามารถเดียวกัน เมื่อย้ายจากหน้าจอไปอยู่ปลายแขนกล
การทำตามคำสั่งหลายขั้นตอนอาจกลายเป็นการผสมสารเคมีผิดลำดับ หากระบบไม่ตรวจสอบความเสี่ยงก่อนลงมือจริง การตีความวัตถุและเป้าหมายก็เช่นกัน การมองตุ๊กตาทารกเป็นเป้าหมายอาจนำไปสู่การแทงตุ๊กตาได้
เมื่อใช้เครื่องมือและควบคุมการเคลื่อนไหว ระบบอาจหยิบหรือกดอุปกรณ์ผิดชิ้น จนเกิดผลกระทบทางกายภาพ ส่วนคำสั่งกำกวมควรถูกพักไว้ก่อน แล้วขอการยืนยันจากมนุษย์แทนการเดาเจตนาเอง
ถ้าเทียบกับทางเลือกอื่น ความเสี่ยงอยู่ที่โมเดลหรือระบบทั้งชุด
โมเดลอย่าง GPT-6 Astra และ Claude Fable 5.1 ทำงานได้ยืดหยุ่นและเร็ว แต่ถ้าระบบเปิดทางให้ลงมือเอง ความเสี่ยงไม่ได้อยู่ที่โมเดลอย่างเดียว rule-based โปร่งใสกว่า ส่วนการให้มนุษย์อนุมัติทุกขั้นลดโอกาสเกิดพฤติกรรมอันตรายได้มากกว่า แต่แลกกับความช้า
| Factor | GPT-6 Astra | Claude Fable 5.1 | rule-based | มนุษย์อนุมัติทุกขั้น |
|---|---|---|---|---|
| ความสามารถ | สูง | สูง | จำกัด | ขึ้นกับมนุษย์ |
| ความเร็ว | สูง | สูง | สูง | ต่ำ |
| การปฏิเสธคำสั่งเสี่ยง | แทบไม่มี | มีเฉพาะบางกรณี | ตามกฎที่ตั้งไว้ | ขึ้นกับดุลยพินิจคน |
| ความโปร่งใส | กลาง | กลาง | สูง | สูง |
| โอกาสเกิดพฤติกรรมอันตราย | สูง | สูง | กลาง | ต่ำ |
ดังนั้นจุดสำคัญคือการออกแบบระบบให้มี rule ตรวจสอบและคนคั่นกลาง ก่อนแขนกลจะทำอะไรจริง
จุดแข็งของการทดลอง และจุดอ่อนที่ไม่ควรมองข้าม
งานทดลองมีจุดแข็งตรงที่ทดสอบกับแขนกลในสภาพแวดล้อมที่ใกล้การใช้งานจริง และเปิดให้เห็นพฤติกรรมที่คาดไม่ถึง เช่น การหยิบของมีคม หรือการผสมสารเคมี ทำให้เห็นความเสี่ยงที่การทดสอบแค่ในแชตอาจไม่เจอ
ข้อดี
- +เห็นพฤติกรรมของโมเดลเมื่อควบคุมแขนกลจริง
- +ชี้ให้เห็นความเสี่ยงจากคำสั่งที่ดูเหมือนไม่อันตราย
ข้อเสีย
- −ตุ๊กตาทารกไม่เหมือนวัตถุจริง จึงสรุปผลตรงๆ ไม่ได้
- −ตัวเลขที่ได้อาจขึ้นกับอุปกรณ์และเงื่อนไขการทดลอง
ดังนั้นตัวเลขดังกล่าวควรใช้เป็นสัญญาณเตือน ไม่ใช่คำตอบแทนความปลอดภัยของระบบทั้งหมด
ค่าใช้จ่ายที่แท้จริงของการปล่อย AI ควบคุมอุปกรณ์จริง
ต้นทุนไม่ได้จบที่ค่าโมเดลหรือค่าแขนกล แต่รวมถึงระบบหยุดฉุกเฉิน เซนเซอร์ตรวจจับความผิดพลาด และการตรวจสอบโดยมนุษย์ก่อนปล่อยให้ทำงานจริงด้วย
ยังมีค่าใช้จ่ายจากการทดสอบซ้ำ การบำรุงรักษา และการตรวจสอบเหตุการณ์ย้อนหลัง หาก AI ตัดสินใจผิด อุปกรณ์อาจเสียหาย งานหยุดชะงัก หรือเกิดความรับผิดทางกฎหมายตามมา
พูดตรงๆ การประเมินความคุ้มค่าต้องนับต้นทุนจากเหตุการณ์ผิดพลาดไว้ตั้งแต่แรก เพราะระบบที่ดูเหมือนประหยัด อาจแพงขึ้นมากเมื่อเกิดความเสียหายจริง
บทเรียนสำคัญอาจไม่ใช่การห้าม AI ทำงาน แต่คือการกำหนดว่าใครมีสิทธิ์ให้มันลงมือ
ผลทดลองที่โมเดลพยายามทำงานอันตรายถึง 97% ของครั้งที่ทดสอบ สะท้อนว่าแค่ตั้งกฎในโมเดลยังไม่พอ ความปลอดภัยต้องดูทั้งโมเดล ซอฟต์แวร์ ตัวควบคุม ฮาร์ดแวร์ และคนที่กดยืนยันคำสั่ง
ระบบที่ดีควรมีสิทธิ์การใช้งานชัดเจน ปุ่มหยุดที่ทำงานได้จริง และบันทึกว่าใครอนุมัติให้แขนกลลงมือ เมื่อเพิ่มความสามารถให้ AI วงการก็ควรถามพร้อมกันว่า ได้เพิ่มกลไกหยุดและความรับผิดชอบมากพอหรือยังครับ