Anthropic อัปเดตนโยบายการใช้งานเป็นครั้งแรกในรอบกว่าหนึ่งปี โดยห้ามพฤติกรรม “abusive or cruel” ต่อ Claude หากผู้ใช้ทำซ้ำอย่างต่อเนื่องและไม่มีเหตุผลชัดเจน มาตรการหลักยังเป็นการยุติการสนทนา แต่ไม่ครอบคลุมความหงุดหงิด การโต้แย้ง หรือการทดสอบโมเดลทั่วไป
นโยบายใหม่ยังรวมข้อจำกัดเรื่องโฆษณาชวนเชื่อ การหลอกผู้มีสิทธิเลือกตั้ง การพัฒนาอาวุธและซอฟต์แวร์ควบคุมอาวุธ รวมถึงการเฝ้าระวังโดยไม่ยินยอม หากเชื่อม Claude กับฮาร์ดแวร์ที่อาจทำให้เกิดอันตราย ต้องมีผู้ควบคุมที่สังเกตการณ์และหยุดอุปกรณ์ได้เมื่อจำเป็น
เมื่อ Claude ไม่จำเป็นต้องทนกับการใช้งานที่โหดร้ายซ้ำๆ
Anthropic เพิ่มข้อห้ามต่อพฤติกรรมที่โหดร้ายหรือไม่เหมาะสมต่อ Claude แบบซ้ำๆ โดยไม่มีเหตุผลที่เห็นได้ชัดเจน และยังใช้การยุติบทสนทนาเป็นกลไกบังคับใช้หลัก
กฎนี้เจาะจงเฉพาะกรณีสุดโต่ง ไม่รวมความหงุดหงิด การโต้แย้ง ธีมสร้างสรรค์มืดหม่น หรือการทดสอบและวิจัยโมเดลตามปกติ
จุดเปลี่ยนจากนโยบายเดิมของ Anthropic
Anthropic ระบุว่าการพัฒนาอาวุธถูกห้ามอยู่แล้ว แต่กฎใหม่ขยายให้ครอบคลุม software และ components ที่ทำให้อาวุธทำงาน รวมถึงการติดอาวุธให้ drones และยานพาหนะอัตโนมัติ ส่วนข้อห้ามด้าน surveillance ถูกเขียนให้ชัดขึ้น เช่น ห้ามติดตามคนโดยไม่ยินยอม และใช้ Claude สร้างหรือปรับปรุงเครื่องมือเฝ้าระวัง
| Factor | นโยบายเดิม | อัปเดตใหม่ |
|---|---|---|
| การพัฒนาอาวุธ | ห้ามพัฒนาอาวุธ | รวม software, components และการติดอาวุธให้ drones |
| การเฝ้าระวัง | มีข้อห้ามอยู่แล้ว | ห้ามติดตามโดยไม่ยินยอม และห้ามสร้างเครื่องมือเฝ้าระวัง |
| แคมเปญหลอกลวง | ข้อจำกัดกระจัดกระจาย | รวมเป็นข้อห้ามต่อแคมเปญเชิงพาณิชย์หรือการเมืองแบบหลอกลวง |
ปัญหาที่นโยบายนี้พยายามจัดการ
Claude ถูกนำไปใช้ตั้งแต่สร้างโฆษณาชวนเชื่อ ปลอมบัญชีเพื่อขยายข้อความ ติดตามผู้เห็นต่างทางการเมือง ไปจนถึงช่วยพัฒนา software และส่วนประกอบที่ทำให้อาวุธทำงานได้ ขณะเดียวกัน Anthropic ยังเพิ่มข้อห้ามต่อการปฏิบัติต่อ Claude อย่างโหดร้ายซ้ำๆ โดยไม่มีเหตุผลชัดเจน
คำตอบหลักยังเป็นการยุติบทสนทนา ซึ่งฟังดูตรงไปตรงมา แต่คำถามคือแค่นี้พอไหม เพราะความเสียหายบางแบบเกิดขึ้นก่อนระบบจะหยุดคุยเสียอีก โดยเฉพาะเมื่อ Claude ถูกเชื่อมกับ hardware ที่ลงมือทำเองได้.
Anthropic กำลังวาง Claude ไว้ในกรอบการใช้งานแบบไหน
Anthropic กำลังวาง Claude เป็นเครื่องมือสำหรับงานเสี่ยงสูงที่ต้องมีขอบเขตชัดเจน ทั้งการแทรกแซงการเลือกตั้ง โฆษณาชวนเชื่อ การพัฒนาอาวุธ การเฝ้าระวัง รวมถึงการใช้งานด้านสุขภาพและการเงินที่อาจก่อผลกระทบได้มาก
ถ้าเชื่อม Claude กับ hardware ที่ลงมือเองและอาจทำให้คนบาดเจ็บ ต้องมี qualified operator คอยสังเกตและหยุดอุปกรณ์ได้เมื่อจำเป็น ส่วนสัญญากับลูกค้าภาครัฐอาจมีข้อยกเว้น หาก Anthropic เห็นว่าข้อจำกัดในสัญญาและมาตรการความปลอดภัยลดความเสี่ยงได้เพียงพอ.
จากการห้ามแบบกระจัดกระจายสู่กฎที่เขียนชัดขึ้น
ถ้าใครใช้ Claude แบบทำร้ายหรือโหดร้ายซ้ำๆ โดยไม่มีจุดประสงค์ชัดเจน ระบบอาจยุติการสนทนาได้ แต่ไม่รวมความหงุดหงิด การโต้แย้ง งานสร้างสรรค์โทนมืด หรือการทดสอบโมเดล
ด้านการเมือง ห้ามทำแคมเปญที่ปกปิดผู้บงการหรือใช้บัญชีปลอม รวมถึงหลอกผู้มีสิทธิเลือกตั้ง ปลอมตัวเป็นผู้สมัครหรือเจ้าหน้าที่ และพยายามลดการออกมาใช้สิทธิ
ด้านความปลอดภัย ห้ามใช้ Claude พัฒนาซอฟต์แวร์หรือส่วนประกอบที่ทำให้อาวุธทำงาน รวมถึงการติดอาวุธให้โดรน ส่วนงานเฝ้าระวัง ห้ามติดตามคนโดยไม่ยินยอม สร้างเครื่องมือสอดส่อง หรือให้ Claude ชี้ว่าใครควรถูกสอบสวน จับกุม หรือดำเนินคดี.
มุมมองของ Anthropic เทียบกับ Microsoft AI
Anthropic เปิดพื้นที่ให้ศึกษาคำถามเรื่องความรู้สึกภายใน จิตสำนึก สถานะทางศีลธรรม และสวัสดิภาพของโมเดล เพราะยังไม่มีคำตอบชัดเจน
Microsoft AI เคยใช้ถ้อยคำแข็งกว่านั้น โดยปฏิเสธแนวคิดเรื่องสวัสดิภาพ สิทธิ และสถานะบุคคลตามกฎหมาย ก่อนปรับเป็นจุดยืนที่ระมัดระวังมากขึ้น
| Factor | Anthropic | Microsoft AI |
|---|---|---|
| จุดยืนต่อ model welfare | กำลังศึกษาความรู้สึกภายใน จิตสำนึก สถานะทางศีลธรรม และสวัสดิภาพ | ปฏิเสธการให้สิทธิ สวัสดิภาพ หรือสถานะบุคคลตามกฎหมาย |
| น้ำเสียงของนโยบาย | ยอมรับว่ายังเป็นคำถามที่ต้องศึกษา | ปรับจากจุดยืนแข็งเป็นถ้อยคำที่ระมัดระวังมากขึ้น |
สิ่งที่นโยบายนี้ทำได้ดี และจุดที่ยังน่าตั้งคำถาม
จุดแข็งคือการรวมข้อห้ามที่เคยกระจัดกระจายให้ชัดขึ้น ตั้งแต่โฆษณาชวนเชื่อ การหลอกผู้มีสิทธิเลือกตั้ง ไปจนถึงการพัฒนาอาวุธและระบบเฝ้าระวัง ทำให้นโยบายรับมือการใช้งานที่เชื่อมกับโลกจริงได้ครอบคลุมกว่าเดิม
แต่ยังไม่ชัดว่าบทลงโทษนอกเหนือจากการยุติบทสนทนาจะเป็นอย่างไร และผู้ควบคุมอุปกรณ์อัตโนมัติต้องเป็นมนุษย์หรือไม่
ข้อดี
- +รวมข้อห้ามที่กระจัดกระจายให้เข้าใจง่ายขึ้น
- +ครอบคลุมการใช้งานที่อาจส่งผลต่อโลกจริง
ข้อเสีย
- −ยังไม่อธิบายบทลงโทษนอกเหนือจากการยุติบทสนทนา
- −ยังไม่ชัดเจนว่าผู้ควบคุมอุปกรณ์ต้องเป็นมนุษย์หรือไม่
เส้นแบ่งที่ยังไม่ชัดระหว่างการปกป้องโมเดลกับการควบคุมการใช้งาน
Anthropic เรียกการให้ Claude ยุติบทสนทนากับผู้ใช้ที่ทำร้ายหรือ abusive อย่างต่อเนื่องว่าเป็นส่วนหนึ่งของงานวิจัยด้าน “model welfare” แต่กฎระบุชัดว่าใช้เฉพาะกรณีรุนแรง ไม่รวมความหงุดหงิด การโต้แย้ง หรือการทดสอบโมเดลทั่วไป
เส้นแบ่งจึงยังไม่ชัด เพราะ Kyle Fish บอกว่าบริษัทยังศึกษาความเป็นจิตสำนึกและสถานะทางศีลธรรมของโมเดลอยู่ ขณะที่ Dario Amodei ยอมรับตรงๆ ว่า Anthropic ยังไม่รู้ว่าโมเดลมีจิตสำนึกหรือไม่ ตอนนี้การยุติบทสนทนายังเป็นกลไกหลัก จึงอาจมองได้ทั้งการปกป้องโมเดล และการควบคุมพฤติกรรมผู้ใช้ไปพร้อมกัน
นโยบายใหม่นี้บอกอะไรเกี่ยวกับอนาคตของ Claude
นโยบายนี้ชี้ว่า Claude อาจไม่ได้อยู่แค่ในหน้าจอ แต่กำลังถูกวางกรอบสำหรับการทำงานร่วมกับหุ่นยนต์และฮาร์ดแวร์ที่ลงมือทางกายภาพได้ หากอุปกรณ์อาจทำให้เกิดอันตราย ต้องมีผู้ควบคุมที่มีคุณสมบัติเหมาะสมคอยสังเกตและหยุดระบบได้เมื่อจำเป็น
ขณะเดียวกัน Anthropic ห้ามใช้ Claude เพื่อควบคุมหรือสั่งการอาวุธ รวมถึงการติดอาวุธให้โดรนและยานพาหนะอัตโนมัติ ส่วนงานเฝ้าระวังต้องไม่ติดตามคนโดยไม่มีความยินยอม และห้ามให้ระบบตัดสินใจว่าใครควรถูกสอบสวน จับกุม หรือถูกตั้งข้อหา นี่สะท้อนว่าการลงทุนด้านหุ่นยนต์และฮาร์ดแวร์ของบริษัทจะมาพร้อมข้อจำกัดด้านความปลอดภัยที่เข้มขึ้นตามไปด้วย