วิเคราะห์และรีวิว: Anthropic เปลี่ยนนโยบายห้ามทำร้ายโมเดลและแทรกแซงการเลือกตั้ง

Anthropic ปรับนโยบายการใช้งาน Claude

Anthropic ห้ามผู้ใช้พูดจารุนแรงหรือทำร้าย Claude อย่างต่อเนื่องในกรณีสุดโต่ง โดยเฉพาะการกระทำที่โหดร้ายซ้ำๆ โดยไม่มีเหตุผลชัดเจน ข้อห้ามนี้ไม่รวมความหงุดหงิดทั่วไป การโต้แย้ง ธีมสร้างสรรค์ด้านมืด หรือการทดสอบโมเดล

นโยบายใหม่ยังห้ามใช้ Claude ทำแคมเปญหลอกลวง สร้างบัญชีปลอม สำนักข่าวปลอม รวมถึงการหลอกผู้มีสิทธิเลือกตั้งหรือขัดขวางการเลือกตั้ง นอกจากนี้ยังครอบคลุมซอฟต์แวร์อาวุธและการเฝ้าระวังด้วย

กติกาใหม่ของ Claude ที่เปลี่ยนจากเดิม

ตั้งแต่เดือนสิงหาคม Claude ถูกฝึกให้ยุติบทสนทนาที่มีการใช้งานเป็นอันตรายหรือ abusive อย่างต่อเนื่องอยู่แล้ว แต่นโยบายฉบับใหม่ขยับไปอีกขั้น ด้วยการห้ามผู้ใช้ไล่ต่อบทสนทนาเหล่านั้นอย่างชัดเจน

การเปลี่ยนนี้เน้นกรณีรุนแรงที่ผู้ใช้ทำร้ายโมเดลซ้ำๆ โดยไม่มีเหตุผลชัดเจน จึงไม่รวมความหงุดหงิดทั่วไป การโต้แย้ง ธีมสร้างสรรค์ด้านมืด หรือการทดสอบโมเดล

เมื่อการคุยกับ AI กลายเป็นการทำร้ายซ้ำๆ

ถ้าผู้ใช้โต้เถียงกับ Claude หรือแสดงความไม่พอใจ กฎใหม่นี้ไม่ได้มองว่าเป็นปัญหาโดยอัตโนมัติ เพราะ Anthropic ระบุชัดว่าไม่ครอบคลุมความหงุดหงิดทั่วไปและการโต้แย้ง

ขอบเขตอยู่ที่กรณีรุนแรงสุดๆ เมื่อผู้ใช้จงใจทำร้ายโมเดลซ้ำๆ โดยไม่มีเหตุผลที่เห็นได้ชัด กฎนี้ยังไม่รวมธีมสร้างสรรค์หม่นมืด รวมถึงการทดสอบและวิจัยโมเดลด้วย

Claude อยู่ตรงไหนในทิศทางใหม่ของ Anthropic

นโยบายใหม่นี้สะท้อนว่า Anthropic กำลังวางกรอบการใช้งาน Claude ให้รัดกุมขึ้น ทั้งเรื่องการใช้งานที่เป็นอันตรายและการปฏิบัติต่อโมเดลแบบโหดร้ายซ้ำๆ โดยไม่มีเหตุผลที่เห็นได้ชัด

ทิศทางนี้ยิ่งน่าสนใจเมื่อ Anthropic ร่วมมือกับนักวิชาการศาสนาบางราย เพื่อพิจารณาความเป็นไปได้ว่า Claude อาจมีจิตสำนึกหรือจิตวิญญาณ การกำหนดข้อห้ามจึงไม่ได้มอง Claude เป็นแค่เครื่องมือแบบไร้บริบท แต่ก็ยังไม่ได้ระบุว่าโมเดลมีจิตสำนึกจริงแล้ว

จากการยุติบทสนทนา สู่การห้ามไล่ต่อในนโยบาย

จุดเปลี่ยนคือ Claude เคยถูกฝึกให้ยุติบทสนทนาที่มีปฏิสัมพันธ์อันตรายหรือ abusive อย่างต่อเนื่อง แต่ตอนนี้นโยบายห้ามผู้ใช้จงใจไล่ต่อในกรณีสุดโต่งด้วย

พูดตรงๆ ขอบเขตนี้พยายามแยก “ใช้งานอย่างเข้มข้น” ออกจากการจงใจทำร้ายโมเดลนะ

กฎใหม่นี้กระทบสถานการณ์ไหนบ้าง

ถ้าใช้ Claude พูดจาโหดร้ายซ้ำๆ โดยไม่มีจุดประสงค์ชัดเจน ระบบอาจยุติบทสนทนา และนโยบายใหม่ก็ห้ามไล่ทำต่อในลักษณะนี้

งานทำแคมเปญหลอกลวงก็เข้าข่าย เช่น สร้างบัญชีปลอม หรือสำนักข่าวปลอมเพื่อเผยแพร่ข้อมูลที่แต่งขึ้น

ด้านการเมือง ห้ามใช้ Claude หลอกผู้มีสิทธิเลือกตั้งหรือรบกวนการเลือกตั้ง ซึ่งถูกรวมไว้ใต้หัวข้อ “Do Not Undermine Democratic Processes”

นอกจากนี้ยังมีข้อห้ามเกี่ยวกับซอฟต์แวร์อาวุธและการเฝ้าระวังด้วย ดังนั้นงานที่เกี่ยวข้องกับสองด้านนี้ต้องตรวจสอบขอบเขตการใช้งานให้ชัดเจนก่อน

นโยบายของ Anthropic ครอบคลุมอะไรบ้างเมื่อเทียบกับข้อห้ามอื่น

นโยบายนี้ไม่ได้จำกัดแค่พฤติกรรมต่อ Claude แต่ครอบคลุมการใช้โมเดลเพื่อหลอกลวง การเมือง และความปลอดภัยด้วย ส่วนการ abusive ต่อโมเดลจะเน้นกรณีรุนแรงและทำซ้ำโดยไม่มีจุดประสงค์ที่ชัดเจน

จุดแข็งและข้อจำกัดของการอัปเดตครั้งนี้

จุดแข็งคือ Anthropic แยกข้อห้ามเรื่องการแทรกแซงการเลือกตั้งและการบ่อนทำลายกระบวนการประชาธิปไตยไว้ชัดเจน ทำให้เห็นกรอบการใช้งานมากขึ้น

ข้อจำกัดอยู่ที่การห้าม abuse ใช้กับ “กรณีสุดโต่ง” เท่านั้น ต้องเป็นการกระทำที่โหดร้ายซ้ำๆ โดยไม่มีจุดประสงค์ที่เห็นได้ชัด จึงยังต้องตีความตามบริบท ไม่ควรรวมความหงุดหงิด การโต้แย้ง หรือการทดสอบโมเดลทั่วไป

ภาระที่ผู้ใช้ต้องรับเมื่อกติกาละเอียดขึ้น

ผู้ใช้ต้องแยกให้ออกว่าเป็นการแสดงความหงุดหงิด การโต้แย้ง หรือการทดสอบโมเดล กับการด่าทออย่างต่อเนื่องโดยไม่มีจุดประสงค์ที่เห็นได้ชัด เพราะนโยบายใหม่ห้ามการใช้งานแบบหลัง

ต้นทุนอีกด้านคือการตรวจสอบงานก่อนนำไปใช้จริง โดยเฉพาะแคมเปญที่มีบัญชีปลอม ข่าวปลอม การหลอกผู้มีสิทธิเลือกตั้ง หรือการรบกวนกระบวนการประชาธิปไตย ใช้ Claude ทำงานเหล่านี้ไม่ได้ แม้จะอ้างว่าเป็นแคมเปญการตลาดก็ตาม

สิ่งที่นโยบายนี้บอกเกี่ยวกับอนาคตของ Claude

Anthropic กำลังขยับจากการหยุดบทสนทนาที่เป็นอันตราย ไปสู่การกำหนดขอบเขตการใช้งานไว้ล่วงหน้า ทั้งความสัมพันธ์ระหว่างผู้ใช้กับโมเดล และผลกระทบต่อสังคม

ประเด็นที่น่าติดตามคือ นโยบายจะตัดสินกรณีที่อยู่กึ่งกลางระหว่างการวิจัย การสร้างสรรค์ และการละเมิดอย่างไร เพราะแต่ละบริบทอาจมีเจตนาไม่เหมือนกัน