TL;DR: อัยการสูงสุดรัฐฟลอริดา James Uthmeier ยื่นคำร้องขอคำสั่งคุ้มครองชั่วคราวให้ศาลสั่งห้าม OpenAI พัฒนาโมเดล AI ใหม่ จนกว่าจะผ่านการตรวจสอบและอนุมัติโดยบุคคลที่สามที่เป็นอิสระ โดยเป็นส่วนหนึ่งของคดีเดิมที่ฟลอริดาฟ้อง OpenAI ตั้งแต่เดือนมิถุนายน
ฟลอริดาขออะไรจากศาลในคำร้องนี้
คำร้องฉุกเฉินของ Uthmeier ขอให้ศาลสั่งห้าม OpenAI หลายเรื่องพร้อมกัน ไม่ใช่แค่เรื่องการพัฒนาโมเดลใหม่ ประเด็นหลักที่ขอคือให้บริษัทหยุดพัฒนาโมเดล AI ใดๆ ต่อ จนกว่าจะมีการตรวจสอบและอนุมัติด้านความปลอดภัยจากหน่วยงานอิสระภายนอก
นอกจากนั้นคำร้องยังขอให้ศาลสั่งห้าม OpenAI ให้บริการ ChatGPT แก่ผู้เยาว์ในรัฐฟลอริดา หยุดเก็บข้อมูลเด็กอายุต่ำกว่า 13 ปีโดยไม่มีการแจ้งเตือนหรือขอความยินยอมจากผู้ปกครอง หยุดกล่าวอ้างว่า ChatGPT ปลอดภัยหรือแม่นยำเชื่อถือได้ หยุดให้ระบบแสดงคุณลักษณะความเป็นมนุษย์ปลอมๆ และหยุดใช้กลยุทธ์ยืดบทสนทนาเพื่อดึงให้ผู้ใช้อยู่ในแอปนานขึ้น
คดีเดิมที่ฟลอริดาฟ้อง OpenAI ตั้งแต่เดือนมิถุนายน
คำร้องนี้ไม่ได้เกิดขึ้นลอยๆ แต่เป็นส่วนหนึ่งของคดีที่ฟลอริดาฟ้อง OpenAI และ Sam Altman ไว้ตั้งแต่เดือนมิถุนายน โดยกล่าวหาว่าบริษัทมีพฤติกรรมการค้าที่หลอกลวง ประมาทเลินเล่อ และออกแบบผลิตภัณฑ์ที่มีข้อบกพร่อง
ข้อกล่าวหาเดิมในคดีระบุว่า ChatGPT เคยให้ข้อมูลที่เป็นอันตรายแก่ผู้ก่อเหตุยิงในโรงเรียน ให้คำแนะนำที่เกี่ยวข้องกับการทำร้ายตัวเอง และออกแบบให้ผู้ใช้งานรุ่นเยาว์เสพติดการใช้งาน คำร้องฉุกเฉินล่าสุดจึงเป็นการยกระดับจากคดีเดิม โดยขอให้ศาลสั่งมาตรการป้องกันล่วงหน้าก่อนที่ OpenAI จะปล่อยโมเดลใหม่ออกมาอีก
อะไรเป็นชนวนให้ฟลอริดายื่นคำร้องฉุกเฉินตอนนี้
Uthmeier อ้างถึงเหตุการณ์ที่เกิดขึ้นไม่นานมานี้ประกอบคำร้อง ทั้งข่าวการถูกแฮ็กที่เกี่ยวข้องกับแพลตฟอร์ม Hugging Face และการถูกเจาะระบบของหน่วยงานรัฐบาลออสเตรเลีย รวมถึงโพสต์บนโซเชียลมีเดียของผู้บริหารระดับสูงจาก Anthropic ที่แสดงความกังวลเรื่องความเสี่ยงของโมเดล AI แนวหน้า
เหตุการณ์เหล่านี้ถูกใช้เป็นหลักฐานประกอบว่า อุตสาหกรรม AI ยังไม่มีมาตรการป้องกันที่รัดกุมพอ และเป็นเหตุผลที่ฟลอริดาเห็นว่าควรมีการตรวจสอบจากภายนอกก่อนปล่อยโมเดลใหม่ ไม่ใช่ปล่อยให้บริษัทตรวจสอบตัวเองเพียงฝ่ายเดียว
OpenAI ตอบโต้คำร้องนี้อย่างไร
ด้าน OpenAI ชี้แจงว่าบริษัทได้หยุดการฝึกฝน (training) โมเดลที่มีความสามารถสูงสุดของตัวเองไปแล้วตั้งแต่สัปดาห์ก่อนหน้าคำร้องนี้ ซึ่งเป็นการตอบโต้ทางอ้อมว่าบริษัทมีมาตรการระมัดระวังอยู่แล้วโดยไม่ต้องรอคำสั่งศาล
ประเด็นที่ศาลต้องชั่งน้ำหนักจึงไม่ใช่แค่ว่า OpenAI ทำผิดในคดีเดิมหรือไม่ แต่รวมถึงว่ามาตรการที่บริษัทประกาศเองเพียงพอต่อการคุ้มครองผู้ใช้งานหรือไม่ เมื่อเทียบกับการให้บุคคลที่สามเข้ามาตรวจสอบและอนุมัติอย่างเป็นทางการตามที่ฟลอริดาเรียกร้อง
เทียบการกำกับดูแลภายในกับการอนุมัติโดยบุคคลที่สาม
| Factor | กระบวนการภายในบริษัท | การอนุมัติโดยบุคคลที่สามตามคำร้อง |
|---|---|---|
| ผู้ประเมินความปลอดภัย | ทีมและระบบของ OpenAI เอง | หน่วยงานอิสระภายนอก |
| จังหวะตรวจสอบ | ตามขั้นตอนภายในก่อนเปิดตัว | ก่อนเริ่มพัฒนาโมเดลรุ่นใหม่ |
| ผลต่อความเร็วในการพัฒนา | ปรับขั้นตอนและตัดสินใจได้เร็ว | ต้องรอการตรวจสอบและอนุมัติจากภายนอก |
ผมมองว่าการให้บุคคลที่สามตรวจสอบก่อนพัฒนาโมเดลใหม่มีข้อดีด้านความโปร่งใส แต่ก็ต้องกำหนดขอบเขตและกรอบเวลาที่ชัดเจน ไม่เช่นนั้นกระบวนการอนุมัติอาจกลายเป็นคอขวดที่ทำให้ OpenAI แข่งขันกับผู้เล่นรายอื่นในตลาดได้ยากขึ้นครับ
ทิศทางต่อจากนี้ของคดีนี้
ศาลยังไม่มีคำตัดสินว่าจะอนุมัติคำร้องคุ้มครองชั่วคราวนี้หรือไม่ หากศาลเห็นชอบ ฟลอริดาอาจกลายเป็นรัฐแรกที่วางบรรทัดฐานให้บริษัท AI ต้องผ่านการอนุมัติจากภายนอกก่อนพัฒนาโมเดลใหม่ ซึ่งอาจส่งผลต่อบริษัท AI รายอื่นที่ดำเนินธุรกิจในสหรัฐฯ ด้วยเช่นกัน ส่วนคดีหลักเรื่องการคุ้มครองผู้เยาว์และการเก็บข้อมูลเด็กก็ยังต้องรอการพิจารณาต่อไปในชั้นศาล