ผู้พิพากษาปรับทนายความเนื่องจากใช้งานวิจัยทางกฎหมายที่สร้างขึ้นจาก AI ปลอม

ผู้พิพากษาสหรัฐฯ ได้วิพากษาอย่างรุนแรงต่อสองสำนักงานทนายความ เนื่องจากได้รวมข้อมูลทางกฎหมายปลอมที่สร้างขึ้นด้วย AI ลงในการยื่นฟ้องศาล ซึ่งเรียกว่าเป็นความผิดพลาดใหญ่ทางความรับผิดชอบทางกฎหมาย

ผู้วินิจฉัย Michael Wilner ที่อยู่ในแคลิฟอร์เนีย ได้ปรับฟิร์มด้วยเงิน $31,000 หลังจากพบว่าเรื่องย่อ มีการอ้างอิงและคำพูดทางกฎหมายที่ “เท็จ, ไม่ถูกต้อง และทำให้เกิดความสับสน” ดังที่ WIRED รายงานเป็นครั้งแรก

“ไม่มีทนายความที่มีความสามารถในการทำงานอย่างมีประสิทธิภาพที่ควรจะส่งงานวิจัยและการเขียนให้กับ AI,” วิลเนอร์เขียนในคำสั่งการพิพากษาของเขา โดยเตือนว่าเขาคล้อยตัวใกล้จะรวมคดีปลอมเหล่านี้ลงในคำสั่งการพิพากษาทางศาล

“ฉันอ่านข้อความที่พวกเขาเขียน ถูกโน้มน้าว (หรืออย่างน้อยก็ตื่นใจ) โดยคำแนะนำที่พวกเขาอ้างถึง และศึกษาการตัดสินใจเพิ่มเติมเกี่ยวกับเรื่องนั้น – แต่พบว่าพวกเขาไม่มีอยู่จริง” เขากล่าว ดังที่ได้รายงานโดย WIRED “นั่นน่ากลัว,” เขาเพิ่มเติม

สถานการณ์นี้เกิดขึ้นในระหว่างการฟ้องร้องทางศาลศิลป์แพ่งต่อ State Farm ทนายความหนึ่งใช้เครื่องมือ AI เพื่อร่างโครงร่างกฎหมาย ใบเอกสารนั้น ซึ่งมีการวิจัยปลอม ถูกส่งถึงบริษัททนายความขนาดใหญ่ K&L Gates ซึ่งได้เพิ่มเข้าไปในการยื่นฟ้องอย่างเป็นทางการ

“ไม่มีทนายความหรือเจ้าหน้าที่ที่หนึ่งในทั้งสองบริษัทที่ตรวจสอบการอ้างอิงหรือทบทวนการวิจัยนั้นก่อนยื่นข้อร้องทวงทรัพย์” ดังที่ Wilner ระบุ ตามที่รายงานโดย WIRED

หลังจากค้นพบว่าอย่างน้อยสองจากคดีที่อ้างอิงเป็นคดีที่ถูกสร้างขึ้นมาเป็นที่สิ้นเชิง ผู้พิพากษาวิลเนอร์จึงขอความชัดเจนจาก K&L Gates แต่เมื่อพวกเขาส่งเวอร์ชันใหม่ กลับพบว่ามีการอ้างอิงที่เป็นปลอมมากขึ้น ผู้พิพากษาจึงทวงขอคำอธิบาย ซึ่งเปิดเผยให้เห็นถึงคำให้การที่ปฏิญญาว่าได้ใช้เครื่องมือ AI ดังที่รายงานโดย WIRED.

วิลเนอร์สรุปว่า: “การใช้ผลิตภัณฑ์ AI เพื่อสร้างร่างแรกของอุทธรณ์มาเป็นครั้งแรกโดยไม่เปิดเผยเป็นสิ่งที่ผิดตรง ๆ […] และการส่งเอกสารนี้ให้กับทนายความคนอื่นๆ โดยไม่เปิดเผยถึงแหล่งที่มาที่น่าสงสัยของ AI จริงๆ แล้วเป็นการนำความเสี่ยงมาสู่มือของมืออาชีพเหล่านี้” ดังที่รายงานโดย WIRED.

นี่ไม่ใช่ครั้งแรกที่ AI ก่อปัญหาในศาลแน่นอน ในปัจจุบันมีทนายความสองคนจากวายโอมิ่ง เปิดเผยว่าใช้เคสที่สร้างขึ้นจาก AI ปลอม ในการยื่นเอกสารศาลสำหรับคดีฟ้อง Walmart ศาลแพ่งรัฐสหรัฐฯ ได้ขู่จะลงโทษทั้งคู่ด้วย.

ในสถานการณ์นี้ “ภาพลวงตา” ที่ AI สร้างขึ้น หรือข้อมูลที่ AI สร้างขึ้นเอง กำลังกลายเป็นปัญหาที่เพิ่มขึ้นในระบบกฎหมาย