ศาลสูงแห่งรัฐนิวเม็กซิโกเปิดเผยว่า ทนายความจำเลยซึ่งกำลังยื่นอุทธรณ์คดีฆาตกรรมให้ลูกความ ได้ยื่นคำแถลงคดีที่ประกอบด้วยคำให้การของตำรวจและพยานที่ถูกปั้นแต่งขึ้นโดย ChatGPT ของบริษัท OpenAI
เมื่อวันพุธที่ผ่านมา ศาลสูงรัฐนิวเม็กซิโกได้สั่งปรับ สตีเฟน แอรอนส์ ทนายความคนดังกล่าว และตัดสินว่าเขามีความผิดฐานละเมิดอำนาจศาลเนื่องจากล้มเหลวในการตรวจสอบความถูกต้องของเอกสารที่ยื่นต่อศาล ซึ่งแอรอนส์ยอมรับว่าเขาจัดทำขึ้นโดยได้รับความช่วยเหลือจากโปรแกรม AI
ศาลระบุว่าเอกสารดังกล่าว “มีคำให้การเท็จจากพยานที่ถูกปั้นแต่งขึ้นมาทั้งหมด”
คณะผู้พิพากษายังกล่าวอีกว่า แอรอนส์ “แสดงให้เห็นถึงการขาดความสำนึกผิดและขาดความใส่ใจต่อลูกความของเขา” ผู้พิพากษาได้สั่งปรับแอรอนส์เป็นเงิน 5,000 ดอลลาร์สหรัฐ และกล่าวว่าจะส่งเรื่องของเขาไปยังคณะกรรมการจริยธรรมทนายความเพื่อทำการสืบสวนต่อไป
แอรอนส์ให้สัมภาษณ์กับสำนักข่าวรอยเตอร์ว่า เขาใช้ ChatGPT เพื่อสรุปกระบวนการพิจารณาคดีตอนเขาตกลงรับทำคดีอุทธรณ์ให้จำเลยเมื่อปีที่แล้ว และเขาไม่เข้าใจถึงระดับที่ AI สามารถสร้างข้อมูลเท็จหรือมี "อาการหลอน" (hallucinate) ข้อเท็จจริงขึ้นมาได้
"ผมรู้สึกสำนึกผิด แต่ก็หวังว่าคณะกรรมการจริยธรรมจะพิจารณาว่านี่เป็นความผิดพลาดโดยสุจริตใจ" เขากล่าว "นี่เป็นบทเรียนสำหรับผู้ประกอบวิชาชีพทุกคนที่พึ่งพาเทคโนโลยีที่ทรงพลังแต่บางครั้งก็ขาดความเสถียรนี้"
ทาง OpenAI ยังไม่ได้ออกมาแสดงความคิดเห็นแต่อย่างใด
บทลงโทษของศาลในครั้งนี้ถือเป็นกรณีล่าสุดในบรรดาคดีที่มีจำนวนเพิ่มขึ้นเรื่อยๆ ซึ่งผู้พิพากษาศาลรัฐและศาลรัฐบาลกลางได้ลงโทษทางวินัยแก่ทนายความที่ยื่นเอกสารต่อศาลที่สร้างโดยเครื่องมือ AI โดยไม่ตรวจสอบให้ดีเสียก่อน
ทนายความหลายสิบคนถูกลงโทษเนื่องจากยื่นคำแถลงคดีที่ AI สร้างการอ้างอิงคดีปลอม หรือยกข้อกฎหมายมาอ้างอย่างผิดๆ อย่างไรก็ตาม เอกสารของแอรอนส์ดูเหมือนจะล้ำเส้นไปไกลกว่านั้น เนื่องจากมีการสร้างคำให้การของพยานที่ไม่มีอยู่จริงในคดีอุทธรณ์อาญา
แอรอนส์ ซึ่งเป็นทนายความอิสระในเมืองซานตาเฟ กำลังรับผิดชอบคดีอุทธรณ์ของ ออสการ์ เรเน ซานโดวาล ซึ่งให้การปฏิเสธข้อหาฆาตกรรมแม่ของลูกๆ ของเขา ก่อนที่เขาจะถูกตัดสินว่ามีความผิดและต้องโทษจำคุกตลอดชีวิตเมื่อปีที่แล้ว
คดีอุทธรณ์ดังกล่าวยังคงอยู่ระหว่างการพิจารณา และได้ถูกโอนให้ คิม ชาเวซ คุก ทนายความประจำรัฐนิวเม็กซิโก รับผิดชอบเมื่อวันที่ 2 กันยายน โดยคุกปฏิเสธที่จะแสดงความคิดเห็นในเรื่องนี้
เช่นเดียวกับสำนักงานอัยการเขตโดนาอานาเคาน์ตี ก็ปฏิเสธที่จะแสดงความคิดเห็นเช่นกัน
เมื่อเดือนที่แล้ว ศาลสูงสุดของรัฐได้สั่งให้แอรอนส์ชี้แจงว่า เนื้อหาที่ถูกปั้นแต่งขึ้นมา ซึ่งศาลระบุว่าดูเหมือนจะรวมถึง "คำกล่าวเท็จที่ว่ามือปืนสวมกางเกงสีเข้มและเสื้อเชิ้ตสีขาว" นั้นเข้าไปอยู่ในคำแถลงคดีหลักในการยื่นอุทธรณ์ของเขาได้อย่างไร
ในการรับฟังคำให้การเมื่อวันที่ 21 สิงหาคม แอรอนส์บอกกับศาลว่า เขาได้ป้อนบันทึกถ้อยคำที่พิมพ์จากคอมพิวเตอร์และเอกสารคดีอื่นๆ ลงใน ChatGPT โดยสันนิษฐานว่ามันจะสร้าง "บทสรุปที่สมบูรณ์แบบไร้ที่ติ" ให้เขา
คณะผู้พิพากษาฟังดูไม่อยากจะเชื่อว่าแอรอนส์จะไม่รู้เลยว่า AI สามารถทำผิดพลาดได้
"ทนายความ คุณดูข่าวบ้างไหม คุณฟังวิทยุบ้างไหม คุณได้อ่านเรื่องราวความเป็นไปในโลกบ้างหรือเปล่า" ผู้พิพากษา ซี. แชนนอน เบคอน กล่าวในการพิจารณาคดี "เพราะปัญหาเรื่องทนายความที่พึ่งพาอาการหลอนของ AI นั้นเป็นข่าวพาดหัวหน้าหนึ่งอยู่ทุกวี่ทุกวัน"
ที่มา รอยเตอร์