กลายเป็นเรื่องที่สะท้อนความซับซ้อนของการใช้ปัญญาประดิษฐ์ (AI) ในการเรียนและการทำงานที่อาจเป็นปัญหาคาใจ ทั้งเรื่องความโปร่งใสและการแอบใช้งานในทางที่ผิด ล่าสุดมีรายงานจาก "โอเพ่นเอไอ" (OpenAI) ระบุว่าบริษัทได้พัฒนาเครื่องมือที่ตรวจจับข้อความที่สร้างโดย "แชตจีพีที" (ChatGPT) ได้ โดยมีความแม่นยำ 99.9% แต่ทีมพัฒนาเสียงแตกและสนับสนุนเครื่องมือนี้เพียงบางส่วน จึงยังไม่มีการเปิดตัวเครื่องมือในขณะนี้
ในบล็อกบริษัทของ OpenAI ซึ่งเป็นบริษัทแม่ของ ChatGPT อธิบายถึงเครื่องมือนี้ในรูปวิธีการใส่ลายน้ำในข้อความหรือ Text watermarking โดยระบุว่าได้พัฒนาวิธีการใส่ลายน้ำในข้อความซึ่งกำลังอยู่ระหว่างการพิจารณาในขณะที่ OpenAI ค้นคว้าทางเลือกอื่น เนื่องจากแม้ว่าวิธีการนี้จะแม่นยำสูงและมีประสิทธิภาพ รวมถึงป้องกันการแก้ไขเฉพาะที่ เช่น การอธิบายความ แต่วิธีการนี้ยังมีช่องว่างในการป้องกันการแก้ไขแบบทั่วโลก เช่น การใช้ระบบการแปล การเปลี่ยนคำโดยใช้ความคิดสร้างสรรค์อื่น หรือการแทรกอักขระพิเศษระหว่างคำแต่ละคำ แล้วลบบางอักขระออก ทำให้ผู้ไม่ประสงค์ดีหลีกเลี่ยงการตรวจจับได้ง่าย
"ความเสี่ยงสำคัญอีกประการที่เรากำลังพิจารณาอยู่ คือ การวิจัยของเราชี้ให้เห็นว่าวิธีการใส่ลายน้ำในข้อความอาจส่งผลกระทบต่อกลุ่มคนบางกลุ่มอย่างไม่เท่าเทียม ตัวอย่างเช่น ผู้ใช้ภาษาอังกฤษที่ไม่ใช่เจ้าของภาษา (non-native English speaker) ที่อาจได้รับคำครหาจากการใช้ AI เป็นเครื่องมือช่วยเขียน" OpenAI ระบุ
ในภาพรวม วิธีการทำ Text watermarking ของ OpenAI นั้นจะตรวจจับข้อความที่สร้างโดย ChatGPT ได้บนความแม่นยำ 99.9% เนื่องจากระบบจะทิ้งรูปแบบหรือลายน้ำที่มนุษย์ไม่สามารถตรวจจับได้ไว้ในข้อความ และรูปแบบจะคงอยู่แม้จะคัดลอก วาง และแก้ไขเล็กน้อย
ฝ่ายสนับสนุนเชื่อว่าความสามารถช่วยตรวจจับเนื้อหาที่สร้างโดย AI ได้ จะมีประโยชน์มากโดยเฉพาะในแวดวงวิชาการ ทีมพัฒนา OpenAI บางคนจึงสนับสนุนเครื่องมือนี้ อย่างไรก็ตาม ฝ่ายคัดค้านมองว่าแม้จะมีความแม่นยำ 99.9% แต่ยังมีความเสี่ยงส่งผลร้ายแรงได้ ทั้งการหลบหลีกการตรวจจับที่ทำได้ค่อนข้างง่าย และผู้ใช้ที่อาจถูกตราหน้าว่าใช้ ChatGPT ช่วยเขียน ซึ่งมีการประเมินว่ามีโอกาสที่จะลดการใช้งาน ChatGPT ลงถึง 30%
ปัจจุบัน OpenAI ยังไม่เผยแพร่เครื่องมือนี้ และกำลังสำรวจโซลูชันทางเลือก เช่น การใช้เมตาดาต้าที่มีลายเซ็นการเข้ารหัส ถือเป็นความพยายามหลังจากที่ OpenAI เคยเปิดตัวเครื่องมือตรวจจับข้อความ AI มาก่อนหน้านี้ แต่ได้ยุติการใช้งานเนื่องจากความไม่แม่นยำ
ที่ผ่านมา OpenAI ใช้ข้อมูลเมตาดาต้า C2PA สำหรับการสร้างภาพบนระบบ DALL-E 3 เพื่อช่วยระบุภาพที่ถูกแก้ไขโดย AI เบื้องต้นคาดว่าข้อความจะเป็นพื้นที่สำคัญที่ OpenAI ต้องจัดระเบียบอย่างจริงจังต่อไป เนื่องจากความซับซ้อนของการใช้ AI อย่างถูกจริยธรรม ที่จะต้องถูกพัฒนาอย่างมีสมดุลระหว่างความโปร่งใสและความสามารถในการตรวจจับกับการใช้งานในทางที่ผิดให้ได้
