นักวิทย์กังวล AI เริ่มเรียนรู้วิธีหลอกลวงมนุษย์ รีบเร่งสร้างกฎระเบียบคุม AI ให้เข้มงวดก่อนสายเกินแก้

AI หรือ ปัญญาประดิษฐ์ (Artificial Intelligence) สิ่งที่ถูกพัฒนาขึ้นโดยมนุษย์ ให้มีความฉลาด วิเคราะห์ แก้ไขปัญหาได้ เพื่อช่วยเหลือการทำงานของมนุษย์อย่างเราๆ ให้สะดวกสบายขึ้น แต่ด้วยความฉลาดที่มากขึ้นในปัจจุบันของ AI ทำให้มี AI บางระบบ เริ่มมีการเรียนรู้วิธีหลอกลวงมนุษย์แล้ว

ในปัจจุบันระบบ AI ได้มีการเรียนรู้วิธีหลอกลวงมนุษย์ ทำให้เหล่านักวิทยาศาสตร์กังวลในด้านลบของผู้ช่วยล้ำสมัยในยุคปัจจุบันนี้ การค้นพบนี้ได้ถูกเผยแพร่ในวารสาร Patterns ระบบ AI จำนวนมากได้เรียนรู้เทคนิคในการชักจูง ความเชื่อผิดๆ ในผู้อื่นเพื่อให้บรรลุผลลัพธ์บางอย่างนอกเหนือจากความจริง ระบบ AI ที่ได้รับการฝึกฝนเพื่อชนะเกมที่มีองค์ประกอบทางสังคม จะมีแนวโน้มที่จะหลอกลวงเป็นพิเศษ

ในส่วนความคิดเห็นของนักพัฒนา AI ได้เผยว่า ยังไม่มีความเข้าใจ และยังไม่มความมั่นใจว่าอะไรเป็นสาเหตุของพฤติกรรม AI ที่ไม่พึงประสงค์นี้

Peter S. Park นักวิจัย AI Existential Safety Postdoctoral Fellow ด้านความปลอดภัยในการดำรงอยู่ของ AI จาก MIT เผย ตัวอย่างการหลอกลวง AI ที่โดดเด่นที่สุดที่นักวิทยาศาสตร์พบคือ Meta CICERO ซึ่งเป็นระบบ AI ที่ออกแบบมาเพื่อเล่นเกม Diplomacy ซึ่งเป็นเกมพิชิตโลกที่เกี่ยวข้องกับการสร้างพันธมิตร แม้ว่า Meta จะอ้างว่าได้ฝึกฝน CICERO ให้เป็นความซื่อสัตย์และช่วยเหลือเป็นส่วนใหญ่

นักวิทยาศาสตร์ได้พบว่า AI ของ Meta ได้เรียนรู้ที่จะเป็นเจ้าแห่งการหลอกลวง ในขณะที่ Meta ประสบความสำเร็จในการฝึก AI เพื่อให้ชนะในเกม Diplomacy แต่ CICERO ติดอยู่ใน 10% แรกของผู้เล่นที่เป็นมนุษย์ที่เล่นเกมมากกว่าหนึ่งเกม แต่ Meta ล้มเหลวในการฝึก AI เพื่อให้ชนะอย่างซื่อสัตย์” ระบบ AI อื่นๆ แสดงให้เห็นถึงความสามารถในการบลัฟในเกม Texas Holdem Poker กับผู้เล่นมืออาชีพ ปลอมการโจมตีระหว่างเกมวางแผน Starcraft II เพื่อเอาชนะคู่ต่อสู้ และบิดเบือนความชอบของพวกเขาเพื่อให้ได้เปรียบในการเล่นเกมส์

แม้ว่าการโกงและหลอกลวงของระบบ AI ในการเล่นเกมส์ อาจดูไม่เป็นอันตราย แต่หาก AI เริ่มเรียนรู้ในสิ่งที่ไม่ดีมากขึ้น ก็อาจจะสายเกินแก้สำหรับมนุษย์ เรื่องนี้นำไปสู่ความน่ากังวลในด้านลบของปัญญาประดิษฐ์ นักวิทยาศาสตร์ที่ศึกษาในเรื่องนี้จึงได้เน้นย้ำถึงอันตรายของการหลอกลวง AI และกระตุ้นให้รัฐบาลสร้างกฎระเบียบที่เข้มงวดอย่างรวดเร็วเพื่อลดความเสี่ยงนี้