นักวิชาการเตือน AI อาจทำระบบเครดิตสังคมจีนเป็นเครื่องมือสอดส่องประชาชน

หลินเจี้ยนซิง นักศึกษาปริญญาเอกจากคณะนิติศาสตร์ มหาวิทยาลัยเสฉวน เผยแพร่งานวิจัยในวารสารมหาวิทยาลัยครุศาสตร์เสฉวน โดยระบุว่า การใช้ AI วิเคราะห์ข้อมูลกิจกรรมของประชาชนทั้งบนโลกออนไลน์และในชีวิตประจำวัน เพื่อประเมินคะแนนและคาดการณ์พฤติกรรม อาจส่งผลต่อการเข้าถึงบริการต่าง ๆ เช่น การรักษาพยาบาล การขอสินเชื่อ และบริการภาครัฐ

แม้เทคโนโลยีดังกล่าวจะช่วยเพิ่มประสิทธิภาพการประเมินความเสี่ยงและการบริหารงานของรัฐบาล แต่ก็อาจก่อให้เกิดปัญหาความไม่โปร่งใสของอัลกอริทึม ความผิดพลาดจากข้อมูลที่ไม่มีคุณภาพ และการเลือกปฏิบัติต่อประชาชน

หลินเจี้ยนซิงเตือนว่า หากขาดกฎระเบียบด้านการใช้ข้อมูลและกลไกกำกับดูแลที่เข้มงวด ระบบที่ออกแบบมาเพื่อบริหารจัดการความเสี่ยงอาจกลายเป็นเครื่องมือเฝ้าติดตามพฤติกรรมประชาชนแทน

ทั้งนี้ ระบบเครดิตสังคมของจีนไม่ได้เป็นระบบให้คะแนนประชาชนแบบรวมศูนย์ทั่วประเทศตามที่มักเข้าใจกัน แต่ประกอบด้วยโครงการหลายรูปแบบที่ดำเนินการโดยหน่วยงานต่าง ๆ โดยบทความที่เผยแพร่บนเว็บไซต์มหาวิทยาลัยสแตนฟอร์ดระบุว่า มีเมืองในจีนเพียงส่วนน้อยที่ใช้ระบบประเมินพฤติกรรมระดับท้องถิ่น

ขณะเดียวกัน รัฐบาลจีนกำลังส่งเสริมการใช้ AI ในภาครัฐ โดยมณฑลอันฮุยได้พัฒนาแพลตฟอร์มติดตามข้อมูลประชากรรายได้น้อย เพื่อเพิ่มประสิทธิภาพการจัดสวัสดิการสังคม

นักวิจัยจึงเน้นย้ำว่า การใช้ AI ในระบบเครดิตสังคมจำเป็นต้องมีข้อมูลและอัลกอริทึมที่น่าเชื่อถือ ควบคู่กับการกำกับดูแลหน่วยงานรัฐอย่างเข้มงวด เพื่อป้องกันไม่ให้เทคโนโลยีดังกล่าวกระทบต่อสิทธิและความเป็นส่วนตัวของประชาชน

ที่มา: South China Morning Post (SCMP)