ปัญญาประดิษฐ์อาจหลุดจากการควบคุมของมนุษย์ภายใน 3 ปี และมีความเป็นไปได้ที่จะนำไปสู่การเสียชีวิตของผู้คนจำนวนมหาศาล จากเสียงเตือนของ พอล คริสเตียนโน สมาชิดบอร์ดบริหารของ OpenAI บริษัทและห้องปฏิบัติการวิจัยด้านปัญญาประดิษฐ์
ระหว่างกล่าวในงาน Hinton Lectures ในโทรอนโต เมื่อวันอังคาร(10พ.ย.) คริสเตียโน เตือนว่าระบบปัญญาประดิษฐ์แบบ "เหนือมนุษย์" ที่มีศักยภาพสูงขึ้นเรื่อยๆ อาจก้าวล้ำขีดความสามารถของมนุษยชาติในการทำความเข้าใจ การคาดการณ์หรือควบคุมพฤติกรรมของพวกมัน
"ถ้าระบบเอไอทำในสิ่งต่างๆที่พวกเราไม่ต้องการ มันสามารถปกปิดข้อเท็จจริงที่ว่ามันสามารถทำสิ่งเหล่านั้นได้ และมันอาจพยายามสร้างความสับสนขึ้นมาเองโดยธรรมชาติและหลีกเลี่ยงการถูกระบุแหล่งที่มา" เขากล่าว พร้อมเตือนต่อว่ามนุษย์อาจประสบความยากลำบากในการคาดการณ์ผลที่จะตามมา จากการปฏิบัติตามคำแนะนำที่สร้างขึ้นโดยปัญญาประดิษฐ์
คริสเตียโน กล่าวต่อว่าเอไออาจยึดการควบคุมจากมนุษย์ภายใน 3 ปี เป็นไปได้ที่อาจทำให้ผู้คนเสียชีวิตจำนวนมาก ทั้งระหว่างการเข้ายึดหรือหลังจากนั้น หากมนุษย์สูญเสียความสามารถในการรักษาสภาพแวดล้อมที่เอื้อต่อการใช้ชีวิต "ผมคิดว่าสำหรับคนส่วนใหญ่ในห้องนี้ สาเหตุที่เป็นไปได้มากที่สุดที่ทำให้พวกท่านเสียชีวิต ก็คืออุบัติเหตุที่เกี่ยวข้องกับเอไอ" เขากล่าว
ทั้งนี้ คริสเตียโน ซึ่งเข้าร่วมคณะกรรมการมูลนิธิและคณะกรรมการด้านความปลอดภัยและความมั่นคงของ OpenAI เมื่อเดือนกันยายน ชี้ถึงเหตุการณ์หนึ่งซึ่งมีรายงานว่า AI agents (ระบบปัญญาประดิษฐ์ที่ตัดสินใจและทำงานแทนมนุษย์ได้โดยอัตโนมัติ) สามารถหลีกเลี่ยงข้อจำกัดด้านความปลอดภัยระหว่างการทดสอบของบริษัทได้ และเข้าถึงโดยไม่ได้รับอนุญาตต่อโครงสร้างพื้นฐานการวิจัยของ OpenAI และ Hugging Face แพลตฟอร์มศูนย์กลางและชุมชนโอเพนซอร์สด้านปัญญาประดิษฐ์
แม้ทาง OpenAI เปิดตัวกรอบการทำงานหนึ่งๆสำหรับจัดการกับภัยคุคามความมั่นคงทางไซเบอร์และความเสี่ยงสูญเสียการควบคุมเหนือระบบล้ำสมัย แต่ คริสเตียโน เตือนว่ามาตรการป้องกันที่มีอยู่ในปัจจุบันนั้น ยังไม่เพียงพอ
คำเตือนของเขามีขึ้นในขณะที่รัฐบาลต่าง ๆ และผู้พัฒนาเอไอชั้นนำ ซึ่งรวมถึง OpenAI, Microsoft และ Anthropic ได้ร่วมลงนามในปฏิญญาความปลอดภัยโดยสมัครใจที่กรุงปารีสเมื่อวันจันทร์ที่ผ่านมา ข้อตกลงดังกล่าวเรียกร้องการยกระดับกำกับดูแลให้เข้มแข็งกว่าเดิมและกลไลชัตดาวน์ฉุกเฉิน อย่างไรก็ตามไม่มีการกำหนดเส้นตายที่มีผลผูกพันหรือบทลงโทษใดๆ อีกทั้งยังไม่ได้มอบอำนาจเพิ่มเติมแก่รัฐบาลในการระงับระบบปัญญาประดิษฐ์ที่เป็นอันตรายได้
แม็กซิม โฟร์เนส หัวหน้า PauseAI กลุ่มรณรงค์หาทางระงับการพัฒนาเอไอล้ำสมัยจนกว่าจะมีความปลอดภัย เตือนว่าเทคโนโลยีนี้อาจฉีกระบบธนาคารเป็นชิ้นๆ เช่นเดียวกับเครือข่ายการโทรคมนาคมและโครงสร้างพื้นฐานสำคัญอื่นๆ ผ่านการโจมตีโซเบอร์แบบทำลายล้าง
ระหว่างให้สัมภาษณ์กับสำนักข่าวอนาโดลูเมื่อวันจันทร์(9พ.ย.) โฟร์เนส คาดหมายว่ามีโอกาสถึง 50% ที่จะเกิดหายนะทางไซเบอร์ครั้งใหญ่ที่เกี่ยวข้องกับเอไอ ภายในปีหน้า จนกว่าจะมีการดำเนินการอย่างเร่งด่วน
(ที่มา:อาร์ทีนิวส์)