OpenAI ยอมรับเมื่อวันศุกร์ (25 ก.ย.) ว่าเครื่องมือปัญญาประดิษฐ์ของตนได้โพสต์รูปภาพจากผู้ใช้งาน ChatGPT ลงบนเว็บไซต์ต่างๆ ทางออนไลน์โดยที่บริษัทไม่ทราบเรื่อง ซึ่งถือเป็นตัวอย่างล่าสุดของกรณีที่เอเจนต์ AI ทำงานนอกเหนือขอบเขตที่กำหนด
บริษัทยังยืนยันรายงานของ The New York Times ที่ระบุว่าเครื่องมือของตนได้เข้าถึงเว็บไซต์ของหน่วยงานรัฐบาลกลางสหรัฐฯ โดยชี้แจงว่าเป็นการดึงมาเฉพาะข้อมูลที่เปิดเผยต่อสาธารณะเท่านั้น
ตามข้อมูลของ OpenAI ระบุว่า ลิงก์ของรูปภาพทั้ง 53 รูปที่ถูกอัปโหลดนั้นไม่ได้ถูกเปิดเผยให้เห็นเป็นสาธารณะ และถูกโพสต์ลงบนเว็บไซต์ฝากรูปภาพโดยบังเอิญ
ยักษ์ใหญ่ด้านเทคโนโลยีจากซานฟรานซิสโกรายนี้ระบุว่า รูปภาพส่วนใหญ่ถูกลบออกแล้วด้วยความช่วยเหลือจากผู้ให้บริการฝากรูปภาพที่เกี่ยวข้อง และกำลังดำเนินการลบรูปภาพส่วนที่เหลืออยู่
"เราได้เปิดเผยรายละเอียดว่า เอเจนต์ AI ในสภาพแวดล้อมการวิจัยของเรา ได้ส่งข้อมูลการฝึกอบรมและการประเมินผลไปยังบริการของบุคคลที่สามทั้งที่ไม่ควรจะเกิดขึ้น ได้อย่างไร" บริษัทระบุในโพสต์บน X
การเผยแพร่รูปภาพดังกล่าวเกิดจากเอเจนต์ AI ซึ่งเป็นซอฟต์แวร์ที่สร้างขึ้นบนโมเดลปัญญาประดิษฐ์และสามารถตัดสินใจทำงานได้เองโดยอัตโนมัติ
รูปภาพที่เป็นประเด็นนั้นมาจากบัญชีของผู้ใช้งานที่อนุญาตให้นำข้อมูลไปใช้เพื่อพัฒนาโมเดลของ OpenAI ได้ โดยบริษัทระบุว่า ข้อมูลดังกล่าวได้ผ่านระบบคัดกรองความเป็นส่วนตัวก่อนนำไปใช้งานแล้ว จึงไม่สามารถเชื่อมโยงกลับไปยังผู้ใช้ต้นทางได้อีก
อย่างไรก็ตาม เมื่อสำนักข่าว AFP สอบถาม OpenAI ไม่ได้ระบุชัดเจนว่ารูปภาพเหล่านั้นปรากฏภาพบุคคลที่สามารถระบุตัวตนได้ หรือมีข้อมูลที่ละเอียดอ่อนรวมอยู่ด้วยหรือไม่
ข้อมูลจาก OpenAI ระบุว่า เอเจนต์ที่บริษัทใช้สำหรับการวิจัยเป็นตัวส่งข้อมูลที่ใช้ฝึกอบรมออกไปยังแพลตฟอร์มภายนอก
เหตุการณ์ดังกล่าวเกิดขึ้นก่อนที่ OpenAI จะยกระดับมาตรการความปลอดภัยในสภาพแวดล้อมการวิจัยเมื่อเดือนสิงหาคมที่ผ่านมา หลังจากเกิดกรณีที่เอเจนต์ AI ทำงานออกนอกลู่นอกทางในลักษณะอื่นมาก่อนหน้านี้
บริษัทยังระบุด้วยว่ากำลังตรวจสอบกิจกรรมย้อนหลังของเอเจนต์ AI ซึ่งการดำเนินการนี้ "อาจต้องใช้เวลาหลายเดือนจึงจะแล้วเสร็จ"
โฆษกของ OpenAI เปิดเผยกับ AFP ว่า "ผลการตรวจสอบกิจกรรมส่วนใหญ่จนถึงขณะนี้พบว่าเป็นเพียงงานสืบค้นข้อมูลเพื่อการวิจัยทั่วไป เช่น การเข้าถึงเนื้อหาบนเว็บไซต์สาธารณะเพื่อหาคำตอบ บางกรณีที่มีความเกี่ยวข้องกับเว็บไซต์ของรัฐบาลนั้น เป็นเพราะโมเดลของเรามักเลือกใช้เว็บไซต์เหล่านั้นในฐานะแหล่งข้อมูลสาธารณะที่น่าเชื่อถือ"
แซม อัลต์แมน ซีอีโอของ OpenAI ยอมรับผ่าน X เมื่อวันศุกร์ว่า "เราไม่ได้ดำเนินการตรวจสอบและเปิดเผยเหตุการณ์ที่เกิดขึ้นได้รวดเร็วอย่างที่เราตั้งใจไว้"
เขากล่าวว่าสิ่งสำคัญคือการต้อง "สร้างสมดุลระหว่างความต้องการที่จะโปร่งใส" กับการประเมินปริมาณข้อมูลมหาศาลที่จำเป็นต้องนำมาวิเคราะห์เสียก่อน
ก่อนหน้านี้ เมื่อวันที่ 21 ก.ค. OpenAI ได้เปิดเผยว่าในระหว่างการทดสอบในเดือนดังกล่าว มีโมเดล 2 ตัวของบริษัทหลุดออกจากสภาพแวดล้อมแบบปิด และเข้าถึงอินเทอร์เน็ตได้เอง ก่อนจะเจาะเข้าไปในระบบภายในของ Hugging Face ซึ่งเป็นเหมือนคลังข้อมูลออนไลน์สำหรับซอฟต์แวร์ AI
เหตุการณ์ดังกล่าวได้รับความสนใจอย่างกว้างขวาง และยิ่งตอกย้ำความกังวลว่าบริษัท AI ยักษ์ใหญ่จะไม่สามารถควบคุมโมเดลของตนเองไว้ได้
อัลต์แมนได้กล่าวย้ำเมื่อวันศุกร์ว่า กรณีเจาะระบบ Hugging Face นั้น "ยังคงถือเป็นเหตุการณ์ที่ร้ายแรงที่สุดเท่าที่เราเคยพบมา"
หลังจากการค้นพบดังกล่าว ก็มีการเปิดเผยถึงเหตุการณ์ในลักษณะคล้ายคลึงกันอีกหลายครั้ง ทั้งจาก OpenAI และบริษัทคู่แข่งอย่าง Anthropic และ Meta
นอกจากนี้ เมื่อวันพุธที่ผ่านมา ณ นครนิวยอร์ก แอนโทนี อัลบาเนซี นายกรัฐมนตรีของออสเตรเลีย ได้เปิดเผยว่า เอเจนต์ของ OpenAI ได้ลักลอบเข้าถึงพอร์ทัลข้อมูลด้านสาธารณสุขของรัฐบาลออสเตรเลียเมื่อเดือนมิถุนายน พร้อมวิพากษ์วิจารณ์บริษัทที่ล่าช้าในการแจ้งเหตุให้ทางการทราบ
ที่มา เอเอฟพี