หลังข้อมูลที่ผู้พัฒนา AI รายใหญ่ทั้ง OpenAI และ Anthropic ออกมาเปิดเผยถึงการที่โมเดล AI ในพื้นที่ทดสอบ มีการใช้ช่องโหว่ในการเชื่อมต่ออินเทอร์เน็ตเพื่อเจาะเข้าถึงข้อมูลองค์กรธุรกิจ ทำให้ทั้งผู้พัฒนาและหน่วยงานที่เกี่ยวข้องออกมาเคลื่อนไหว โดยข้อมูลจากมุมมองของผู้เขียวชาญทางด้านไซเบอร์ซิเคียวริตี้อย่าง Kaspersky มองว่า ทุกองค์กรต้องเริ่มหันมาใช้แนวคิด Sercure by Design หรือการให้ความปลอดภัยตั้งแต่การออกแบบเป็นหลัก
เซอร์เกย์ ลอซคิน หัวหน้าทีมวิจัยและวิเคราะห์ระดับโลก (GReAT) ภูมิภาคตะวันออกกลาง ตุรกี แอฟริกา และเอเชียแปซิฟิก แคสเปอร์สกี้ มองว่า การที่ AI เข้าไปเจาะระบบ เกิดจากการที่ที่ระบบเลือกทางลัด ที่มีประสิทธิภาพที่สุดในการบรรลุเป้าหมาย จนมองข้ามกลไกความปลอดภัยที่ตั้งไว้
กรณีดังกล่าวเกิดขึ้นหลังจากมีรายงานการตรวจพบพฤติกรรมของ AI Agent ที่ถูกควบคุมเข้าเจาะระบบคลังข้อมูลเพื่อดึงข้อมูลตามคำสั่ง ซึ่ง AI มองว่าเป็นเส้นทางที่สั้นและมีประสิทธิภาพที่สุดในการได้มาซึ่งข้อมูล โดยไม่ได้คำนึงถึงขั้นตอนที่ถูกต้องในการเข้าถึงข้อมูลอย่างปลอดภัย
เหตุการณ์ดังกล่าวกำลังกลายเป็นโจทย์สำคัญที่ผู้พัฒนาโมเดล AI ต้องนำมาพิจารณา โดยเฉพาะการสร้างกลไกป้องกันการโจมตีตั้งแต่ระดับโครงสร้าง เนื่องจากในอนาคตมีแนวโน้มจะพบการโจมตีลักษณะนี้เพิ่มมากขึ้นตามระดับความชาญฉลาดของ AI ซึ่งอาจเป็นรูปแบบการโจมตีที่ซับซ้อนจนระบบรักษาความปลอดภัยแบบเดิมไม่สามารถมองเห็นหรือทำความเข้าใจได้
เซอร์เกย์ ให้ข้อมูลเพิ่มเติมว่า อุตสาหกรรม AI จำเป็นต้องเร่งนำแนวคิด "ความปลอดภัยตั้งแต่การออกแบบ" หรือ Secure by Design มาปรับใช้เช่นเดียวกับที่เคยเกิดขึ้นในอุตสาหกรรมซอฟต์แวร์ และยานยนต์ในอดีต ซึ่งเคยผ่านจุดที่เน้นเพียงความเสถียร ประสิทธิภาพ และการสร้างรายได้ ก่อนจะพบช่องโหว่จากการถูกเจาะระบบรถยนต์ขับเคลื่อนอัตโนมัติ จนต้องเปลี่ยนมาให้ความสำคัญกับความปลอดภัยตั้งแต่เริ่มเขียนโค้ด
อย่างไรก็ตาม หลังจากมีเหตุการณ์ภัยไซเบอร์เกิดขึ้นในโลกของ AI สิ่งทีเ่กิดขึ้นคือการปรับตัวของผู้พัฒนา AI ที่มีการเพิ่มงบประมาณด้านความปลอดภัยและการจ้างบุคลากรสายปฏิบัติการ โดยเฉพาะการดึงตัวนักวิทยาศาสตร์ นักวิจัยด้านความมั่นคงปลอดภัยไซเบอร์ รวมถึงนักเข้ารหัส (Cryptographers) เข้ามาร่วมคิดค้นทฤษฎีและกลไกทางคณิตศาสตร์ เพื่อวางรากฐานการป้องกันไม่ให้ AI Agent สร้างความเสี่ยงต่อองค์กรจากกระบวนการคิดในระยะยาว
สิ่งที่เกิดขึ้นหลังจากนี้ คือความระมัดระวังในการทดสอบใช้งานโมเดล AI โดยเฉพาะการจำกัดพื้นที่การทำงานให้อยู่ในสภาพแวดล้อมปิด โดยเฉพาะองค์กรธุรกิจที่มีแผนจะนำ AI มาใช้งานภายในองค์กรต้องมีการกำหนดขอบเขตในการเข้าถึงข้อมูล ลำดับชั้นในการเข้าถึงเพื่อไม่ให้ข้อมูลที่เป็นความลับถูกเปิดเผยสู่สาธารณะ