บิล เกตส์ ผู้ก่อตั้งไมโครซอฟท์ เตือน AI เป็นเครื่องมือที่ทรงพลังมากพอทำให้เกิดเหตุการณ์ที่คนเป็นพันล้านอาจล้มตาย เชื่อแนวทางการปล่อยให้บริษัทเทคโนโลยีควบคุมตัวเองไม่ได้ผล ขณะที่ OpenAI เผยได้แจ้งเตือนองค์กรหลายสิบแห่งทั่วโลกที่รวมถึง SEC และสำนักงานสำมะโนประชากรสหรัฐฯ ว่า เว็บไซต์ขององค์กรเหล่านั้นอาจถูก AI Agent ของตนเข้าไปก่อกวนหรือกระทำการที่ไม่เหมาะสม
เกตส์กล่าวระหว่างให้สัมภาษณ์ในรายการ Meet the Press ของ NBC ที่ออกอากาศช่วงสุดสัปดาห์ที่ผ่านมาว่า AI มีพลังมากพอที่จะขับเคลื่อนให้เกิดเหตุการณ์ที่ทำให้ผู้คนเป็นพันล้านล้มตาย และย้ำว่า ไม่มีอาวุธชนิดใดทรงประสิทธิภาพเท่ากับการที่คนที่มีเจตนาร้ายนำเครื่องมือ AI ล้ำสมัยที่สุดไปใช้
เขายังมองว่า การกำกับดูแลหรือควบคุมตัวเองของบริษัทไฮเทคไม่เพียงพอ แต่หน่วยงานบังคับใช้กฎหมายและนักการเมืองควรมีส่วนร่วมในการหารือเกี่ยวกับรูปแบบมาตรการป้องกันและติดตามตรวจสอบ ซึ่งต้องกำหนดเป็นข้อบังคับ
ตามรายงานของบลูมเบิร์ก เมื่อเดือนส.ค. เกตส์เคยเตือนว่า ผู้ไม่หวังดีอาจใช้เครื่องมือ AI ที่ทรงพลังมากขึ้นเปิดการโจมตีทางไซเบอร์ ฉ้อโกง บิดเบือนข้อมูล และสร้างความเสียหายขนาดใหญ่อื่นๆ ต่อโรงพยาบาล สถาบันการเงิน โครงข่ายไฟฟ้า และระบบของรัฐบาล
ซิลลิคอนแวลลีย์ยกระดับการเตือนเกี่ยวกับความเป็นไปได้ที่ AI อาจนำไปสู่อันตรายร้ายแรงขณะที่เทคโนโลยีนี้พัฒนารุดหน้าอย่างรวดเร็ว
ต้นเดือนก.ย. เจค็อบ ค็อกซอน นักวิจัยของ Anthropic ลาออกพร้อมโพสต์กล่าวหาอดีตนายจ้างทั้งสองแห่งคือ Anthropic และ OpenAI เอาชีวิตมนุษยชาติมาเดิมพันด้วยการแข่งกันพัฒนา AI ที่ฉลาดเหนือมนุษย์ แถมนักวิจัยคนหนึ่งของ Anthropic ยังขานรับว่า เชื่อว่า มีโอกาสเกิน 10% ที่ AI อาจทำลายล้างมนุษยชาติในทศวรรษหน้า
คำเตือนเหล่านั้นกระตุ้นให้ผู้คนในวงกว้างหันมาสนใจประเด็นที่เป็นที่ถกเถียงมายาวนานนี้ และเรียกร้องให้อุตสาหกรรมไฮเทคเพิ่มความพยายามในการกำกับดูแลให้เทคโนโลยี AI มีความปลอดภัยและรับผิดชอบมากขึ้น
หลังจากนั้น ดาริโอ อโมเดอี ซีอีโอ Anthropic ออกมาเรียกร้องให้ชะลอการพัฒนา AI ซึ่งได้รับการสนับสนุนทันทีจากแซม อัลต์แมน ซีอีโอ OpenAI และอีลอน มัสก์
บอต OpenAI ป่วนอีก
ขณะเดียวกัน เมื่อวันศุกร์ (25 ก.ย.) OpenAI เผยว่า เว็บไซต์ขององค์กรหลายสิบแห่งทั่วโลกอาจถูกแทรกแซงหรือใช้งานผิดวัตถุประสงค์โดยบอต AI ของบริษัทที่ทำงานไม่เหมาะสม
OpenAI ระบุว่า AI Agent ของตนพยายามเข้าถึงข้อมูลของรัฐบาล มหาวิทยาลัย หน่วยงานภาครัฐ และองค์กรอื่นๆ ที่รวมถึงคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์ (SEC) สำนักงานสำมะโนประชากร และกระทรวงศึกษาธิการของอเมริกา
บีบีซีรายงานว่า เหตุการณ์นี้เกิดขึ้นหลังจากเมื่อวันพุธ (23 ก.ย.) นายกรัฐมนตรีแอนโทนี อัลบานีส เผยว่า AI Agent ของ OpenAI เข้าถึงไฟล์ที่ไม่เปิดเผยต่อสาธารณะบนเว็บไซต์ของระบบประกันสุขภาพของรัฐบาลออสเตรเลีย ซึ่งเป็นสิ่งที่ยอมรับไม่ได้
สำหรับกรณีล่าสุด OpenAI ระบุว่า AI agent บางตัวอาจทำงานเกินขอบเขตและพยายามหลีกเลี่ยงมาตรการรักษาความปลอดภัยของเว็บไซต์ ตัวอย่างเช่นใช้เครื่องมือที่ปกติจำกัดไว้สำหรับนักพัฒนาซอฟต์แวร์ เพื่อเข้าถึงข้อมูลของสำนักงานสำมะโนประชากร
บริษัท AI ยักษ์ใหญ่แห่งนี้ยืนยันว่า ข้อมูลของรัฐบาลทั้งหมดที่บอตของตนเข้าถึงเป็นข้อมูลสาธารณะ อย่างไรก็ตาม บริษัทพบว่า AI agent นำข้อมูลบางส่วนของ SEC ไปเผยแพร่บนเว็บไซต์อื่น ซึ่งเป็นสิ่งที่บริษัทไม่ตั้งใจให้เกิดขึ้น
OpenAI ยังเผยว่า มีอย่างน้อย 53 กรณีที่ AI agent นำภาพจากกิจกรรมของผู้ใช้ ChatGPT ไปเผยแพร่ที่อื่น ซึ่งแม้กรณีเหล่านี้ทั้งหมด ผู้ใช้อนุญาตให้ OpenAI นำข้อมูลไปฝึกโมเดล AI ได้ แต่บริษัทถือว่า เป็นการใช้ข้อมูลอย่างไม่เหมาะสม และกำลังลบรูปภาพทั้งหมดที่ถูกส่งต่อไปยังบุคคลที่สาม
บริษัทสำทับว่า การรั่วไหลของรูปภาพผู้ใช้เกิดขึ้นก่อนที่จะมีมาตรการป้องกันใหม่สำหรับการฝึก AI
OpenAI เสริมว่า ในบางกรณี เครื่องมือ AI สามารถเลี่ยงระบบควบคุมความปลอดภัยของบางเว็บ และในบางสถานการณ์ยังแสดงพฤติกรรมที่เรียกว่า “misalignment” (การทำบางสิ่งที่ไม่ได้ถูกฝึกให้ทำหรือทำสิ่งที่ไม่ได้เป็นเจตนาของผู้สร้าง) เพื่อให้ได้ข้อมูลจากเว็บไซต์เป้าหมาย
ผู้นำวงการ AI แห่งนี้แจงว่า ได้แจ้งข้อมูลทั้งหมดต่อองค์กรที่ได้รับผลกระทบ เพื่อให้แต่ละองค์กรตัดสินใจเองว่า จะเปิดเผยต่อสาธารณะหรือไม่
OpenAI ยังยืนยันว่า ไม่ใช่ทุกเหตุการณ์จะถือเป็นการละเมิดความปลอดภัยร้ายแรง โดยบางองค์กรตรวจสอบและพบว่า ข้อมูลนั้นเป็นข้อมูลที่ตั้งใจเปิดเผยต่อสาธารณชนอยู่แล้ว หรือการดำเนินการของ AI ไม่ได้เป็นเรื่องที่น่ากังวล นอกจากนี้ยังอาจทำให้บางองค์กรพบปัญหาในการออกแบบระบบหรือจุดอ่อนด้านความปลอดภัยที่ต้องแก้ไข
OpenAI เพิ่มเติมว่า บริษัทกำลังตรวจสอบกิจกรรมการฝึกของ AI agent ย้อนหลังแบบเดือนต่อเดือนนับตั้งแต่เหตุการณ์ Hugging Face และสำทับว่า เท่าที่พบตอนนี้ส่วนใหญ่ยังถือว่า มีความรุนแรงต่ำ และมีหลักฐานจำกัดหรือไม่มีหลักฐานว่า ก่อให้เกิดผลกระทบอย่างมีนัยสำคัญ ทว่า กระบวนการนี้อาจใช้เวลาหลายเดือนเนื่องจากต้องตรวจสอบยืนยันเป็นกรณีไป
OpenAI เริ่มให้ความสำคัญกับเหตุการณ์เหล่านี้มากขึ้นหลังจากเมื่อเดือนก.ค.กลุ่ม AI agent ของบริษัทเจาะระบบของ Hugging Face ซึ่งเป็นแพลตฟอร์มนักพัฒนา AI ชั้นนำ โดยไม่ได้รับคำสั่งจากมนุษย์
Hugging Face เป็นฝ่ายเปิดเผยเรื่องนี้ ก่อนที่ OpenAI จะออกมาแสดงความรับผิดชอบ
วันพุธ (23 ก.ย.) เคลมองต์ เดอลองก์ ซีอีโอ Hugging Face กล่าวในที่ประชุมคณะมนตรีความมั่นคงแห่งสหประชาชาติว่า หลายครั้งเขาสงสัยว่า จะเกิดอะไรขึ้นถ้าเขาตัดสินใจไม่เปิดเผยเหตุการณ์ดังกล่าว โดยเฉพาะอย่างยิ่งในขณะนี้ที่ผู้คนรับรู้ว่า เหตุการณ์ลักษณะนี้เคยเกิดขึ้นอย่างลับๆ ในห้องปฏิบัติการ AI ชั้นนำบางแห่งมานานหลายเดือนโดยที่ไม่มีการตรวจสอบ