Anthropic ออกมาเปิดเผยในวันพฤหัสบดี (10 ก.ย.) ว่าบริษัทได้ขัดขวางการใช้งานโมเดล Claude ในทางที่ผิดหลายครั้งในช่วง 8 เดือนที่ผ่านมา รวมถึงแคมเปญจารกรรมทางไซเบอร์ที่ต้องสงสัยว่าเชื่อมโยงกับรัสเซีย และความพยายามของบริษัท AI ชั้นนำของจีนที่พยายามดึงข้อมูลและลอกเลียนแบบความสามารถของ Claude
Anthropic กล่าวในรายงานข่าวกรองภัยคุกคามล่าสุดว่า อาชญากรไซเบอร์และแฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐบาลกำลังใช้ AI มากขึ้น ไม่เพียงแต่เพื่อช่วยเหลืองานต่างๆ เท่านั้น แต่ยังใช้เพื่อวางแผนและดำเนินการโจมตีทางไซเบอร์ในวงกว้างอีกด้วย และเสริมว่ามนุษย์มักเป็นเพียงผู้ควบคุมดูแลมากกว่าผู้ปฏิบัติงานโดยตรง
"การใช้ AI ไม่ได้จำกัดอยู่แค่การถามคำถามและตอบคำถามง่ายๆ จากแชทบอทเท่านั้น แต่ยังเกี่ยวข้องกับการใช้เฟรมเวิร์กแบบหลายเอเจนต์ในการดำเนินการ" Anthropic กล่าว
Anthropic ระบุว่า บริษัทได้ขัดขวางการโจมตีจากห้องปฏิบัติการ 7 แห่งในจีนตลอดช่วงเวลาดังกล่าว พร้อมระบุชื่อบริษัทยักษ์ใหญ่ด้านเทคโนโลยีของจีนอย่าง Alibaba, Moonshot, DeepSeek และ Xiaomi ว่าเป็นหนึ่งในผู้กระทำการโจมตีดังกล่าว
Anthropic อธิบายว่า ผู้ก่อการที่เชื่อมโยงกับ Alibaba ได้ลงมือโจมตีแบบ "การกลั่นกรองที่ผิดกฎหมาย (illicit distillation)" ครั้งใหญ่ที่สุด โดยมีเป้าหมายเพื่อดึงความสามารถของโมเดล Claude มาใช้ปรับปรุงโมเดล Qwen ของทาง Alibaba เอง
Anthropic ระบุว่า บริษัทสังเกตเห็นการแลกเปลี่ยนข้อมูลมากกว่า 151 ล้านครั้งที่ระบุว่ามาจาก Alibaba ระหว่างเดือน พ.ค.-ก.ค. ปี 2026 โดยมีจำนวนสูงสุดเกือบ 3 ล้านครั้งต่อวัน จากบัญชีมากกว่า 3,500 บัญชีที่บริษัทอธิบายว่าเป็นบัญชีฉ้อโกง
การกลั่นกรองที่ว่านี้หมายถึงกระบวนการฝึกฝนโมเดล AI ขนาดเล็ก โดยใช้ผลลัพธ์จากโมเดลที่มีขนาดใหญ่และราคาแพงกว่า เพื่อลดต้นทุนในการฝึกฝนเครื่องมือ AI ใหม่
Anthropic ระบุว่า แทนที่จะเรียกใช้การสอบถามจำนวนมาก บริษัทเอไอจีนอย่าง Moonshot ผู้สร้างแชทบอท Kimi และ DeepSeek กลับใช้วิธีส่งการสนทนาของลูกค้าแบบสดๆ ซึ่งบางครั้งรวมถึงข้อมูลที่ละเอียดอ่อนผ่าน Claude และใช้คำตอบเหล่านั้นเป็นฐานข้อมูลในการฝึกฝน AI
กลุ่มแฮกเกอร์ที่มีวิธีการโจมตีคล้ายกับกลุ่ม Midnight Blizzard จากรัสเซียก็ถูกกล่าวหาว่าทำการโจมตีแบบฟิชชิ่ง การยึดครอง Wi-Fi ของโรงแรม และการเข้าควบคุม WhatsApp โดยมุ่งเป้าไปที่หน่วยงานรัฐบาล กองทัพ และหน่วยงานทางการทูตของยูเครน โดยใช้ AI ในเกือบทุกขั้นตอน ตามรายงานของ Anthropic
ก่อนหน้านี้ รัฐบาลสหรัฐฯ เคยเชื่อมโยง Midnight Blizzard กับหน่วยข่าวกรองต่างประเทศ SVR ของรัสเซีย
กลุ่มดังกล่าวถูกกล่าวหาว่าใช้ AI สร้างระบบที่ตรวจจับโดยอัตโนมัติ เมื่อมัลแวร์ของพวกเขาถูกระบบรักษาความปลอดภัยตรวจจับ และเขียนโค้ดใหม่จนกว่าจะหลบเลี่ยงการตรวจจับได้อีกครั้ง
สถานทูตรัสเซียในกรุงวอชิงตันยังไม่ออกมาตอบคำขอความคิดเห็นในทันที
รายงานของ Anthropic ยังอ้างถึง "กลุ่มผู้ก่อภัยคุกคามประเภทใหม่" ที่ใช้ Claude ในทางที่ผิด รวมถึงผู้ที่ใช้แพลตฟอร์มนี้เพื่อ "พัฒนาซอฟต์แวร์สำหรับอาวุธทั่วไป รวมถึงอาวุธปืน ขีปนาวุธ โดรนติดอาวุธ ระเบิด และกระสุนอื่นๆ ตลอดจนระบบกำหนดเป้าหมายและควบคุมที่ใช้งานอาวุธเหล่านั้น" รายงานยังให้รายละเอียดเกี่ยวกับกรณีที่ผู้ปฏิบัติงานใช้ Claude พัฒนาซอฟต์แวร์สำหรับการออกแบบและพัฒนาอาวุธ หรือเพื่อสนับสนุนการรวบรวมข้อมูลข่าวกรองและการจัดหาที่เกี่ยวข้องกับโครงการอาวุธในประเทศจีน รัสเซีย และเยเมน
บริษัทอ้างว่า ได้ตรวจพบและขัดขวางกิจกรรมที่เชื่อมโยงกับกลุ่มพันธมิตรของกลุ่มอาชญากรรมไซเบอร์ ShinyHunters ซึ่งเป็นหนึ่งในองค์กรอาชญากรรมไซเบอร์ที่ก่อเหตุมากที่สุดในช่วงไม่กี่เดือนที่ผ่านมา และเชื่อมโยงกับการโจมตีบริษัทขนาดใหญ่ทั่วโลก
เจคอบ ไคลน์ หัวหน้าฝ่ายข่าวกรองภัยคุกคามของ Anthropic ให้สัมภาษณ์ว่า แบบจำลองมีความสามารถมากขึ้นในช่วงปีที่ผ่านมา ซึ่งก่อให้เกิดความเสี่ยงใหม่ๆ
“เมื่อ 1 ปีก่อน สมมติว่าคุณต้องการปรับปรุงประสิทธิภาพของโดรนหรือซอฟต์แวร์บนขีปนาวุธ แบบจำลองจะไม่สามารถทำงานได้ดีเท่ากับในปัจจุบัน” เขากล่าว
ที่มา: รอยเตอร์