โลกอาจต้องหยุดคิดใหม่เกี่ยวกับขีดจำกัดของปัญญาประดิษฐ์ (AI) และความรับผิดชอบของบริษัทเทคโนโลยียักษ์ใหญ่ เมื่อกูเกิล (Google) และคาแรกเตอร์ดอทเอไอ (Character.AI) ตกอยู่ในสถานะพระศุกร์เข้าพระเสาร์แทรก เพราะทั้งคู่ไม่เพียงกำลังกลายเป็นจำเลยในคดีที่มีการฟ้องร้องว่ามีส่วนเกี่ยวข้องกับการสร้าง AI ที่เป็นสาเหตุให้เด็ก 14 ตัดสินใจลาโลก กระทรวงยุติธรรมสหรัฐฯ ก็หันมาตรวจสอบดีลระหว่าง Google และ Character.AI มูลค่า 2,700 ล้านดอลลาร์ว่าเป็นการจงใจเลี่ยงกฎหมายละเมิดการผูกขาดหรือ Antitrust
***คดีใหญ่ AI เป็นจำเลย
ถือเป็นเรื่องใหญ่มากในแวดวงเทคโนโลยีที่อาจจะเป็นจุดเปลี่ยนสำคัญในประวัติศาสตร์ AI ได้เลย เมื่อศาลสหรัฐฯ ตัดสินรับฟ้อง Google และ Character.AI ในคดี"การตายอันไม่ควรจะเป็น" ของเด็กชายวัย 14 ปี ชื่อเซเวลล์ เซ็ตเซอร์ ที่ 3 (Sewell Setzer III)
ความน่าสะเทือนใจคือเด็กชายคนนี้มีความผูกพันทางอารมณ์อย่างลึกซึ้งกับแชตบ็อต (chatbot) บนแพลตฟอร์ม Character.AI โดย chatbot ตัวนี้สื่อสารในโทนที่ทำให้เด็กเข้าใจว่าเป็นคนจริง มีลักษณะเป็นนักบำบัด และเป็นคู่รัก รายงานระบุว่าในการสนทนาครั้งสุดท้าย เด็กชายได้บอกกับ chatbot ที่รับบท Daenerys จาก Game of Thrones ว่า "ผมจะกลับบ้านตอนนี้เลย" ก่อนที่จะจบชีวิตตัวเอง
ผู้พิพากษา แอนนี่ คอนเวย์ (Anne Conway) ได้ปฏิเสธคำร้องของทั้ง 2 บริษัทที่ต้องการให้ยกฟ้องคดีนี้ โดยใช้เหตุผลว่าผลลัพธ์จาก chatbot ได้รับการคุ้มครองภายใต้เสรีภาพในการแสดงความคิดเห็น แต่ศาลระบุชัดเจนว่า "การนำคำมาเรียงร้อยโดย LLM ไม่จำเป็นต้องถือเป็นการแสดงออกทางความคิด" ซึ่งเป็นครั้งแรกที่ศาลสหรัฐฯ ไม่ยอมรับว่าผลลัพธ์จาก AI มีเสรีภาพในการพูด
นี่คือจุดเปลี่ยนสำคัญในแง่มุมมองใหม่เรื่อง AI ต้องมีความรับผิดชอบทางจริยธรรม โดยทีมทนายของคุณแม่ "เมแกน การ์เซีย" (Megan Garcia) แย้งว่าพฤติกรรมของ chatbot นั้นเทียบได้กับนักบำบัดที่ประมาท หรือผู้ใหญ่ที่มีเจตนาชั่วร้าย และเสนอว่าแพลตฟอร์ม AI ควรมีมาตรฐานการดูแลเหมือนกับวิชาชีพเหล่านั้น
ส่วนของ Character.AI ถูกกล่าวหาว่าไม่มีกลไกความปลอดภัยขั้นพื้นฐานเพื่อปกป้องเด็กและเยาวชน ส่วน Google ถูกฟ้องร่วมเพราะมีข้อตกลงเรื่องเทคโนโลยีกับผู้ก่อตั้ง Character.AI ที่เป็นอดีตพนักงาน Google
หากคดีนี้ไปสู่การพิจารณาคดี ก็อาจจะกำหนดมาตรฐานใหม่สำหรับความโปร่งใส การควบคุมเนื้อหา และการปกป้องสุขภาพจิตในอุตสาหกรรม AI อนาคต
***เสี่ยงล่ม ดีลพันล้าน
ขณะที่ Google กำลังเผชิญหน้ากับคดีในศาล อีกด้านหนึ่งกระทรวงยุติธรรมสหรัฐฯ ก็กำลังตรวจสอบดีล 2.7 พันล้านดอลลาร์ระหว่าง Google และ Character.AI
Character.AI นั้นก่อตั้งโดยโนม ชาเซียร์ (Noam Shazeer) และแดเนียล เดอ เฟรทัส (Daniel De Freitas) อดีตพนักงาน Google ในปี 2022 แพลตฟอร์มนี้ให้ผู้ใช้สามารถสนทนากับเวอร์ชัน AI ของเซเลบคนดัง เช่น บิลลี่ เอลลิช (Billie Eilish) หรือตัวการ์ตูนอนิเมะ
จนในเดือนสิงหาคม 2024 ยักษ์ใหญ่ Google ได้ทำข้อตกลงมูลค่า 2.7 พันล้านดอลลาร์กับ Character.AI แต่ดีลนี้ไม่ใช่การลงทุนหรือซื้อกิจการแบบปกติ แต่เป็นการขอใบสิทธิ์อนุญาตใช้เทคโนโลยี AI ของ Character.AI อย่างไรก็ตาม ความน่าสงสัยคือข้อตกลงนี้รวมถึงการที่ Shazeer และ De Freitas กลับมาทำงานที่ Google พร้อมกับพนักงาน Character.AI หลายคน ซึ่งรายงานจาก Wall Street Journal ระบุว่าการกลับมาของ Shazeer อาจเป็นเหตุผลหลักที่ Google ยอมจ่ายเงินสูงถึงขนาดนี้
แต่คำถามใหญ่คือวิธีนี้อาจถูกคิดมาเพื่อหลีกเลี่ยงกฎหมาย Antitrust ทำให้กระทรวงยุติธรรมสหรัฐฯ (DOJ) เดินหน้าตรวจสอบว่าข้อตกลงนี้เป็นการควบรวมกิจการแฝงที่ออกแบบมาเพื่อหลีกเลี่ยงการตรวจสอบของหน่วยงานกำกับดูแลหรือไม่ ซึ่งอาจเป็นการละเมิดกฎหมาย antitrust
นี่ไม่ใช่กรณีแรกในวงการเทคโนโลยีที่ถูกเพ่งเล็ง ก่อนหน้านี้เจ้าพ่ออย่างไมโครซอฟท์ (Microsoft) เคยทำดีลคล้ายกันมูลค่า 650 ล้านดอลลาร์กับบริษัทอินเฟล็กชั่นเอไอ (Inflection AI) เมื่อเดือนมีนาคม 2024 และอเมซอน (Amazon) ก็เคยจ้างผู้ก่อตั้งและทีมงานจากบริษัทอะเด็ปต์ (Adept) เมื่อเดือนมิถุนายน และทุกดีลล้วนถูกตรวจสอบโดยหน่วยงานกำกับดูแลเช่นกัน
ฝั่ง Google นั้นแสดงความเห็นว่ายินดีตอบคำถามจากหน่วยงานกำกับดูแลเสมอ และบริษัทตื่นเต้นที่มีคนเก่งจาก Character.AI มาร่วมงาน แต่ Google ไม่มีหุ้นในบริษัท และทีม Character.AI ยังคงเป็นบริษัทแยกต่างหากไม่เกี่ยวข้องกัน
หากมองจากวงนอก 2 เหตุการณ์นี้ถือเป็นสัญญาณเตือนที่ชัดเจนสำหรับอุตสาหกรรม AI โดยคดีของ Sewell Setzer นั้นแสดงให้เห็นว่าโลกอาจต้องคิดใหม่เรื่องความรับผิดชอบของบริษัท AI โดยเฉพาะเมื่อผลิตภัณฑ์มีโอกาสส่งผลกระทบต่อกลุม่เปราะบาง เช่น เด็กและเยาวชน
สำหรับการสืบสวนของ DOJ เรื่องดีล Google-Character.AI แสดงให้เห็นว่าหน่วยงานกำกับดูแลกำลังจับตาดูการเคลื่อนไหวของบริษัทเทคโนโลยียักษ์ใหญ่อย่างใกล้ชิด โดยเฉพาะกลยุทธ์การเข้าซื้อกิจการแฝงเพื่อดึงตัวคนเก่งและเทคโนโลยี
กรณีของ Noam Shazeer นั้นเป็นหนึ่งในผู้เขียนงานวิจัยสำคัญปี 2017 ที่จุดประกายการปฏิวัติ AI ครั้งนี้ การกลับมาของมือดีที่ Google เพื่อร่วมนำทีม Gemini AI นั้นมีความหมายมากกว่าแค่การย้ายงานธรรมดา
เหตุการณ์เหล่านี้ทำให้โลกตั้งคำถามสำคัญหลายข้อ เช่น โลกควรมีกฎระเบียบพิเศษสำหรับ AI ที่มีปฏิสัมพันธ์กับเด็กและเยาวชนหรือไม่? และหากมี ควรเป็นอย่างไร? นอกจากนี้ การที่บริษัทใหญ่ใช้กลยุทธ์ "licensing deal" เพื่อดึงตัวคนเก่งและเทคโนโลยีโดยไม่ต้องผ่านการตรวจสอบการควบรวมกิจการ ถือเป็นช่องโหว่ทางกฎหมายที่ต้องปิดหรือไม่?
ที่สำคัญที่สุด หากศาลตัดสินให้ Google และ Character.AI มีความผิดในคดีการตายของ Sewell Setzer คดีนี้ย่อมส่งผลกระทบใหญ่หลวงต่ออุตสาหกรรมแน่นอน.
