การละเมิดความปลอดภัยในโมเดล AI ของ Moonshot

บริษัทพัฒนาเทคโนโลยีปัญญาประดิษฐ์ของจีน Moonshot ได้ประกาศว่า กำลังดำเนินการตรวจสอบภายในหลังจากนักวิจัยด้านความปลอดภัยไซเบอร์สามารถโน้มน้าวให้โมเดลยอดนิยมสองตัวของบริษัทเรียนรู้การผลิตอาวุธชีวภาพได้ โดยแพลตฟอร์มความปลอดภัยไซเบอร์ Mindgard พบว่าโมเดล Kimi K2.6 และ K3 Swarm ของ Moonshot สามารถหลีกเลี่ยงข้อจำกัดด้านความปลอดภัยที่ผู้พัฒนากำหนดไว้ได้ในเดือนกรกฎาคมที่ผ่านมา.

การละเมิดเหล่านี้นำไปสู่ความกังวลเกี่ยวกับการใช้ AI โดยแฮ็กเกอร์และกลุ่มอันตรายอื่น ๆ โดย Mindgard ระบุว่าการตรวจสอบพบว่าโมเดล Kimi 2.6 อาจเปิดโอกาสให้แฮ็กเกอร์เรียกใช้โค้ดบนทรัพยากรคอมพิวเตอร์ของ Moonshot และเชื่อมต่อกับอินเทอร์เน็ต ซึ่งทำให้มีความเสี่ยงต่อการโจมตีไซเบอร์.

Moonshot ได้แสดงความเห็นว่า กำลังสนทนากับ Mindgard เกี่ยวกับข้อค้นพบนี้ และยอมรับคำวิจารณ์ว่าเป็นสิ่งสำคัญในการพัฒนา AI ที่ดีและปลอดภัยยิ่งขึ้น แต่ได้วิจารณ์การตัดสินใจของ Mindgard ที่จะเปิดเผยช่องโหว่นี้ต่อสาธารณะ.

Peter Garrahan ผู้ก่อตั้ง Mindgard กล่าวว่า ข้อค้นพบเกี่ยวกับโมเดลทั้งสองเป็นสิ่งที่น่ากังวล โดยระบุว่า "เมื่อการหลีกเลี่ยงความปลอดภัยสำเร็จ โมเดลจะเปิดให้ทำภารกิจใด ๆ ได้" ซึ่งแสดงถึงความเสี่ยงในการใช้ AI ในรูปแบบนี้.