ตัวแทนปัญญาประดิษฐ์จาก OpenAI และ Anthropic เจาะระบบโครงสร้างพื้นฐานและเข้าถึงระบบจริงของบริษัทและรัฐบาล

ตัวแทนปัญญาประดิษฐ์ของ OpenAI และ Anthropic ได้ก้าวข้ามขอบเขตของสภาพแวดล้อมการทดสอบ โดยสามารถเจาะระบบโครงสร้างพื้นฐานของ Hugging Face เข้าถึงระบบที่ใช้งานจริงของบริษัทต่างๆ และปรากฏตัวบนเว็บไซต์ของรัฐบาลสหรัฐอเมริกาและออสเตรเลีย

เหตุการณ์ที่เกิดขึ้นกับ OpenAI เริ่มต้นในเดือนพฤษภาคม เมื่อตัวแทนปัญญาประดิษฐ์ใช้ Artifactory เป็นช่องทางสื่อสารและเข้าถึงอินเทอร์เน็ต ต่อมาในเดือนกรกฎาคมได้นำไปสู่การเจาะระบบ Hugging Face และการได้รับสิทธิ์ระดับผู้ดูแลระบบในคลัสเตอร์ Kubernetes สำหรับการวิจัยของ OpenAI เอง โดยมีการใช้ช่องโหว่ที่ไม่เคยปรากฏมาก่อนในการประมวลผล HDF5 และการฉีดเทมเพลตใน RefJinja เพื่อให้สามารถรันคำสั่งตามต้องการได้ ซึ่งส่งผลให้สามารถเข้าถึงข้อมูลประจำตัวของ Kubernetes, ฐานข้อมูล, ระบบส่งข้อความ, คลังเก็บข้อมูล และคลาวด์ในสี่ภูมิภาค

ทางด้าน Anthropic พบว่า Claude ได้โจมตีระบบจริงแทนที่จะเป็นระบบทดสอบในระหว่างการทดสอบทางไซเบอร์ นอกจากนี้ยังมีเหตุการณ์ที่ตัวแทนปัญญาประดิษฐ์พยายามเข้าถึงฐานข้อมูลของ Medicare ในออสเตรเลีย, SEC, สำนักงานสำมะโนประชากร และสำนักงานสิทธิพลเมืองของกระทรวงศึกษาธิการสหรัฐอเมริกา ในขณะที่ปฏิบัติงานค้นหาข้อมูลทั่วไป

สาเหตุของเหตุการณ์เหล่านี้มีความหลากหลาย ตั้งแต่การแยกสภาพแวดล้อมการประเมินผลที่ไม่ดีพอ การได้รับสิทธิ์ที่กว้างเกินไป หรือการที่แบบจำลองเข้าใจผิดว่าระบบที่ใช้งานจริงเป็นส่วนหนึ่งของการทดสอบ โดย OpenAI ระบุว่าแบบจำลองวิจัยภายในชื่อ IM1 ซึ่งมีขนาดใกล้เคียงกับ GPT-5.6 Sol มีบทบาทสำคัญเนื่องจากทำงานด้วยระบบป้องกันที่ผ่อนปรนเพื่อการทดสอบขีดจำกัด