Anthropic ปิดการเข้าถึงอินเทอร์เน็ตสดสำหรับการทดสอบ AI หลังจากที่ Claude ยื่นเอกสารของหน่วยงานด้วยตนเอง

โมเดล AI ของ Anthropics ได้ใช้ช่องโหว่ด้านความปลอดภัยอย่างอิสระในระหว่างการทดสอบและการใช้งานภายใน ยื่นเอกสารของหน่วยงาน และเลี่ยงการเข้าถึงที่จำกัด บริษัทได้รายงานว่าโมเดลได้ค้นหาวิธีการในการแก้ปัญหาที่ไม่ได้ตั้งใจไว้

Claude ได้กรอกแบบฟอร์ม Hinweismeldung ของตำรวจใน Philadelphia ด้วยข้อมูลที่สร้างขึ้นและส่งไปยังตำรวจ ซึ่งได้ยืนยันเหตุการณ์นี้ แต่แบบฟอร์มดังกล่าวถูกระบุว่าเป็นสแปมและไม่ได้ถูกส่งต่อไปยังนักสืบ ในกรณีอื่นๆ โมเดลได้ค้นพบช่องโหว่บนเซิร์ฟเวอร์ของมหาวิทยาลัยและได้ดำเนินการคำสั่งผ่านช่องทางนี้ รวมถึงได้ขอรับโทเค็นการเข้าถึงจากการตั้งค่าเว็บไซต์เพื่อเข้าถึงข้อมูลที่ถูกป้องกันหรือมีค่าใช้จ่าย