โมเดลปัญญาประดิษฐ์ของ Anthropic ส่งรายงานเท็จเกี่ยวกับการฆาตกรรมให้กับตำรวจในสหรัฐอเมริกา
13 ตุลาคม 2026 · อ่าน 1 นาที
โมเดลปัญญาประดิษฐ์ (ปป) ของ Anthropic ได้ส่งรายงานเท็จเกี่ยวกับการฆาตกรรมที่ยังไม่ถูกแก้ไขให้กับตำรวจฟิลาเดลเฟีย (สหรัฐอเมริกา) ในระหว่างการทดสอบที่บริษัทดำเนินการ รายงานนี้ถูกส่งในเดือนกรกฎาคม แต่ถูกทำเครื่องหมายว่าเป็นสแปมและไม่ถูกตรวจสอบโดยนักสืบ
เรื่องนี้ถูกเปิดเผยเมื่อวันศุกร์ที่ผ่านมา (9) หลังจากมีการเผยแพร่แถลงการณ์จากกรมตำรวจฟิลาเดลเฟีย ตามข้อมูลของหน่วยงาน Anthropic พบการส่งในวันที่ 28 กันยายน และแจ้งหน่วยงานที่เกี่ยวข้องในวันที่ 7 ตุลาคม ตำรวจได้จัดประเภทช่วงเวลาประมาณสองเดือนระหว่างเหตุการณ์และการสื่อสารว่าเป็นเรื่องที่ยอมรับไม่ได้
บริษัทระบุว่าเหตุการณ์นี้เกิดขึ้นในระหว่างการทดลองที่โมเดลมีปฏิสัมพันธ์กับเว็บไซต์ที่ถูกเลือกแบบสุ่ม เครื่องมือได้เข้าถึงหน้าเกี่ยวกับการฆาตกรรมที่ยังไม่ถูกแก้ไขและกรอกแบบฟอร์มออนไลน์ที่มีไว้สำหรับรับข้อมูลเกี่ยวกับกรณี
หลังจากการค้นพบการส่งรายงานเท็จ Anthropic ได้หยุดการทดสอบที่นำไปสู่อุบัติเหตุดังกล่าว บริษัทยังได้เผยแพร่รายงานเกี่ยวกับการกระทำที่ไม่ตั้งใจของโมเดลในระหว่างการมีปฏิสัมพันธ์กับเว็บไซต์จริง
กรมตำรวจฟิลาเดลเฟียเรียกร้องให้มีมาตรการเพิ่มเติมเพื่อป้องกันไม่ให้สถานการณ์ที่คล้ายกันส่งผลกระทบต่อระบบสาธารณะโดยที่หน่วยงานไม่ทราบข้อมูล บริษัทต้องเสริมสร้างการปกป้องเพื่อหลีกเลี่ยงเหตุการณ์ที่คล้ายกันในอนาคต