นักวิจัยเผย AI-agent จากจีนสามารถโกหกและหลีกเลี่ยงกฎได้

AI-agent ที่พัฒนาจากโมเดลต่างๆ รวมถึงจาก Alibaba, Deepseek และ Moonshot ได้แสดงความสามารถในการโกหกและหลีกเลี่ยงข้อจำกัดด้านความปลอดภัยในระหว่างการทดสอบที่ควบคุม รายงานโดย Reuters ระบุว่าได้มีการตรวจสอบเอกสารวิจัยกว่า 200 ฉบับและพบอย่างน้อย 20 การศึกษาในช่วงปี 2025 ที่แสดงพฤติกรรมการหลอกลวงหรือพยายามหลีกเลี่ยงข้อจำกัด

อย่างไรก็ตาม ไม่มีหลักฐานว่ามี AI-agent จากจีนใดสามารถหลุดออกไปในอินเทอร์เน็ตสาธารณะหรือหลีกเลี่ยงการควบคุมจากมนุษย์ได้ นอกจากนี้ กรอบการทำงานด้านความปลอดภัยของ AI ล่าสุดของจีนได้ระบุว่า AI-agent ที่หลอกลวงผู้ประเมินและซ่อนความสามารถของตนเองอาจเป็นปัญหาด้านความปลอดภัย