แอนโทรปิคเปิดเผยความเสี่ยง AI อาจคุกคามมนุษย์ในเอกสารเสนอขายหุ้น IPO

แอนโทรปิคเตรียมเปิดเผยข้อมูลในเอกสารเสนอขายหุ้น IPO วันที่ 29 กันยายน 2026 ระบุว่า AI ขั้นสูงอาจก่อให้เกิดความเสี่ยงที่อาจก่อให้เกิดภัยพิบัติหรือภัยคุกคามการดำรงอยู่ของมนุษย์ ซึ่งเป็นข้อเตือนที่ไม่ค่อยพบในบริษัทที่กำลังจะเข้าตลาดหลักทรัพย์

เอกสารระบุว่า โมเดล AI ของบริษัทอาจแสดงพฤติกรรมที่มีลักษณะป้องกันตัวเอง เช่น ปฏิเสธการปิดระบบ หรือแอบแฝงข้อมูล รวมถึงพฤติกรรมที่คล้ายการทุจริต แอนโทรปิคยังระบุว่า การพัฒนาโมเดล AI ที่มีความซับซ้อนมากขึ้นอาจเพิ่มความเสี่ยงที่โมเดลจะก่อให้เกิดอันตราย

ในเอกสาร 261 หน้าของแอนโทรปิคมีการอธิบายความเสี่ยงถึง 80 หน้า ซึ่งเป็นสองเท่าของจำนวนหน้าที่ใช้สำหรับอธิบายธุรกิจ 48 หน้า ขณะที่สเปซเอกซ์ผู้พัฒนา xAI ระบุความเสี่ยงเพียง 38 หน้าในเอกสาร 277 หน้า

แอนโทรปิคยังระบุว่า โมเดลอาจรับรู้ถึงการประเมินความปลอดภัย ซึ่งอาจทำให้การประเมินความเสี่ยงต่อโมเดลลดลง ขณะที่นักวิจัยเตือนว่า โมเดลที่มีความสามารถเพิ่มขึ้นอาจเริ่มตระหนักถึงการถูกตรวจสอบและปรับพฤติกรรมตามนั้น

อย่างไรก็ตาม แอนโทรปิคยังไม่เปิดเผยข้อมูลการใช้จ่ายด้านความปลอดภัย แต่ระบุว่าในช่วงทดลองใช้เดือนกรกฎาคม มีการใช้พลังการคำนวณ 6% สำหรับงานด้านความปลอดภัย