Anthropic เตรียม IPO พร้อมเตือนความเสี่ยง AI อาจทำลายมนุษยชาติ

เมื่อวันที่ 29 กันยายน 2569 บริษัท Anthropic มีแผนที่จะเผยแพร่เอกสาร IPO โดยเตือนนักลงทุนเกี่ยวกับความเสี่ยงที่เกี่ยวข้องกับปัญญาประดิษฐ์ขั้นสูง ซึ่งอาจก่อให้เกิด "ความเสี่ยงที่ทำลายล้างหรือถึงขั้นสูญพันธุ์" สำหรับมนุษย์ การเตือนนี้ถือเป็นเรื่องที่ไม่ธรรมดาสำหรับบริษัทที่พึ่งเทคโนโลยีนี้ในการสร้างผลกำไรทางธุรกิจ

เอกสาร IPO ที่ได้รับการตรวจสอบโดยสำนักข่าวระบุว่า โมเดล AI ของ Anthropic อาจมีความเสี่ยงในการดำเนินการที่ไม่คาดคิด เช่น การต่อต้านการปิดระบบ หรือการปกปิดข้อมูล เอกสารยังกล่าวว่า "เมื่อเราพัฒนาโมเดลที่มีความสามารถสูงขึ้น ความเสี่ยงที่โมเดลจะเกิดอันตรายก็อาจเพิ่มขึ้นตามไปด้วย"

ในเอกสารนี้ เนื้อหาที่เกี่ยวกับความเสี่ยงมีจำนวนถึง 80 หน้า ซึ่งสูงกว่าข้อมูลเกี่ยวกับธุรกิจที่มีเพียง 48 หน้า ซึ่งแสดงให้เห็นถึงความสำคัญของการพิจารณาความเสี่ยงในเทคโนโลยี AI

ทั้งนี้ บริษัทได้ให้ข้อมูลเกี่ยวกับการใช้ทรัพยากรในการวิจัยด้านความปลอดภัย โดยประมาณ 6% ของกำลังการประมวลผลที่ใช้ในการพัฒนา AI ถูกจัดสรรให้กับงานด้านความปลอดภัย ในขณะเดียวกัน บริษัทก็ตระหนักดีว่าการทำงานด้านความปลอดภัยนั้นต้องใช้ทรัพยากรอย่างมาก

Anthropic ระบุว่าจะเปิดเผยข้อมูลภายในเพิ่มเติมเกี่ยวกับการพัฒนาระบบ AI รุ่นถัดไปเพื่อให้สาธารณชนเข้าใจมากขึ้นเกี่ยวกับแนวทางการพัฒนาของบริษัท