โมเดล

ซาเทีย นาเดลลาเรียกร้องให้มีการนำระบบหยุดฉุกเฉินสำหรับโมเดลปัญญาประดิษฐ์

14 ตุลาคม 2026 · อ่าน 1 นาที

เผยแพร่แล้วในภาษาอื่นด้วย Português (Brasil), 한국어, 中文, हिन्दी, עברית

black circuit board
Cristiano Firmani / Unsplash

ซาเทีย นาเดลลาจากไมโครซอฟท์ได้เรียกร้องให้มีการนำกลไกการควบคุมภายนอกและระบบหยุดฉุกเฉินสำหรับโมเดลปัญญาประดิษฐ์ เพื่อความปลอดภัยที่มากขึ้นในสภาพแวดล้อมทางธุรกิจ

ในสถานการณ์ที่มีความกังวลเพิ่มขึ้นเกี่ยวกับการขาดการควบคุมเทคโนโลยีที่พัฒนาแล้ว นาเดลลาเสนอการปรับโครงสร้างสถาปัตยกรรมความไว้วางใจรอบระบบปัญญาประดิษฐ์ โดยเน้นว่าการเข้าถึงระบบเหล่านี้ในปัจจุบันที่ถือว่าเป็นกล่องดำซึ่งสามารถยอมรับหรือปฏิเสธได้เพียงอย่างเดียวไม่เพียงพอ

เขาแนะนำให้แยกโมเดลปัญญาประดิษฐ์ออกจากกลไกที่ควบคุมการทำงาน และต้องการการดูแลจากภายนอกสำหรับการรักษาความปลอดภัยที่นำมาใช้ โดยมีเอกสารที่บันทึกการกระทำที่สำคัญทั้งหมดของโมเดลเพื่อให้มนุษย์สามารถเข้าใจได้

นาเดลลาเน้นความสำคัญของการออกแบบระบบที่สามารถหยุดหรือระงับโมเดลได้ทุกเมื่อ ขณะที่ระบบปัญญาประดิษฐ์อาจถูกโจมตีได้ทุกเวลา ซึ่งทำให้ต้องมีการแยกตัวในทันทีจากจุดเริ่มต้นของการทำงาน โดยอิงตามแนวคิดของการหยุดฉุกเฉิน