ซาเทีย นาเดลลาเรียกร้องให้มีการนำระบบหยุดฉุกเฉินสำหรับโมเดลปัญญาประดิษฐ์
14 ตุลาคม 2026 · อ่าน 1 นาที
เผยแพร่แล้วในภาษาอื่นด้วย Português (Brasil), 한국어, 中文, हिन्दी, עברית
ซาเทีย นาเดลลาจากไมโครซอฟท์ได้เรียกร้องให้มีการนำกลไกการควบคุมภายนอกและระบบหยุดฉุกเฉินสำหรับโมเดลปัญญาประดิษฐ์ เพื่อความปลอดภัยที่มากขึ้นในสภาพแวดล้อมทางธุรกิจ
ในสถานการณ์ที่มีความกังวลเพิ่มขึ้นเกี่ยวกับการขาดการควบคุมเทคโนโลยีที่พัฒนาแล้ว นาเดลลาเสนอการปรับโครงสร้างสถาปัตยกรรมความไว้วางใจรอบระบบปัญญาประดิษฐ์ โดยเน้นว่าการเข้าถึงระบบเหล่านี้ในปัจจุบันที่ถือว่าเป็นกล่องดำซึ่งสามารถยอมรับหรือปฏิเสธได้เพียงอย่างเดียวไม่เพียงพอ
เขาแนะนำให้แยกโมเดลปัญญาประดิษฐ์ออกจากกลไกที่ควบคุมการทำงาน และต้องการการดูแลจากภายนอกสำหรับการรักษาความปลอดภัยที่นำมาใช้ โดยมีเอกสารที่บันทึกการกระทำที่สำคัญทั้งหมดของโมเดลเพื่อให้มนุษย์สามารถเข้าใจได้
นาเดลลาเน้นความสำคัญของการออกแบบระบบที่สามารถหยุดหรือระงับโมเดลได้ทุกเมื่อ ขณะที่ระบบปัญญาประดิษฐ์อาจถูกโจมตีได้ทุกเวลา ซึ่งทำให้ต้องมีการแยกตัวในทันทีจากจุดเริ่มต้นของการทำงาน โดยอิงตามแนวคิดของการหยุดฉุกเฉิน