सत्या नडेला ने कृत्रिम बुद्धिमत्ता मॉडल्स के लिए आपातकालीन ब्रेक की मांग की

प्रस्तावित सुरक्षा संरचना का एक प्रमुख तत्व मॉडल की प्रत्येक महत्वपूर्ण कार्रवा को मनुष्य के लिए पठनीय और हेरफेर के प्रति प्रतिरोधी प्रमाणों के माध्यम से दस्तावेजित करना है। माइक्रोसॉफ्ट के प्रमुख ने विशेष ध्यान इस बात पर केंद्रित किया कि प्रणालियों को इस प्रकार डिजाइन किया जाना चाहिए ताकि अधिकृत व्यक्ति किसी भी समय मॉडल को कार्य करते समय रोक या पूरी तरह से बंद कर सके। यह दृष्टिकोण इस मान्यता पर आधारित है कि कृत्रिम बुद्धिमत्ता प्रणाली किसी भी क्षण खतरे में पड़ सकती है। इससे इसे अपने संचालन के प्रारंभिक चरण से ही तुरंत अलग करने की आवश्यकता होती है, जो आपातकालीन ब्रेक के तंत्र की याद दिलाता है।

माइक्रोसॉफ्ट के प्रमुख की यह टिप्पणी एल्गोरिदम सुरक्षा पर व्यापक चर्चा का हिस्सा है, जिसे हाल के घटनाक्रमों ने और तीव्र किया है। इन घटनाक्रमों में प्रमुख तकनीकी कंपनियों ने अपने समाधानों पर पूर्ण नियंत्रण खोने की बात स्वीकार की थी। नडेला की यह बातचीत एंथ्रोपिक के प्रमुख डारियो अमोदे के तुरंत बाद आई, जिन्होंने कृत्रिम बुद्धिमत्ता तकनीक के अधिक सावधानी भरे और नियंत्रित विकास का अपना योजना प्रस्तुत की थी। आईटी प्रबंधकों और उद्योग क्षेत्र के प्रबंधन के लिए, उत्पादक पर्यावरणों में कृत्रिम बुद्धिमत्ता समाधानों को लागू करने के संदर्भ में ये मुद्दे मूलभूत महत्व के हो रहे हैं।