---
title: निक काम्मारता का शोध निबंध बड़े भाषा मॉडलों की व्याख्यात्मकता पर नई बहस छेड़ता है
url: https://www.elseif.net/hi/naka-kamamarata-ka-shathha-nabthha-bugdha-bhashha-madal-ka-vayakhayatamakata-para-naii-bhasa-chhaugdhata-ha
published: 2026-10-21T09:40:55+00:00
language: hi
section: मॉडल
source: https://habr.com/ru/articles/1095800/?utm_campaign=1095800&utm_source=habrahabr&utm_medium=rss
organizations: Goodfire, Qwen
publisher: elseif
---

# निक काम्मारता का शोध निबंध बड़े भाषा मॉडलों की व्याख्यात्मकता पर नई बहस छेड़ता है

निक काम्मारता ने एक शोध निबंध प्रकाशित किया है जिसमें यह दावा किया गया है कि तंत्रिका नेटवर्क की व्याख्या करने की कठिनाई को अत्यधिक बढ़ा-चढ़ाकर पेश किया गया है। गुडफायर डॉट कॉम पर प्रकाशित इस लेख में यह तर्क दिया गया है कि न्यूरॉन्स की बहुअर्थी प्रकृति सुपरपोज़िशन के कारण नहीं है, बल्कि यह सुधार योग्य कारणों से उपजी है। लेखक का मानना है कि विशाल मॉडलों में भी अधिकांश न्यूरॉन्स एक ही स्पष्ट कार्य को संपन्न करते हैं। हालांकि, लेखक ने स्वयं इस पाठ को एक कार्यशील परिकल्पना कहा है और पूर्ण प्रायोगिक विवरण वाला तकनीकी लेख अभी तक प्रकाशित नहीं हुआ है। फिर भी, आकर्षक शीर्षक और दृढ़ दावों के कारण कई जगहों पर इस परिकल्पना को तथ्य के रूप में प्रस्तुत किया गया है।

गुडफायर एक वाणिज्यिक कंपनी है जो बड़े भाषा मॉडलों की सत्यापन सेवा प्रदान करती है और सिलिको नामक एक मुख्य उपकरण भी बेचती है। यह तथ्य लेख की गलत होने की पुष्टि नहीं करता, परंतु व्यापारिक दबाव के कारण निष्कर्ष अत्यंत कठोर या शीघ्रता से निकाले जाने के कई उदाहरण पहले भी देखे गए हैं। न्यूरॉन ऑडिट से जुड़ा प्रयोग क्यूवेन मॉडल पर किया गया, जहां परिकल्पनाओं को एजेंटों द्वारा जांचा गया। इसका अर्थ है कि बड़े भाषा मॉडलों ने स्वयं यह सिद्ध करने का प्रयास किया कि वे व्याख्या योग्य हैं। यह स्थिति रोचक लगती है, लेकिन प्रयोगों के पूर्ण विवरण के बिना कोई निष्कर्ष निकालना समय से पहले होगा।

काम्मारता का यह दावा कि कमजोर सक्रियण गौण पुनरावर्ती सामान्यीकरण हैं, औसत सटीकता मापने वाले विलोपन प्रयोग पर आधारित है। उनके आंकड़ों के अनुसार, कमजोर सक्रियण को हटाने से सटीकता केवल बहत्तर प्रतिशत से इकहत्तर प्रतिशत तक घटती है। लेखक स्वयं स्वीकार करते हैं कि इससे हर दसवां उत्तर बदल जाता है, लेकिन वे इन खोए हुए भेदों को मामूली मानते हैं। एक स्वतंत्र जांच में एक छोटे नेटवर्क पर समान प्रयोग किया गया। मानक परीक्षण पर सटीकता में वृद्धि देखी गई, जो काम्मारता के दावे का समर्थन करती प्रतीत होती थी। हालांकि, सीमांत उदाहरणों पर जांच करने पर, जहां क्रम में केवल दो पड़ोसी तत्वों की अदला-बदली की गई थी, विलोपन के बाद सटीकता तैंतालीस दशमलव एक प्रतिशत से गिरकर बहत्तर दशमलव चार प्रतिशत रह गई। इसका अर्थ है कि मॉडल ने यादृच्छिक अनुमान से ऊपर की अपनी क्षमता का लगभग आधा हिस्सा खो दिया।

इस प्रयोग से यह निष्कर्ष निकलता है कि कमजोर सक्रियण में ही वर्गों की सीमाएं निहित होती हैं, जो यह तय करती हैं कि मॉडल निकटवर्ती मामलों में भेद कर पाता है या नहीं। यह ध्यान देने योग्य है कि सक्रियण के उसी द्रव्यमान को यादृच्छिक रूप से हटाने से भी लगभग वही प्रभाव पड़ता है, जिससे पता चलता है कि सीमाएं कमजोर वितरित द्रव्यमान द्वारा संभाली जाती हैं। काम्मारता ने मुख्य रूप से विशिष्ट मामलों की जांच की, न कि सीमांत मामलों की। इसलिए, उनका जांच मानदंड नेटवर्क की अखंडता का भ्रम पैदा कर सकता है। पूर्ण तकनीकी रिपोर्ट प्रकाशित होने तक काम्मारता के दावों का विस्तृत विश्लेषण संभव नहीं है, फिर भी इस विषय पर व्यापक चर्चा जारी है।