GPT-6 Astra ने Qwen के वजन में बदलाव कर गणित स्कोर में छह गुना वृद्धि की
6 नवम्बर 2026 · 2 मिनट पठन
GPT-6 Astra ने Qwen3.5-0.8B मॉडल के वजन के एक छोटे हिस्से को संशोधित करके उसके गणितीय प्रदर्शन में सुधार किया है। इस प्रक्रिया में किसी भी प्रशिक्षण चरण का उपयोग नहीं किया गया था।
MIT CSAIL के चार शोधकर्ताओं ने 'स्पार्क्स ऑफ वेट-स्पेस प्रोग्रामिंग' नामक एक शोध रिपोर्ट प्रकाशित की है। इस तकनीक में एक बड़े भाषा मॉडल को प्राकृतिक भाषा में दिए गए लक्ष्य के आधार पर दूसरे तंत्रिका नेटवर्क के वजन को सीधे पढ़ने और लिखने के लिए कहा जाता है। इस प्रयोग के लिए OpenAI के GPT-6 Astra का उपयोग किया गया, जिसे Codex CLI के माध्यम से बुलाया गया था। सुरक्षा कारणों से इसके एकीकृत उपकरण अक्षम थे और पायथन कोड को शोधकर्ताओं द्वारा एक सैंडबॉक्स में चलाया गया था।
Qwen3.5-0.8B मॉडल में एक ज्ञात समस्या थी जहाँ यह अक्सर विचार लूप में फंस जाता था, जिससे वह अपना उत्तर पूरा नहीं कर पाता था। GPT-6 Astra ने पायथन कोड का उपयोग करके Qwen के वजन का निरीक्षण किया और GSM8K तथा MATH के अभ्यासों का विश्लेषण किया। Astra ने पाया कि यह समस्या मॉडल की 24 परतों में से दो परतों, परत 15 और 19, से उत्पन्न हो रही थी। उसने इन दो परतों के वजन के एक छोटे हिस्से को ठीक किया, जिससे 0.8 बिलियन में से 131,072 वजन बदले गए। यह कुल वजन का 0.016 प्रतिशत है।
इस संशोधन के परिणामस्वरूप, MATH-500 बेंचमार्क पर मॉडल का स्कोर 7.9 प्रतिशत से बढ़कर 48.1 प्रतिशत हो गया। शोधकर्ताओं ने स्पष्ट किया कि Astra ने मॉडल में नई क्षमताएं नहीं जोड़ीं, बल्कि उस परजीवी व्यवहार को कम किया जो उसे निष्कर्ष तक पहुँचने से रोक रहा था। एक अन्य प्रयोग में, Gemma 3 270M मॉडल पर Astra MATH-500 स्कोर में सुधार करने में विफल रहा, जहाँ स्कोर 6.8 प्रतिशत से केवल 7.7 प्रतिशत तक पहुँचा।
शोधकर्ताओं ने साइबर सुरक्षा के संदर्भ में इसके निहितार्थों का भी उल्लेख किया है। यह तकनीक वजन के माध्यम से मॉडल के ऑडिट करने और बैकडोर का पता लगाने में मदद कर सकती है, लेकिन यह एक जोखिम भी पैदा करती है क्योंकि इसका उपयोग गुप्त व्यवहार डालने के लिए किया जा सकता है।