模型

GPT-6 Astra 修改了 Qwen 的 0.016 % 权重,数学成绩提升六倍

2026年11月6日 · 阅读 1 分钟

breadboard wiring
Victor Aznabaev / Unsplash

2026年11月2日,麻省理工学院的四名研究人员发布了一份研究报告,介绍了GPT-6 Astra在没有任何训练阶段的情况下,通过修改Qwen3.5-0.8B模型的权重,使其在MATH-500基准测试中的分数从7.9%提升至48.1%的结果。该技术被称为权重空间编程。

报告指出,GPT-6 Astra是OpenAI的旗舰模型,在所有OpenAI的模型中表现最佳。由于其在网络安全方面的强大能力,OpenAI已限制了该模型的公共版本。实验中,研究人员通过Codex CLI调用Astra,并在沙箱中执行Python代码,以便分析Qwen模型的权重。

通过对Qwen3.5-0.8B模型的0.016%权重进行修改,研究人员成功地减少了模型在思考模式下的反复循环现象。Astra通过分析响应和权重,发现了导致循环的信号,并在源头进行了修复,最终修改了131072个权重,成功提升了模型的数学能力。

此外,研究还涉及其他小型人工智能模型的实验,尽管在一些情况下Astra未能改善GEMMA 3 270M模型的分数。研究人员指出,修改权重可以消除遮蔽能力的障碍,但无法增加模型本身缺乏的能力。该研究为网络安全领域提供了新的视角,可能影响模型的审计和安全性。