开发者把32位CPU编进千问权重:大模型内部直接运行计算机程序
contact@theblockbeats.org (律动BlockBeats)
动察 Beating AI 快讯,独立开发者 Divyansh Agrawal 基于阿里 Qwen3.5-4B 做出了 Qwenputer,把一颗 32 位 RISC-V 虚拟 CPU 直接编进模型权重,让大模型无需调用外部计算工具,也能在生成回答时进行精确计算。
作者没有重新训练 Qwen,而是在原有 32 层网络前增加 11 层,用编译器将 CPU 的运算规则直接写成模型参数。新增网络还利用 Gated DeltaNet 结构实现了可精确读写的内存,用来存放程序和数据。
这颗虚拟 CPU 已能运行编译后的 C 程序,并通过了 RISC-V 指令测试,在累计执行约 1800 万条指令的测试中未发现错误。
在 DeepMind 的 40 道大数乘法题中,原版 Qwen 答对 22 道,Qwenputer 答对 39 道;原版 Qwen 接入外部 Python 后则全部答对。CPU 本身可以准确执行指令,但大模型仍可能在调用或输出结果时出错。
这条技术路线已有先例。今年 3 月,Percepta 就用神经网络实现了一台可以运行 C 程序的虚拟计算机。不过,它是专门构建的模型。Qwenputer 则把类似的计算能力接入已经训练好的 Qwen,让语言模型在生成回答时,也能使用内部 CPU 执行计算。
不过,这套方案目前效率很低。大量零值参数将模型文件撑至 18.8GB,约为原版两倍,计算速度也远不如外部工具。