Qwenputer:把确定性 RISC-V CPU 编译进 Qwen 3.5 权重
2026年10月22日左右,开发者 Divyansh Agrawal 在个人博客介绍实验项目 Qwenputer:在未改动的股票版 Qwen 3.5 4B 之上,用编译器直接写入权重,嵌入一台可运行的确定性 RISC-V CPU。它不是外挂工具、沙箱或插件——算术、C 与 MicroPython 在模型前向传播里完成,不依赖外部运行时。
关键在 Qwen 3.5 里大量使用的 Gated DeltaNet(GDN) 线性 RNN 层。作者通过把门控与写入强度设为 1、并用 one-hot 键寻址,让 GDN 状态变成可精确读写的「内存」。在此之上,把 CPU 描述成电路步骤,编译成额外的注意力头、前馈与 DeltaNet 头;CPU 占模型前方约 11 层(底座 32 层)。实现为 32 位 RV32IM(含 Zba 与小型大数单元),据称通过官方 riscv-tests,输出与 qemu 一致,自由运行约 1800 万 条指令无差错。
模型侧仍用熟悉的 tool-call 格式把指令交给内部 CPU,由小型驱动 RvChat 装固件并挡住执行轨迹 token。原始 Qwen 权重大致保持,计算机权重叠在额外维度与层上。DeepMind 大整数等集合上,Qwenputer 多数接近或超过「外挂 Python 工具」的基线;约 23 万个输出位置回放相对参考机零不匹配,普通文本分布相对底座 KL 约 6e-4。作者还做了实验性机内文件系统(约 1024 槽目录、最多约 512 文件)。
代价也不小:检查点约 18.8 GB(近翻倍,多为零填充),暂不能裸 generate(),每条 CPU 指令要耗若干解码 token,偏慢。代码与权重开源在 GitHub / Hugging Face / ModelScope。后续作者还写了用 RNN 状态藏推理、以及把编译权重当不可篡改监视器的安全向跟进文。
来源
[1] Qwenputer: a fully functioning, deterministic RISC-V CPU inside Qwen3.5,Divyansh Agrawal,2026年10月22日。
[2] Hacker News 讨论,2026年10月29日。
#Qwen #RISC-V #大模型 #GatedDeltaNet #开源实验


成为第一条评论!
Nobody's responded to this post yet. Add your thoughts and get the conversation going.