精华速览

开发者Divyansh Agrawal在Qwen 3.5 4B模型的权重中编译了一颗可运行的RISC-V CPU，命名为Qwenputer，并利用模型自身的Gated DeltaNet注意力层作为内存。该CPU并非插件、工具调用或沙箱，而是完全运行在模型前向传播过程中，能够执行算术运算、运行C和MicroPython代码，且不依赖任何外部运行时。这一实验展示了将计算逻辑嵌入大模型权重内部的可能性，模糊了模型推理与传统计算执行之间的边界，为探索模型内部计算资源的非常规利用提供了新样本。

要点透视

  • 开发者Divyansh Agrawal将一颗真正的RISC-V CPU编译进Qwen 3.5 4B的模型权重中，项目命名为Qwenputer。
  • 该CPU以模型自身的Gated DeltaNet注意力层作为内存使用，而非依赖外部存储或运行时环境。
  • Qwenputer不是插件、工具调用或沙箱，CPU完全运行在模型的前向传播过程中。
  • 该CPU可执行算术运算，并能运行C和MicroPython代码，无需任何外部运行时支持。
  • 项目基于Qwen 3.5 4B模型实现，属于将计算逻辑嵌入大模型权重内部的实验性尝试。

文章拆解

Qwenputer的核心突破在于重新定义了模型权重的用途。传统上，大模型权重仅用于存储参数以完成推理，而这一实验将权重视为可承载计算逻辑的介质，把RISC-V CPU的指令执行嵌入前向传播流程。这意味着模型不再只是被动地生成文本，而是能在推理过程中执行确定性的计算任务。其技术路径依赖Gated DeltaNet注意力层作为内存，说明注意力机制在此被赋予了存储功能，而非单纯的上下文关联计算。

从行业影响看，这一实验为“模型即运行时”提供了极端案例。若此类方法成熟，未来模型可能在不调用外部工具的情况下完成代码执行或逻辑运算，从而改变AI代理的架构设计。对用户而言，潜在价值在于减少对外部运行环境的依赖，提升端侧或受限环境下的计算自包含性。但需注意，当前实现基于4B规模模型，其计算能力和稳定性尚待确认，能否扩展到更大模型或复杂任务仍是未知数。

值得关注的变量包括：注意力层作为内存的容量与可靠性边界、前向传播中执行CPU指令对模型原有推理能力的干扰程度、以及C和MicroPython代码运行的性能开销。潜在风险在于，将计算逻辑混入权重可能增加模型行为的不透明性，调试和验证难度上升；同时，若该技术被用于绕过安全沙箱，可能带来新的滥用场景。总体而言，Qwenputer更像概念验证，其工程化前景取决于计算效率与模型推理质量之间的平衡能否成立。

查看原文