返回首页

Clover-35B

x+web+hf+github 0.92
访问原文

介绍

Clover-35B(正式名 Clover-35B-A3B-Preview,中文亦称「三叶」)是 扩散智能 DiffuSpace 于 2026-10-28 发布并开源的首款生产向扩散语言模型(dLLM)。总参数约 350 亿、每次约激活 30 亿,采用混合专家(MoE)与**块扩散(block diffusion)**并行去噪,上下文最长约 128K,许可证为 Apache-2.0。

团队源自港大 NLP 实验室 Dream 7B 一脉。官方博客、GitHub、Hugging Face / ModelScope 与 X 账号 @DiffuSpace_Labs 同步放出权重与介绍;雷锋网、量子位等同日跟进报道。

官网博客:diffuspace.ai/blog/clover-35b · GitHub:DiffuSpace/Clover-35B-A3B-Preview · HF:Diffuspace/Clover-35B-A3B-Preview · ModelScope:Diffuspace/Clover-35B-A3B-Preview。

解释

要点

  1. 范式:相对逐 token 自回归,Clover 在块内并行填补/去噪,再跨块推进;官方称面向 Agent 编程与工具调用做了优化,并支持思考模式。
  2. 官方自测指标(厂商数据):SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、τ³ Overall 65.3、GPQA Diamond 83.8;单卡 NVIDIA GB300、BF16、bs=1 内部 Agent 场景约 680 tokens/s,H200 上约 515 tokens/s(对比文中 DFlash2 加速的同尺寸 Qwen 约 365)。
  3. 架构卖点:围绕块扩散重构双向门控 Delta 网络(Bidirectional GDN)、可学习块大小校准、右侧零初始化卷积分支等;推理侧宣称支持 SGLang 与 llama.cpp。
  4. 端侧:官方称可在 16GB 显存的 RTX 5070 Ti 上 INT4 部署;MATH-500 上自报约 101.8 tok/s。
  5. 路线图:后续还有决策模型(独立/联合模式,联合最多 8 题并行)、多模态与 Agent harness / 桌面客户端;决策模型尚未正式放权。

为什么收录

这是本时间窗内最清晰的新命名模型发布:官方 X 发帖(约 2026-10-28 11:42 北京时间)后,下午中文科技媒体与开发者讨论升温,且此前各轮雷达未入库。名称具体、有可验证的博客/仓库/权重页,不属于传闻或纯版本号刷屏。

用法

快速上手

  1. 在 Hugging Face 或 ModelScope 下载权重(Apache-2.0)。
  2. 参考 GitHub 仓库的 Quick Start / Inference Backends:实验可用 Transformers;服务与评测优先官方 SGLang 块扩散路径;本地可试 llama.cpp 的自投机解码路径。
  3. 也可到 diffuspace.ai 申请在线内测(chat.diffuspace.ai 等入口以官网为准)。

提示

  • 基准与吞吐数字来自厂商博客,换用前请在自己的任务与硬件上复现。
  • 模型基于 Qwen3.6-35B-A3B 一脉改造,部署时注意与自回归 Qwen 工具链的差异(块扩散 vs 逐 token)。
  • 「决策模型」为后续发布,当前 Preview 主推的是语言模型权重本身。