0
0
霞舞
发布时间：2026-01-09 20:28:02
|890人浏览过
|来源于php中文网
原创
z lab 推出了开源推测解码框架 dflash，该框架采用轻量级 block diffusion 模型来生成草稿序列，旨在突破自回归大语言模型在推测解码过程中因草稿生成串行化所引发的性能瓶颈。
DFlash 创新性地将目标模型的隐层特征融入草稿生成过程，作为上下文条件进行建模，从而实现高质量、高效率的并行草稿预测。
https://www.php.cn/link/b14306cd6ce646b9b7bee6ea942711a1
据官方测试结果，DFlash 在 Qwen3-8B 模型上达成高达 6.17 倍的无损推理加速，解码吞吐量相较当前最优的推测解码方案 EAGLE-3 提升近 2.5 倍。项目现已开源，并同步发布适配 Qwen3-4B 与 Qwen3-8B 的预训练草稿模型，相关技术论文正在整理中，即将正式公开。
研发团队透露，DFlash 正在紧锣密鼓地接入 vLLM 推理引擎，并已规划对大规模 MoE 架构模型的支持路线图。
源码地址：点击下载
相关文章
用数据照亮成长之路：PandaCoder Git 统计工具窗口
Git 3.0 有望在 2026 年发布，默认启用更安全的 SHA-256 哈希算法
JetBrains 宣布 DataGrip 面向非商业用途免费
Linus 对 Git 提交信息中“Link:”标签被滥用表达不满
开源 IDE 项目 Zed 完成 3200 万美元 B 轮融资
本站声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn
热门AI工具
相关专题
http与https的区别：1、协议安全性；2、连接方式；3、证书管理；4、连接状态；5、端口号；6、资源消耗；7、兼容性。本专题为大家提供相关的文章、下载、课程内容，供大家免费下载体验。
1880
2024.08.16
热门下载
相关下载
Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
