Qwen3.8-27B开源即用!昇腾0Day适配:270亿参数推理效率拉满
创始人
2026-08-15 23:27:50

快科技8月15日消息,阿里巴巴旗下千问大模型团队于8月14日晚间正式开源Qwen3.8-27B模型。昇腾在模型开源后同步完成0Day适配,通过vLLM-Ascend开源推理引擎实现Qwen3.8-27B在Atlas 800 A3、Atlas 850E超节点上的高效推理部署。

Qwen3.8-27B是一款原生多模态稠密(Dense)模型,参数量270亿。模型原生支持262K tokens上下文长度,通过YaRN技术可外推至1M tokens。

在架构上,Qwen3.8-27B采用混合线性注意力设计,64层中48层为Gated DeltaNet线性注意力、16层为Full Attention。这种设计打破了长序列下O(n²)的计算复杂度,兼顾了长序列处理效率与上下文建模能力。

在性能表现上,Qwen3.8-27B在编程和办公场景中显著超越前代Qwen3.6-27B,整体水平优于Qwen3.7-Plus。

该模型在Agentic terminal coding测试中得分73.0(前代63.4),在SWE-bench Pro测试中得分61.7(前代53.5)。模型新增了reasoning_effort功能,可根据任务难度动态调节思考深度以节省计算资源。

针对Qwen3.8-27B的结构特点,昇腾采用多项关键技术进行优化。在Prefill阶段采用GDN融合算子,以Chunk方式高效处理长序列,减少中间数据搬运和算子调度开销。

vLLM-Ascend支持W8A8量化部署,将权重与激活值从BF16量化至8-bit,充分发挥昇腾NPU的INT8/MXFP8算力。

同时利用Qwen3.8的MTP投机推理能力,通过MTP模块预测后续Token、主模型并行校验,减少主模型调用次数。Decode阶段支持将计算捕获为设备侧执行图(ACLGraph),消除重复调度开销。

上一篇:英伟达最新开源模型上线

下一篇:没有了

相关内容

热门资讯

旅游纪念品旅游冰箱贴如何制作地... 地域标识是旅游冰箱贴的核心灵魂,也是游客愿意购买、收藏、传播的关键。一枚具备强地域属性的冰箱贴,能让...
一封来自东北七日环线游客的表扬... “旅途的舒服一半来自风景,一半来自靠谱的司机。” 这是王女士一家结束东北七日环线之旅后,发在行程群里...
循着徐霞客足迹,览尽武功山风光 三百八十九年前的正月初四, 一位江苏旅人推开了武功山金顶茅庵的柴门。 他叫徐霞客,已经在外游历了二十...
张家界仙辰岛夏日避暑玩水游玩攻... 第一次自助来张家界旅游玩水避暑。结合本地人推荐加自己实测,整理出夏日超过瘾仙辰岛玩水攻略! 一、景区...
技术驱动露营革新,星途帐篷多项... 野奢营地建设中,施工周期长、后期运维成本高、户外环境适应性差,长期困扰各大文旅运营商。星途帐篷深耕装...