腾讯混元AI Infra核心技术开源：推理吞吐提升30%
创始人
2026-02-04 21:18:34

每经AI快讯，2月4日，腾讯混元AI Infra团队正式推出开源生产级高性能LLM推理核心算子库 HPC-Ops。在真实场景下，基于HPC-Ops，混元模型推理 QPM 提升30%，DeepSeek模型 QPM 提升17%。同时，在单算子性能方面，HPC-Ops实现Attention相比 FlashInfer/FlashAttention 最高提升2.22倍；GroupGEMM 相比 DeepGEMM 最高提升1.88倍；FusedMoE 相比 TensorRT-LLM 最高提升1.49倍。

上一篇：领先，领跑！AI主播带你看历下

下一篇：AI时代真正值钱的3种能力

相关内容

热门资讯

深耕细作·惠州行五洲·露营装备... 当露营从“诗和远方”变成周末常态，消费者的眼光也越来越“刁”。他们不再满足于“能住”，而是追求“好住...
帐篷选的好，露营受罪少，运良两... 帐篷选的好，露营受罪少，运良两款帐篷应该怎么选 运良越野 露营 帐篷 户外露营 户外装备
用这个帐篷过夜露营，可得小心了... 用这个帐篷过夜露营，可得小心了 帐篷露营 bivvybag
特价68丨6.07周日【三角山... 【三角山丨从化十登】千米山之恋 从化第七峰三角山 广州附近十座千米山峰你都去过吗？ 这次跟随我们的...
原创 六... 一想起儿童节出游，脑子里是不是马上浮现出：景区门口望不到头的长队、餐厅里高到离谱的儿童套餐、游乐场里...