小米开源声音理解大模型MiDashengLM-7B!人车家全生态战略关键技术组件
创始人
2025-08-04 16:45:16

快科技8月4日消息,小米正式发布并开源声音理解大模型MiDashengLM-7B,该模型是小米“人车家全生态”战略的关键技术组件。

MiDashengLM通过统一理解语音、环境声与音乐的跨领域能力,不仅能听懂用户周围发生了什么事情,还能分析发现这些事情的隐藏含义,提高用户场景理解的泛化性。

基于MiDashengLM的模型通过自然语言和用户交互,为用户提更人性化的沟通和反馈,比如在用户练习唱歌或练习外语时提供发音反馈并制定针对性提升方案,又比如在用户驾驶车辆时实时对用户关于环境声音的提问做出解答,其应用场景有广阔的空间。

结合高效的推理部署性能,MiDashengLM将广泛赋能智能座舱、智能家居等场景,推动多模态交互体验升级。

基于Xiaomi Dasheng音频编码器和Qwen2.5-Omni-7B Thinker自回归解码器构建,通过通用音频描述训练策略,实现对语音、环境声音和音乐的统一理解。

训练数据100%来自公开数据集,涵盖五大类110万小时资源,以Apache License 2.0协议发布,支持学术和商业应用。

核心优势:

性能领先:在22个公开评测集上刷新多模态大模型最好成绩(SOTA),在音频描述、声音理解、音频问答任务中表现突出,同时具备可用的语音识别能力。其音频编码器Xiaomi Dasheng在X-ARES Benchmark多项关键任务,尤其是非语音类理解任务上显著优于Whisper。

推理效率高:单样本推理的首Token延迟(TTFT)仅为业界先进模型的1/4;同等显存下数据吞吐效率是业界先进模型的20倍以上,80GB GPU上处理30秒音频并生成100个token时,batch size可达512,而同类模型在batch size 16时即显存溢出。

训练范式革新:采用通用音频描述对齐范式,通过非单调全局语义映射,学习音频场景深层语义关联,避免传统ASR转录数据对齐的局限,数据利用率高,还能捕捉说话人情感、空间混响等关键声学特征。

相关内容

热门资讯

盘点2026年好用的童趣风格温... 当亲子度假成为家庭出游的核心刚需,不少父母都陷入了相似的困境:想趁假期泡温泉放松身心,却要全程盯顾精...
伊犁亲子游超全攻略!7天6晚带... 每年6-8月,伊犁就变成了童话世界。无边无际的草原上开满野花,雪山融水汇成清澈的溪流,成群的牛羊在蓝...
丹东:樱韵花开,亲子寻芳 春和景明,连日来丹东迎来最美樱花季。 4月17日,丹东市第三幼儿园“樱韵花开·寻迹花神”第十一届樱花...
守护成长 童心同行—— 翠云轩... “守护成长 童心同行” 就在 4 月 18 日下午,翠云轩小区迎来了第二场别开生面的儿童性教育主题...
2026年新疆奢华亲子游推荐,... 在2026年,选择新疆作为奢华亲子游的家庭越来越多。这里有丰富的自然风光与独特的文化活动,吸引着各个...