算力资讯
算力资讯技术进展

小米开源工业级目标说话人语音识别大模型CocktailASR-1,解决鸡尾酒会难题

把一个人声从嘈杂的人群中剥离出来,人类的听觉系统做这件事毫不费力。但对ASR模型来说,多人同时讲话的场景至今是一个未被充分解决的难题。小米刚刚开源的CocktailASR-1,做出了一个有意思的尝试:不是做"更好的降噪",而是从根本上改变任务的输入——先告诉模型你要听谁说话,再让模型只输出那个人的话。

这就是目标说话人语音识别(target-speaker ASR)。给一段参考音频,模型用声纹嵌入定位目标说话人,在多人混合音频里只转录他的语音。其他人说话时的内容、混响、背景噪音,模型一概不输出。

从GitHub放出的技术报告看,CocktailASR-1是一个 端到端LLM架构 :D2V2音频编码器 → Adapter → LLM解码,所有权重(D2V2 + Adapter + LLM)放在一个checkpoint里。输入格式是把参考音频和目标音频拼接,中间插一秒静音做分隔,16kHz单声道。不同场景不需要切换模型——无论是单人还是多人,同一个模型全搞定。

基准测试结果很扎实。在多说话人模拟测试上,LibriMix 2mix的WER只有4.11%,LibriSpeechMix 2mix更是压到2.90%。同赛道对比,Qwen3-ASR、Gemini、StepAudio在混合场景下全军覆没——LibriMix 3mix上这三个模型的WER分别是106.04%、76.10%和121.08%,CocktailASR-1是12.29%。

不是"比它们好",是"它们做不了这件事"。

在真实会议录制上,AMI SDM的WER是21.81%,AliMeeting Far是20.63%。尽管真实场景比模拟数据难得多,但依然大幅领先已有方案。

单人场景也没拉垮。LibriSpeech上WER 1.73%,比Whisper Large-v2的2.06%和Gemini的2.25%都好。WenetSpeech和CommonVoice-zh上也全面领先。

除了识别精度,这个模型还做了两件事值得单独提出来说。

第一件是负样本拒识。当参考音频对应的人不参与当前对话时,模型输出空文本。这在工程上有实际价值——智能音箱、车载助手这些场景里,如果旁边有人在说话,设备不应该被误触发。CocktailASR-1在LibriSpeech负样本上做到了79.59%的拒识率;Aishell上是75.35%;小米自有的中文测试集上是68.54%。对比之下,Qwen3-ASR和StepAudio的负样本拒识率是零——它们根本没有这个能力,任何时候都会输出文字。

当然,拒识能力也有反效果:正样本偶尔也被误拒,产生虚假拒识率(FRR)。不过从数据上看FRR控制得可以接受——LibriSpeech上0.36%,AliMeeting-near上0.38%,AMI-ihm上0.01%。

第二件是思维链推理。模型可以在输出最后答案前先跑一段 标签包裹的推理过程,解释它是怎么判断说话人的。这个功能对终端用户的实用价值有限——你不会想在对话中看它怎么推理——但对调试和可解释性很有意义。从报告数据看,CoT对精度的影响不大,LibriMix 2mix上只降低了0.24个WER百分点,其他数据集上基本持平。说明推理能力是副产品,不是用精度换来的。

没有标注具体参数量和训练数据规模,但从"所有权重放一个checkpoint"和D2V2编码器的选择来看,模型尺寸应该在可部署的范围内。推理代码已经放在GitHub上,Apache 2.0协议,minimal依赖(torch、torchaudio、transformers、soundfile),从HuggingFace加载。

小米在语音方向布局已久,从声学前端到语音唤醒到远场ASR,这次CocktailASR-1把注意力从"所有声音"转向了"一个声音"——这个转向本身比任何一个benchmark数字都更有信号意义。

转载说明引用来源:开源中国引用网址:https://www.oschina.net/news/502427/xiaomi-cocktailasr-1