7B 小模子 +3.8 万条西宾数据拳交 扩张，就能让音频贯串和推断评测基准 MMAU 榜单王座易主？

受到 DeepSeek-R1 中强化学习算法的启发，小米大模子团队对阿里的 Qwen2-Audio-7B 模子进行了微调。

赶走模子在 MMAU 上的准确率从 49.2% 提高到了 64.5%（涨幅 31%），比昔日霸榜的 GPT-4o 还最初近 10 个百分点。

MMAU 是一个由一万条涵盖语音、环境声和音乐的音频样本组成的评测基准，难度异常高，东谈主类内行的收成为 82.2%。

来自阿里的Qwen2-Audio-7B模子在此评测集上的准确率为 49.2%，经小米大模子团队用清华大学发布的 AVQA 数据集，使用 SFT 微调后提高到了 51.8%。

这么的提高并不明显，而当小米团队接收改用 DeepSeek-R1 的 GRPO 算法时，发现赢得了巨大的性能提高，一举达到了 MMAU 的新 SOTA。

当今，小米大模子团队还是把西宾代码、模子参数开源，并提供了时间解说、在线 Demo。

7B 小模子拿下 MMAU 榜单 SOTA

如前所述，小米大模子团队通过 SFT，使用清华 AVQA 数据集对接收了来自阿里的 Qwen2-Audio-7B 进行了微调，收成提高了 2.6 个百分点。

直到 DeepSeek-R1 的发布，为小米在该项任务上的研究带来了启发。

DeepSeek-R1 的 Group Relative Policy Optimization（GRPO）本领，让模子仅通过"试错 - 奖励"机制就能使自主进化，露馅出近似东谈主类的反念念、多步考据等推理才智。

在统一时候，卡内基梅隆大学发布的预印本论文（arxiv：2503.01067），通过小巧的现实得出了一个理由的论断：

当任务存在明显的生成 - 考据差距（Generation-Verification Gap），即任务生成赶走的难度庞大于考据赶走正确性的难度时，强化学习比起有监督微调具有独到上风。

而 AQA 任务，正好是齐备的生成 - 考据差距显耀的任务。

离线微调本领，如 SFT，有点像背题库，你只可凭证已有的题目和谜底西宾，但遭遇新题可能不会作念；

而强化学习本领，如 GRPO，像安分在条目你多想几个谜底，然后安分告诉你哪一个谜底好，让你主动念念考，引发出本身的才智，而不是被"填鸭式"教会。

诚然，如若西宾量弥散，比如有学生欢娱花许多年的时候来死记硬背题库，也许最终也能达到可以的成果，但遵守太低，滥用太多时候。

而主动念念考，更容易快速地达到举一反三的成果。强化学习的实时响应可能会匡助模子更快锁定高质料谜底的散播区域，而离线本领需要遍历所有这个词可能性空间，遵守要低得多。

基于上述洞悉拳交 扩张，小米尝试将 DeepSeek-R1 的 GRPO 算法移动到 Qwen2-Audio-7B 模子上。

令东谈主惊喜的是，在仅使用 AVQA 的 3.8 万条西宾样本的情况下，强化学习微调后的模子在 MMAU 评测集上杀青了 64.5% 的准确率，这一收成比当今榜单上第又名的生意闭源模子 GPT-4o 有近 10 个百分点的上风。

理由的是，如若在西宾中强制条目模子输出包含 thinking 标签的推理经逾期，准确率反而下跌至 61.1%。这讲明显式的念念维链赶走输出可能并不利于模子的西宾。

小米大模子团队的现实揭示了几个和传统融会不同的论断：

对于微调本领：强化学习在 3.8 万条数据集上的进展，显耀卓绝监督学习在 57 万条数据集上的赶走；

对于参数限制：比较千亿级模子，7B 参数的模子通过强化学习也可展现强推理才智；

对于隐式推理：显式念念维链输出反而成为性能瓶颈。

尽管刻下准确率已毁坏 64%，但距离东谈主类内行 82% 的水平仍有差距。

小米大模子团队暗示，在刻下的现实中，强化学习战术照旧比较鄙俗，西宾经过对念念维链的指导并不充分，咱们会在后续作念进一步探索。

这次现实考据了强化学习在音频贯串和判断规模的独到价值，也为后续研究掀开了一扇新的大门。

小米团队期待，当机器不仅能"听见"声息，还能"听懂"声息背后的因果逻辑时，实在的智能听觉期间将会降临。

东谈主类内行准确率 82.23%

MMAU（Massive Multi-Task Audio Understanding and Reasoning）评测集由好意思国马里兰大学和 Adobe 的研究东谈主员于客岁集结提议，是音频贯串和推断才智的量化标尺。

它通过一万条涵盖语音、环境声和音乐的音频样本，逢迎东谈主类内行标注的问答对，测试模子在 27 种技巧，如跨场景推理、专科常识等支配上的进展，渴望模子达到接近东谈主类内行的逻辑分析水平。

濒临一段汽车行驶中的座舱灌音，AI 能否判断出汽车是否存在潜在的故障？

在交响乐献技现场，AI 能否测度出作曲家创造这首音乐时的神志？

在早岑岭地铁站繁芜的脚步声潮中，AI 能否预判闸机口可能发生的冲撞风险？

在大模子期间，东谈主们还是不清翠于机器只是识别话语的实质、声息的种类，更渴望机用具备复杂的贯串和判断才智，MMAU 斟酌的等于这种才智。

这是一个很难的评测集，当作基准上限，东谈主类内行在 MMAU 上的准确率为 82.23%。

当今 MMAU 官网榜单上进展最佳的模子是 GPT-4o，准确率为 57.3%。紧随后来的是谷歌的 Gemini 2.0 Flash，准确率为 55.6%。

西宾代码：

https://github.com/xiaomi-research/r1-aqa

模子参数：

https://huggingface.co/mispeech/r1-aqa

时间解说：

https://arxiv.org/abs/2503.11197

交互 Demo：

http://120.48.108.147:7860/

—  完  —

学术投稿请于责任日发邮件到：

ai@qbitai.com

标题注明【投稿】，告诉咱们：

你是谁，从哪来，投稿实质‍

附上论文 / 表情主页说合，以及联系方法哦

咱们会（尽量）实时回话你

一键存眷 � � 点亮星标

科技前沿进展逐日见

一键三连「点赞」「转发」「提神心」

迎接在驳斥区留住你的主见！拳交 扩张