小米开源首个原生端到端语音大模型 Xiaomi-MiMo-Audio，对话自然度、交互适配达拟人化水准

9 月 19 日消息，小米今天宣布开源首个原生端到端语音大模型 Xiaomi-MiMo-Audio，首次在语音领域实现基于 ICL 的少样本泛化。xFJ28资讯网——每日最新资讯28at.com

据小米介绍，五年前 GPT-3 首次展示了通过自回归语言模型 + 大规模无标注数据训练，获得 In-Context Learning（ICL，上下文学习）能力，而在语音领域，现有的大模型仍严重依赖大规模标注数据，难以适应新任务达到类人智能。xFJ28资讯网——每日最新资讯28at.com

而 Xiaomi-MiMo-Audio 模型打破了这种瓶颈，它基于创新预训练架构和上亿小时训练数据，在智商、情商、表现力与安全性在内的跨模态对齐能力均有提升，在自然度、情感表达和交互适配方面呈现出拟人化水准。xFJ28资讯网——每日最新资讯28at.com

这款模型的具体创新点如下：xFJ28资讯网——每日最新资讯28at.com

首次证明把语音无损压缩预训练 Scaling 至 1 亿小时可以“涌现”出跨任务的泛化性，表现为 Few-Shot Learning 能力。xFJ28资讯网——每日最新资讯28at.com

xFJ28资讯网——每日最新资讯28at.com

首个明确语音生成式预训练的目标和定义，并开源一套完整的语音预训练方案，包括无损压缩的 Tokenizer、全新模型结构、训练方法和评测体系。xFJ28资讯网——每日最新资讯28at.com

xFJ28资讯网——每日最新资讯28at.com

目前小米已在 Huggingface 平台开源了这款模型的预训练、指令微调模型，同时在 Github 平台开源了 Tokenizer 模型，其参数量达 1.2B，基于 Transformer 架构，支持音频重建任务和音频转文本任务。xFJ28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-27926-0.html小米开源首个原生端到端语音大模型 Xiaomi-MiMo-Audio，对话自然度、交互适配达拟人化水准

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 上传一张图、主演任何视频，“性能最强动作生成模型”阿里通义万相 Wan2.2-Animate 开源

下一篇： 部分iPhone 17系列及iPhone Air用户遇Wi-Fi断连问题，N1芯片稳定性引关注