
英伟达今日正式发布开源人工智能模型 Nemotron 3.5 Transcribe,专攻多语言音频转录与翻译任务,并同步开源用于微调该模型的数据管道。该模型在多项基准测试中表现优异,旨在降低开发者构建语音应用的门槛。
单次推理完成全流程任务
传统语音AI通常需分步执行语音检测、文本转录、说话人识别及内容问答。Transcribe 突破了这一局限,能在单次模型推理中一站式完成上述所有任务。它支持处理长达100小时、涵盖40种语言的音频文件,并可同时标记多达八位说话人。
作为一款拥有300亿参数的混合专家(MoE)模型,Transcribe 仅激活40亿参数。这种设计使其具备极高的部署灵活性:既可在边缘计算设备(如Jetson AGX Thor)上运行,也能在桌面级AI超级计算机DGX Spark或Blackwell数据中心GPU上高效作业。英伟达数据显示,经NVFP4精度和四分之一模型压缩后,Blackwell Server Edition GPU可在三分钟内处理完100小时音频。
准确率显著优于行业基准
在性能表现上,Transcribe 的字错误率(WER)开箱即用为30.8%。通过精心设计的提示词引导,该指标可降至20.8%;若针对特定领域进行微调,如在印度医疗语音基准测试 Eka Care 中,字错误率进一步低至11.8%。
该模型支持通过提示词灵活定制输出。用户既可指令其“转录并标记说话人”,也可要求“翻译成英语”,甚至直接询问“会议做出了哪些决定”。此外,用户还可注入专业术语或上下文信息,以辅助模型更精准地理解对话内容。
配套发布Granary v2海量数据集
为支撑模型训练,英伟达将开源多语言语音数据集 Granary 升级至 v2 版本。新数据集基于 Nvidia NeMo Curator 构建,规模显著扩展:覆盖48种语言、19个语料库,总时长达843,579小时,较上一代的25种语言和64.3万小时有大幅提升。
Granary v2 为每段录音生成三种风格的逐字稿:包含语气词的完整实录、数字化简版以及去填充词版。开发人员可利用这些多样化数据微调模型,使其适应不同场景的可读性需求。英伟达强调,Granary v2 已投入生产环境使用,旨在满足现实世界复杂的翻译与转录需求,但这并不代表 Transcribe 的全部训练数据构成。
目前,Transcribe 演示版已在 Hugging Face 上线,开发人员可下载模型检查点,并通过微调将其适配至特定垂直领域。