
Reflection AI今日正式发布Beam,这是一款拥有5010亿参数的开源大语言模型。此次发布距该初创公司以250亿美元估值完成融资仅数月。据媒体报道,Reflection AI已与SpaceX签署一项价值63亿美元的协议,租用Nvidia GB300 NVL72设备,Beam正是基于这些每台包含72块显卡的系统训练而成。
在基准测试中,Reflection AI将Beam与参数量多出约2500亿的开源模型GLM-5.2进行对比。结果显示,Beam在执行特定任务时表现更优,且硬件资源消耗仅为前者的三分之一至四分之一。此外,该公司表示Beam的性能已接近拥有超2万亿参数的Qwen 3.8-Max。
鉴于当前开源生态中的顶尖模型多由中国公司开发,Beam的问世尤为引人注目。它是美国初创公司推出的首个展现出相当或更优性能的开源模型。不过,免费LLM的整体性能仍落后于Anthropic Claude Fable 5.1等前沿闭源模型。
高效训练流程
Beam的开发始于一个相对较小的原型模型,随后通过一系列规模更大、能力更强的算法迭代,最终形成基础架构Beam Base。Reflection AI使用由6144块显卡组成的集群,在包含大量软件代码的23.8万亿个token数据集上完成了Beam Base的训练。为确保数据质量,公司为每种编程语言开发了自定义过滤器以剔除低质量文件。
Beam Base的开发耗时不到四周。随后进行的“中期训练”(midtraining)旨在扩展上下文窗口并增强推理能力,为硬件需求最高的第三阶段奠定基础。
在强化学习阶段,Reflection AI启动了1万块GB300显卡,运行13亿个针对代码生成、网络搜索及AI代理任务优化的沙盒环境。该公司表示,这一阶段仅耗时四周。通过开发防故障中断软件,集群在训练过程中出现的71次错误里,中位恢复时间仅为八分钟,有效避免了延误。
目前,Beam已通过早期访问计划开放获取。Reflection AI计划在本月下旬正式发布其模型权重、文档及微调工具。