Thinking Machines正式发布Inkling 2 Mini,这是一款拥有开源权重的循环Transformer模型。在Artificial Analysis智能指数评测中,该模型得分20分,凭借高效的架构设计,成功跻身“智能与活跃参数”的帕累托前沿。

架构精简,端侧可运行

Inkling 2 Mini采用混合专家(MoE)架构,总参数量为260亿(26B),活跃参数量仅为54亿(5.4B)。其活跃参数计数包含了通过循环层的三次传递过程,每个文本令牌实际调用31亿个唯一权重。得益于极小的体积,该模型可直接在MacBook或DGX Spark等设备上运行。

模型基于Apache 2.0许可证发布,支持文本和图像多模态输入,上下文窗口长度达100万令牌。

性能对标主流,效率显著领先

在智能指数得分上,Inkling 2 Mini与Qwen3.8 27B (xhigh)及Nanbeige4.3-33B持平,但其活跃参数数量分别减少了约5倍和6倍,在“智能与规模”维度同样处于帕累托前沿。

在同等智能得分下,Inkling 2 Mini的输出效率更高:相比Qwen3.8 27B,其输出令牌数增加约38%,而计算量减少约2.8倍。数据显示,Inkling 2 Mini在每个智能指数任务中平均生成约15.2万个输出令牌,高于Qwen3.8 27B的11万个,略低于Nanbeige4.3-33B的15.8万个。基于“活跃参数×令牌数”的计算代理指标,其相比Qwen3.8 27B节省约2.8倍计算量,相比Nanbeige4.3-33B节省约5倍。

这一效率优势源于其独特的循环机制:模型24层中的12层对每个令牌运行三次,在不增加输出令牌的前提下优化了计算路径。

成本降低六倍,速度提升四倍

在实际部署成本与速度方面,Inkling 2 Mini展现出显著优势。完成一个智能指数任务,其成本为0.59美元,耗时9.0分钟;相比之下,Qwen3.8 27B的成本高达3.53美元,耗时38.2分钟。这意味着Inkling 2 Mini的任务成本降低约6倍,推理速度提升约4倍。

上述成本数据基于Thinking Machines第一方定价(输入、输出、缓存命中令牌每百万价格分别为0.15美元、0.50美元、0.015美元)。作为参考,GPT-6 Luna (max)在该评测中得分为28分,单任务成本为0.15美元。