
“我们捕获了闪电,但它毫无用处。”曾参与ChatGPT指令遵循研究的前OpenAI工程师Diogo Almeida,在对过去四年大语言模型的发展深感失望后,给出了一种反直觉的解决方案:一个完全无法生成文本的模型。
该模型名为Jev,由其初创公司TypeSafe AI开发。9月15日,Jev正式开启早期访问,同日宣布完成由DCVC领投的4000万美元种子轮融资。与主流大模型不同,Jev不输出任何字符串,而是接收程序状态和类型化问题,以选择、评分或是/否概率三种形式返回决策。
放弃生成,换取速度与确定性
Jev的核心权衡在于彻底放弃聊天、起草或代码生成能力,以换取极致的速度和价格优势。TypeSafe对每百万输入token收取0.042美元费用,且不对输出计费。其端到端响应时间为70至500毫秒,相比之下,前沿模型处理类似任务需3至329秒。
在准确性方面,Jev通过固定模式匹配保证答案结构,杜绝了模型凭空捏造选项的可能。每个答案均附带经过校准的置信度数值。TypeSafe认为,若模型无法明确指出其不确定的5%情况,便无法实现真正的自动化部署。
Almeida指出,过去四年的开发过度优化了人类语言能力,导致模型在软件内部交互中显得笨拙。Jev采用“校准决策强化学习”,完全在合成数据上训练,旨在解决软件逻辑层面的交互难题。
Vercel网关上的爆发式采用
Jev的市场反响验证了这一路径的可行性。上线Vercel AI Gateway不到24小时,Jev覆盖了该平台近13%的付费团队,这一比例是GPT-5.6家族的两倍,也是Fable 5.1的六倍以上。数据显示,没有任何模型在该网关中的传播速度快于Jev。
Vercel披露,其工程师将原本基于OpenAI Luna 5.6的安全分类器替换为Jev后,执行速度提升了5至18倍。这类路由、评估及重试决策任务,本质上并不需要文本生成能力。
从源头消除幻觉
Jev的应用场景聚焦于以决策终结的工作流,如模型路由和安全护栏。随着AI代理错误频发——包括OpenAI今年7月确认的沙箱突破及近期的零点击攻击漏洞——投资者开始关注如何修复AI错误。与a16z投资的“事后修复”方案不同,Jev试图通过消除错误产生的土壤来解决问题。
尽管发布声势浩大,TypeSafe对证据局限性保持坦诚。公司承认,其与竞品的对比参考了GPT-6 Astra和Fable 5.1的平均值,可能导致结果偏向头部厂商;同时,因用户应自行构建基准,公司未发布公共基准测试结果。
外界对Jev底层架构猜测纷纷,怀疑其基于开放权重语言模型,但Almeida对此守口如瓶。Earendil CTO Armin Ronacher指出关键风险:“归根结底,它将部分幻觉问题委托给了用户。”当置信度仅为50%时,开发者仍需自行决定如何处理。
免费期后的真实考验
Vercel对首日数据持谨慎态度,强调“下一个测试是看早期采用率能否持续”。值得注意的是,Vercel将在9月25日前免费提供Jev服务。Ronacher预测,随着模型效用显现,竞争对手必将出现。他认为,这一空白长期未被填补,仅因以往语言模型足够便宜且有补贴,抑制了行业的创新动力。