TypeSafe AI 推出仅做判断的大模型 Jev,输出 Token 免费、速度提升最高 200 倍
摘要
TypeSafe AI 发布专注高频决策的大模型 Jev,不生成对话或文本,仅输出判断结果,速度比传统大模型快 20 至 200 倍,成本为 0.042 美元/百万 Token 且输出 Token 免费。作者实测显示,Jev 在预筛任务中准确性第二且更便宜,并行判断任务中准确率和速度均最高。模型采用 RLCD 训练方法优化决策校准,官网开放资格申请,Vercel 已首发接入。
TypeSafe AI 近日推出一款名为 Jev 的大模型,与当前主流生成式模型不同,Jev 不参与对话交互,也不生成任何文本内容,其唯一功能是输出判断结果。该模型面向高频决策场景设计,官方称其速度可达传统大模型的 20 至 200 倍。
在成本方面,Jev 的定价为每百万 Token 0.042 美元,且输出 Token 不额外收费。这一计费方式与常规大模型按输入输出双向计费的模式形成差异,对需要大量调用判断能力的应用场景可能带来成本优势。
根据作者实测,在预筛任务中,Jev 的准确性排名第二,同时成本低于对比对象;在并行判断任务上,Jev 取得了最高准确率和最快速度。测试结果覆盖了分类判断类工作负载,与 Jev 的定位一致。
技术层面,Jev 采用 RLCD 训练方法优化决策校准,旨在提升判断输出的可靠性。目前该模型已在官网 https://typesafe.ai/ 开放资格申请,Vercel 成为首个接入平台。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗