谷歌推出Gemini Decisions API:单次处理支持千项判断,延迟150毫秒
摘要
谷歌发布Gemini Decisions API,由Gemini Decision 1模型驱动,可在一次处理中对文本、图像、视频和PDF内容完成最多1000项独立判断,延迟150至250毫秒,输入定价每百万Tokens 0.10美元,输出不收费,目前已上线Google AI Studio。
谷歌于11月11日宣布推出Gemini Decisions API,该接口由全新Gemini Decision 1模型驱动,定位为面向多模态内容的快速决策工具。与通用生成式接口不同,这一API聚焦于对既有材料进行批量判断与评估,而非生成新内容。
从能力上看,开发者可提交一份最多256K Tokens的多模态输入,涵盖文本、图像、音频、视频与PDF,并针对该内容提出至多1000个相互独立的是非判断、选项选择或标准评估问题。Gemini Decision 1通过一次前向计算对候选选项打分,返回概率与置信度分数,整个处理过程延迟为150至250毫秒。
该API面向工具选择、策略检查、模型路由和上下文质量评估等场景设计。由于基于Gemini原生多模态架构,开发者可在同一输入中组合不同模态,例如将通话录音与账户元数据结合,或将扫描版PDF理赔文件与受损照片并列提交;图像与视频输入的分辨率也可调整,以平衡视觉细节与Token成本。
定价方面,输入为每100万Tokens 0.10美元,输出Tokens不收取费用。目前该API已在Google AI Studio开放,开发者可获得免费额度进行原型验证。对于需要在低延迟下完成大规模结构化判断的AI应用而言,这一接口提供了区别于传统生成式调用的新选择。
本文由新大陆基于公开信息编辑整理
信息来源:IT之家 IT之家原文 ↗