关于ZAKER Skills GEO服务 合作
新浪财经 18分钟前

谷歌推出 Gemini Decisions API 每百万输入 token 收费 0.10 美元 端到端延迟 150-250 毫秒

来源:环球市场播报

谷歌推出了 GeminiDecisionsAPI,这是一个由其 Gemini Decision1 模型驱动的新端点,可帮助 AI 智能体做出快速的预设决策,而无需生成冗长的文本回复。

该接口允许开发人员针对包含文本、图像、音频、视频和 PDF 的共享多模态输入,评估多达 1000 个独立问题。Gemini Decision1 不会逐 token 生成回复,而是在单次前向传递中对预设选项进行评分,返回概率和置信度分数,端到端延迟为 150 – 250 毫秒。

谷歌表示,该模型专为有界任务而构建,例如选择工具、检查策略合规性、将查询路由到正确的模型以及评估上下文。开发人员可以在一次 API 调用中提交 " 是或否 " 检查、最多包含 255 个选项的多选题,或基于预设评分标准的打分请求。

更快、更低成本的决策

据谷歌称,该 API 的中位模型计算时间为 50 – 100 毫秒,当每次请求处理 1 到 100 个问题时,性能几乎保持不变。

该模型支持高达 256000 个 token 的上下文窗口,并且可以同时处理多种类型的数据。这使得开发人员可以组合音频录制、图像和文档等输入,而无需依赖单独的处理系统。

谷歌还声称,在涵盖智能体路由、推理、排序和多模态理解的基准测试中,该模型的表现优于竞争对手系统,同时实现了最低的校准误差。

该公司表示,在其共享基准测试套件中,Gemini Decision1 比使用 InteractionsAPI 的 Gemini3.5Flash-Lite 便宜近 5 倍。

此次发布正值专业 AI 决策工具竞争日益激烈之际。OpenAI 在 10 月份推出了其 DecisionsAPI,由其 GPT-6Luna 模型驱动。该公司表示,该服务的决策速度比其 ResponsesAPI 快 10 倍,并且每次请求最多支持 400 个问题。与谷歌的产品一样,它提供基于概率的检查、多选题选择和基于评分标准的打分,定价为每百万输入 token0.10 美元起。

DecisionsAPI 每百万输入 token 收费 0.10 美元,不收取输出 token 费用。无论评估多少个问题,开发人员对共享输入数据只需支付一次费用,尽管每个问题都会增加指令和标准相关的 token。

赋能真实世界的 AI 应用

谷歌已经在多个产品中部署了这项技术,证明了专用决策模型如何提高自动化系统的速度和效率。

在 GeminiNotebook 中,API 将传入的查询路由到合适的模型层级和推理级别。据谷歌称,这种方法可以将日常查询的延迟降低多达 40%,同时将更强大的推理模型保留给复杂任务。

该技术还为谷歌 Stitch 平台的快速设计实验提供支持,允许用户生成交互式产品线框图,并通过语音命令或触摸输入进行更改。

同时,谷歌的 CC 助手使用该 API 在几分之一秒内从 200 多个选项中挑选出表情符号反应。

谷歌搜索也在使用这项技术作为安全层,以检测涉及模型上下文协议(MCP)工具的对抗性行为。

除了这些应用之外,该 API 还可以帮助开发人员构建系统,自动选择合适的工具、评估传入信息并确定何时需要人工干预。

DecisionsAPI 现已通过 GoogleAIStudio 提供,其中包括用于原型设计的免费层级。谷歌还正在推出与 OpenRouter、LangChain、Vercel、LiteLLM 和 PydanticAI 等开发者平台的集成。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容