关于ZAKER Skills 合作
36氪 3小时前

英伟达 Vera CPU 测试显示 AI 智能体编排性能提升,支持高并发推理

英伟达 7 月 21 日表示,AI 云平台 DeepInfra 测试显示,Vera CPU 相比其他 CPU 产品,在 AI 智能体工作负载下可实现最高 2.2 倍编排速度提升,并支持最高 1.6 倍更多智能体并发运行。DeepInfra 表示,其平台每周处理近 5 万亿 Token,其中约 30% 来自智能体应用。英伟达称,随着 AI 智能体承担更多推理、规划和工具调用任务,CPU 在模型调用过程中的调度效率将成为 AI 基础设施性能的重要因素。(界面)

36氪

36氪

让创业更简单

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容