关于ZAKER Skills 合作
热点科技 10分钟前

NVIDIA 公布更多 Vera 芯片参数:88 颗核心,AI 推理性能提升 60%

NVIDIA 已经向部分客户交付首批 Vera 芯片。不过如今 Intel、AMD 以及客户的自研芯片都对 NVIDIA 芯片产生了威胁。近期 NVIDIA 公布了 Vera 芯片的具体参数以及基准性能,从而向业界展现其强大的研发实力,来让更多客户为 Vera 芯片买单。

Vera 芯片在诞生之初就是围绕 AI 打造,芯片规格为 88 核 176 线程,NVIDIA 称 Vera 芯片能够在高负载与高线程密度之间不断切换,从而提升处理器的能效,进而降低主机的功耗。

AI 推理以及训练需要更高的传输带宽,对此 Vera 芯片将会支持最高 1.5TB 容量的内存,实现 1.2TB/s 的传输带宽,单颗核心实现 14GB/s 的传输速度,CPU 之间的最高带宽达到前所未有的 3.4TB/s,与友商相比领先幅度明显。

最受行业关注的还是 NVIDIA Vera 芯片的具体性能,来自 DeepInfra 的基准测试显示,Vera 芯片在 AI 智能体处理速度是 X86 处理器的 2.2 倍,性能十分给力,DeepInfra 也利用搭载 Vera 芯片的服务器处理每周 5 万亿个 Token。

如今 AI 推理已经开始逐渐取代 AI 训练成为大模型厂商最大的资本开支,许多客户为了降低运营成本,开始考虑自研芯片或者选购 Intel 以及 AMD 这样老牌 CPU 厂商所提供的服务器处理器,这给了 NVIDIA 巨大的压力,如今 NVIDIA 公开 Vera 芯片的性能,估计也是给客户提供一颗定心丸,表示自家的产品很给力,让客户多多下单来提升自家的营收。

热点科技

热点科技

领先的科技新媒体,关注科技热点

订阅

觉得文章不错,微信扫描分享好友

扫码分享

企业资讯

查看更多内容