关于ZAKER Skills 合作
财联社-深度 36分钟前

苏姿丰 ASIC 布局又 +1:AMD 官宣收购 Taalas 押注“模型即计算机”赛道

《科创板日报》8 月 7 日讯 近日,AMD 宣布已达成最终协议,收购人工智能推理芯片领域的先驱 Taalas。截至目前,交易价格、支付方式和预计交割时间均未披露。

AMD 表示,随着人工智能推理成为人工智能市场增长最快的领域之一,且工作负载日益专业化,此次收购将凭借差异化的推理技术和世界一流的工程技术专长,进一步强化 AMD 的长期人工智能发展路线图。

资料显示,Taalas 是一家生产推理芯片的公司,其成立于 2023 年,总部位于加拿大多伦多。公司首席执行官 Ljubisa Bajic 在公司网站上写道:"Taalas 正在打造一个平台,可以将任何 AI 模型快速转化为定制芯片。"其声称,将从未见过的模型以硬件实现,仅需两个月的时间。

Taalas 的技术手段,来源于其 " 模型即计算机(The Model is The Computer)" 的构想。

今年 2 月,Taalas 发布了采用台积电 6nm 工艺制造的测试芯片 HC1。测试结果显示,该芯片能够以每秒 16960 个 token 的速度处理 Meta 的 Llama 3.1 8B 模型——比英伟达通用 GPU 快 48 倍,比 Cerebras 的 WSE 快 8 倍。

超常的性能源于其独特的工作原理:一般情况下,AI 模型以软件形式存放在外部高带宽内存(HBM)中,芯片运行时不断读取参数并执行计算。而 Taalas 直接把模型结构和大部分权重写入芯片的掩模 ROM 调用结构,以及 KV cache 和微调适配器存储所在的 SRAM 调用结构,相当于将模型参数以硅片的物理结构固定下来。

Ljubisa Bajic 曾在一篇文章中如此阐述其理念:通用推理硬件往往被割裂为存储和计算两个部分,这种割裂迫使现代人工智能系统采用先进的封装技术、高带宽内存堆栈、海量 I/O 带宽和液冷技术。而 Taalas 所追求的最终成果是一个无需 HBM、无需先进封装、无需 3D 堆叠、也无需液冷的系统。

这种设计并非没有缺陷,其定制属性意味着如同所有的 ASIC 芯片一样放弃通用性。此外,尽管该芯片推理速度几块,但由于移除了可编程性,若模型结构或权重发生较大变化,客户无法通过软件升级完成切换,需要等待新版本芯片。

▌巨头集体押注 ASIC

在 AMD 的设想中,Taalas 的技术将与 AMD 的全栈式 AI 平台形成互补。

该平台包括 AMD Helios 机架式解决方案、AMD Instinct GPU、AMD EPYC CPU、AMD ROCm 软件以及 AMD 不断扩展的 AI 生态系统。AMD 计划将这项技术整合到其加速器路线图中,并利用 AMD Instinct GPU 开发系统级解决方案。

这并非 AMD 首次押注 ASIC。就在近期,苏姿丰在 AMD Advancing AI 大会上表示,公司正在与芯片设计公司 Cerebras 合作,通过 Cerebras 的云服务提供高速推理能力;与 Cerebras 系统将推出结合 AMD Helios GPU 服务器机架与 Cerebras 晶圆级芯片的 AI 推理方案,产品将于今年晚些时候推向市场。

其他巨头也已有类似动作:去年底,英伟达确认与初创公司 Groq 达成技术授权协议,并从后者招揽了工程人才。黄仁勋表示,Groq 可能会为数据中心市场带来 25% 的增长空间。云厂商方面,谷歌 TPU、微软 Maia、亚马逊 Trainium 等项目均反映头部科技企业正在通过自研芯片优化特定模型场景下的性能和成本。

究其原因,随着人工智能向推理时代迈进,巨头们不再比拼持有 GPU 的多寡。正如招商证券在研报中所说,AI 芯片自研潮兴起,意味着 AI 基础设施行业正从 " 单一 GPU 供给约束 " 向 " 多元化定制芯片方案 " 切换,投资逻辑边际上从硬件垄断走向生态博弈。

金元证券表示,AI 芯片产业正在呈现 " 通用 GPU+ 自研 ASIC" 并行发展的趋势。随着大模型推理需求快速增长,针对固定工作负载优化的 ASIC 芯片具备更高能效比,有望成为未来 AI 基础设施的重要组成部分。

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容