Gimlet Labs 联合创始人兼 CEO Zain Asgar 2026 年 10 月 21 日在 a16z.news 撰文认为,芯片缩放红利减弱与 AI 推理各阶段的差异,正在为专用芯片创造机会。他同时判断,GPU 仍有竞争优势,通用架构未来可能再次占据上风。
Asgar 的观点与其公司业务直接相关:Gimlet 正在推动将推理工作负载拆分到不同类型的芯片上执行。他主张,面对电力与数据传输能力的约束,应按各段任务的需求选择硬件,而不同阶段适用的架构并不相同。
过去,专用硬件为何会输给通用处理器?Asgar 将其概括为一个循环:通用性带来销量,销量支持研发与性能提升,更高性能又扩大了可运行的应用范围。大规模用户基础也让通用平台有能力持续投入操作系统、编译器和软件库,专用硬件则必须用较少的销量支撑自己的软件栈。
这一循环所依赖的技术条件发生了变化。Asgar 指出,约 2005 年前后,晶体管缩小已难以带来成比例的电压下降,频率增长趋平;增加核心数也受到应用能否有效并行执行的限制。Hennessy 与 Patterson 在 ISCA 2018 讲座摘要中,同样将 Dennard 缩放和摩尔定律带来的资源增长减弱,列为计算机体系结构面临的挑战。
在 Asgar 看来,推理为专用化提供的机会,来自它包含资源需求不同的计算阶段:当晶体管、内存带宽和网络带宽的增长受限时,为各段任务匹配合适的芯片,仍可能改善性能。这里的异构执行,就是让不同类型的芯片分担不同任务。
文章附带的 Gimlet 分析称,在相同功耗预算下,分解执行方案的性能可达到同构方案的 2—10 倍。不过,材料没有提供足以复现这一范围的完整模型、硬件配置、比较基线与功耗统计边界,因而不能据此推算所有推理任务的加速幅度或成本降幅。
Asgar 也承认,把工作拆到不同芯片上,会同时增加软件和物理基础设施的复杂性。部署需要足够模块化、可配置,软件还要能利用全部硬件,避免为特定任务预留的容量闲置。他同时列出 GPU 的有利条件:新进入者难以获得稀缺的晶圆制造与高带宽内存(HBM)配额,加速器需要使用多年才能体现经济性,而工作负载仍在变化;GPU 也会继续吸收经证明有价值的推理功能。
据此看,专用芯片的机会取决于整套系统能否把任务匹配带来的收益保留下来。单段计算的效率优势,还需要经受部署复杂性、硬件利用率和工作负载变化的检验。Asgar 自己也预期,通用化与专用化之间的摆动可能继续,今天的专用架构或其创新,仍可能进入未来的主流芯片。
参考来源:
