9 月 24 日Jalapeño 实测 DeepSeek R1 单用户吞吐超 700 tok/s

已见于 8 月 27 日午间

话题 · 硬件/算力

先看结论

Jalapeño 实测 DeepSeek R1 单用户吞吐超 700 tok/s

SemiAnalysis 称中国芯片的硬件效率与每 token 成本已可比英伟达 GPU,CUDA 护城河再受考验

这些标记是什么意思

疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述 二手说法,不是原话

当前状态已结束 · 转述

供给

OpenAI自研ASIC Jalapeño在TCO、每兆瓦吞吐上优于Nvidia Blackwell/Rubin

看什么现在的情况依据
事实SemiAnalysis 称中国芯片的硬件效率与每 token 成本已可比英伟达 GPU,CUDA 护城河再受考验
后果按电力计成本的推理部署,每兆瓦吞吐第一次有了非英伟达的对照点
官方尚未表态

各方2 人

__su888实测不做投机解码、不做 PD 分离,每兆瓦吞吐仍超过 Vera Rubin𝕏

ByteBandiit实测同样推到单用户最快速度时,GB300 每千瓦只有 118 个 token,Jalapeño 是 12258 个𝕏

转折更早 1

更早

新当事方OpenAI 公布 Jalapeño 推理芯片实测性能:每千瓦峰值吞吐更高、token 延迟更低𝕏

Greg Brockman
每早一封:昨夜到今晨新增的几件事,每件一行,点开回站点看完整。
HOURAHEAD关于 · 往期 · 2026-09-24 13:40