新当事方OpenAI 公布 Jalapeño 推理芯片实测性能:每千瓦峰值吞吐更高、token 延迟更低𝕏
Greg Brockman9 月 24 日Jalapeño 实测 DeepSeek R1 单用户吞吐超 700 tok/s
Jalapeño 实测 DeepSeek R1 单用户吞吐超 700 tok/s
SemiAnalysis 称中国芯片的硬件效率与每 token 成本已可比英伟达 GPU,CUDA 护城河再受考验
疑似或传闻 当事方还没回应迹象指向 依据接口、代码提交等公开痕迹作出的推断转述 二手说法,不是原话
供给
| 看什么 | 现在的情况 | 依据 |
|---|---|---|
| 事实 | SemiAnalysis 称中国芯片的硬件效率与每 token 成本已可比英伟达 GPU,CUDA 护城河再受考验 | |
| 后果 | 按电力计成本的推理部署,每兆瓦吞吐第一次有了非英伟达的对照点 | |
| 官方 | 尚未表态 |
__su888实测不做投机解码、不做 PD 分离,每兆瓦吞吐仍超过 Vera Rubin𝕏
ByteBandiit实测同样推到单用户最快速度时,GB300 每千瓦只有 118 个 token,Jalapeño 是 12258 个𝕏
更早
新当事方OpenAI 公布 Jalapeño 推理芯片实测性能:每千瓦峰值吞吐更高、token 延迟更低𝕏
Greg Brockman关注后可跟此人更新与他说过的话,需用手机号登录