发布日期:2024-10-05 21:55 点击次数:90
IT 之家 10 月 2 日音尘,郭明錤昨日(10 月 1 日)发布市集投资简报,报谈称在莫得客户定制条件的情况下,英伟达不再提供双柜版 GB200(2 个 NVL36),仅提供单柜版块 GB200 NVL72俺去也最新网址,而单柜版 NVL36 仍督察原建立和出货揣度打算。
IT 之家附上郭明錤简报信息如下:
论断:
此事不会影响 AI 与 Nvidia 的耐久正向趋势,但短期可能激励部分市集参与者对 Nvidia 与供应链扩充力的质疑。
Nvidia 近期时常修改 AI 劳动器家具蓝图,我合计这是 Nvidia 在资源有限下,思在供应链扩充力、竞争上风与客户需求间获得更好的均衡点(罢手 NVL36*2 建立仅是一个例子 ) 。这是功德,代表 Nvidia 更求实面临家具运筹帷幄,但在转换经由可能会让部分市集参与者对供应链乱象感到困惑。
因现时 Blackwell 伺服器的 2025 年家具出货组合能见度低 ( 数月前市集大批合计只会有 NVL36、NVL72 与 NVL36*2 ) ,部分供应商如拼装、散热等 2025 年沟通将受到较大影响。
两个 72GPU 版块的相比:选用 NVL72 并取消 NVL36*2 的原因
建立资源有限。本来的运筹帷幄是,GB200 有三个案子(NVL36、NVL72、NVL36*2)同期建立中。沟通自 11 月中旬开动的建立版块 ( Development drop:DevDrop ) 就会拘谨至 NVL72 与 NVL36*2 ( 因 NVL36「表面上」准备投入量产阶段 ) ,性爱图并在 2025 年 3 月中旬前完成两者终末的品性考据 ( Quality assurance:QA ) 。但在 NVL36 建立仍有不细目性下,更遑论同期建立两个 72 GPU 版块 ( NVL72 与 NVL36*2 ) 。
NVL72 精真金不怕火贵府中心空间。NVL72 若能妥善措置 Sidecar 的散热遐想挑战,会比 NVL36*2 少一个机柜,晋升贵府中心空间成果。
NVL72 的推理成果较佳。受益于软件可平行化遐想 ( Parallelizable design ) ,NVL72 与 NVL36*2 在 AI LLM 测验收尾各异不大。但在非或不易平行化遐想的推理经由中 ( 如自转头模子 ) ,NVL72 的认知较容易优于 NVL36*2。
主要客户偏好。如微软就较偏好 NVL72,而非 NVL36*2。
完好意思公开的容或。 Nvidia 在公开模样宣传要点遥远王人是单柜版 NVL72,为完好意思公开容或,资源有限下,NVL72 建立顺位较 NVL36*2 高。
NVL72 建立面临前所未有的技巧挑战,当今量产时程能见度仍低
NVL72 建立最大挑战主要来自 TDP ( Thermal design point ) 条件为 132kW,这是有史以来功耗最高的伺服器,Nvidia 与供应链需要更多时刻措置前所未有的技巧问题。
需夺目 TDP 是指捏续运行的平均功耗,而若遐想失当导致斯须最大功耗 ( Nvidia 称为 EDP ( Electrical design point ) ) 高于 TDP,则可能要两部以上的 Sidecar,如果如斯,则不仅提高散热遐想复杂度与量产难度,亦失去 NVL72 精真金不怕火贵府中心空间的上风。
Sidecar 另一遐想挑战为需把 Approaching temp 踏实得为止在 5 – 10 ° C 内,若放宽尺度则可能会影响系统踏实度。
色越吧哥需夺见识是,上述提到的高功耗挑战,株连到的不仅是 Sidecar,而是统统的零组件与系统遐想
我最新供应链走访指出俺去也最新网址,NVL72 量产时程可能须至 2H25 后 ( vs. Nvidia 的乐不雅议论为 1H25 ) 。