@饭统戴老板:昨天跟同事讨论英伟达的最新财报,把目前最火热的算卡 H100 的物料成本给拆了一下,结合近期海外媒体的一些测算,其中有不少有意思的地方:
1. H100 的物料成本(Bill of Materials, BOM),其中主要就是三个部分:核心逻辑芯片、HBM 存储芯片、CoWoS 封装。另外还有 PCB 板和其他一些辅助器件,价值占比相对较低。
2. 在网上找了一张 H100 的图(SXM5 模组),简单标注一下:中间红色框就是核心逻辑芯片,周围围绕着 6 颗 HBM 存储芯片,然后 7 颗芯片整体用 CoWoS 工艺(一种 Chiplet 技术)封装起来。
3. 首先是核心逻辑芯片:这是一颗面积为 814mm2 的 Die(裸晶),是核心中的核心,由台积电台南 18 号工厂生产,工艺节点用的是 “4N”,其实并非真正的 4nm,叫做 5nm + 或许更合适。
4. 这一块核心芯片成本多少?台积电一片 4N 工艺的 12 寸晶圆价格为 13400 美元,面积大概 70695mm2,理论上能切 80 多块,考虑到良率和损耗,至少也能切 65 块,单块价格在 200 美元左右。
5. 然后是 HBM3 存储芯片,一共 6 颗,围绕着 GPU,左右各 3 块,采购自韩国厂商 SK 海力士。每个 HBM 芯片容量 16GB,每 GB 大概 15 美元,6 颗芯片加起来大概要 1500 美金左右。
6. 最后是 CoWoS 封装。这是一种 2.5D 的封装工艺,算是台积电的独家技术。相比把芯片堆叠在一起的 3D 封装,CoWoS 工艺能够提供更好的成本、散热和吞吐带宽,后两者对 GPU 特别重要。
7. CoWoS 封装的成本台积电不会对外公布,但台积电财报披露了 CoWoS 工艺目前占总营收 7%,客户只有英伟达和 AMD,海外分析师 Robert Castellano 据此做了一个测算,大概封装一块 H100 需要 723 美金。
8. 这样我们把之前三块成本相加,大概在 $2500 左右,其中台积电占 1000 美金(逻辑芯片 + CoWoS),SK 海力士占 1500 美金(未来三星会染指),再算上 PCB 等其他材料,整体物料成本不超过 3000 美金。
9. 那 H100 卖多少钱呢?35000 美金,直接加了一个零,毛利率超过 90%。过去 10 年英伟达毛利率大概在 60% 上下,现在受高毛利的 A100/A800/H100 的拉动,今年 Q2 英伟达的毛利率已经站上了 70%。
10. 这有点反常识:英伟达严重依赖台积电的代工,后者地位无人撼动,但这么一块 3.5 万美金的卡,制造它的台积电只能拿 1000 美金,而且只是收入,不是利润。这可能也是代工模式的魅力所在。
11. 不过,用毛利率来定义暴利,对于芯片公司意义不大,要是从沙子开始算,那毛利率更高。一张 4N 工艺的 12 寸晶圆,台积电卖给谁都差不多是 1.5 万美金一片,英伟达能加个零卖给客户,的确是人家本事。
12. 加零的关键是 CUDA 软件生态,十几年的持续砸钱,累计已经投入几百亿美金。目前英伟达全球超过 2 万人,大都是高薪的软硬件工程师,把它们的薪资扣完,英伟达还能剩 30~40% 的净利润率。
13. 目前 H100 的瓶颈主要卡在台积电,而台积电的产能瓶颈又卡在 CoWoS 封装上,正在疯狂上产能。海外机构 GPU Utils 分析目前 H100 的需求是 43.2 万张,现在一卡难求,从下单到收货至少要等 3~6 个月。
14. H100 的成本结构,验证了业界的一个共识:
英伟达是一家软硬件生态公司,卖的是系统,不是硬件。苹果是这种境界的集大成者。