他从吞吐量和计算速度两个维度反复说明,用了一个AI 工厂的比喻,将推理比喻成Token 的生产工厂。那么最大的回报值一定是产生在吞吐量和计算速度的最优函数中──NVL72。
黄仁勋进一步表示,在同样的水平下,相较于H100 是45 K GPU,1400 个机架,产生300 M 的输出;而NVL则是85 K GPU(更强),600 个机架(更少空间),以及12000 M 的输出(40 倍)。随即,老黄便说出了今年GTC 的金句:“the more you buy,the more you make”(买得越多,赚得越多)。通过高效的AI 基础设施和强大的计算能力,企业可以在AI 应用中实现更高的收益。