2023 年 2 月，微软向 OpenAI 投资了 100 亿美元，你或许觉得这笔钱应该能花好一阵子。

但在今天，100 亿美金几乎才是 2024 年做大模型的起平线。撇开现金流充足的谷歌，OpenAI、Anthropic 和 xAI 分别获得了约 130 亿美元、70 亿美元、60 亿美元融资额，来「卷」新一代大模型。

这主要是由于做大模型所需要的算力一再扩张，尤其是随着多模态融合成为新的 AGI 大模型路线。如果说去年做大模型的算力门槛是 1 万张英伟达 H100 的算力集群，那么，今年这个数字变成了至少 10 万张 H100，这是马斯克筹集 60 亿美元资金的主要用途。

据 The Information 采访的一位投资者，马斯克在最近与潜在和现有 xAI 投资者的通话中表示，公司将把大部分资金用于租用 AI 芯片，并帮助其在 2025 年下半年达到 10 万个 GPU，以便改进 Grok 背后的模型。

这位人士说，马斯克暗示，他是仅有的几位能筹集到足够资金与领先的人工智能公司竞争的高管之一。

上个月，马斯克在 X.com 上的现场音频聊天中表示，xAI 将需要 10 万个 Nvidia H100 GPU 来训练 Grok 3.0。他表示，该公司目前正在大约 20,000 个 H100 芯片上训练 Grok 2.0。

英伟达没有公布过其芯片的成本，但研究公司 SemiAnalysis 的首席分析师 Dylan Patel 表示，租用 10 万台 H100 每年可能花费约 17 亿美元；即将推出的被称为 GB200 的 Nvidia AI 芯片可能比前代产品贵 50%。

能不能「借」到钱买算力是一方面，有了钱能不能买到算力又是另一方面。当前，英伟达最高端的 GPU 系列仍旧供不应求，云厂商能用来训练大模型的算力集群有限。

马斯克将目光锁定在了三大云厂商之外的另一家——甲骨文 Oracle。

与亚马逊云 AWS、谷歌云、微软云 Azure 不同，甲骨文与 OpenAI 或 Anthropic 没有业务往来，这可能使其对马斯克作为合作伙伴更具吸引力。

同时，马斯克也是甲骨文联合创始人埃里森的老朋友，埃里森此前曾担任马斯克的另一家公司特斯拉的董事会董事，并出资帮助马斯克接管了当时还被称为 Twitter 的 X。据直接知情人士透露，XAI 已经是 Oracle 最大的 H100 客户，使用了超过 15000 个芯片。

现在，马斯克已经明确 xAI 将需要多达 10 万个专用半导体来训练和运行下一代 Grok。他告诉投资者，xAI 计划将所有这些芯片串联成一台大型计算机，他称之为「算力超级工厂」（gigafactory of compute）。马斯克希望在 2025 年秋天之前让这台超级计算机投入运行，并将亲自负责按时交付。他称，这些连接起来的 H100 集群，建成后的规模将至少是目前最大 GPU 集群的四倍。

在「算力超级工厂」的计划下，XAI 可能与甲骨文公司合作开发超级计算机，也可能选择其他合作方或合作形式。一个细节体现在本轮融资的出资方包括红杉、A16Z 等基金，唯独没有甲骨文的身影。相比之下，其他三大云厂商和大模型公司之间的合作则通过投资来「锁定」云客户。

无论如何，「算力超级工厂」给了 Grok 上一线牌桌的起点，这场 AI 背后的算力竞赛，还将继续加码。

此前，扎克伯格表示，到 2024 年底，Meta 将拥有 35 万台 H100，其中一些将用于训练公司的 Llama 开源大模型。微软计划在今年和明年为 OpenAI 提供容纳数十万个 GPU 的服务器。OpenAI 和微软已经在讨论到 2028 年开发一台价值 1000 亿美元的超级计算机。