AnthropicCEOAI模型训练成本三年内将达到千亿美元

“

Anthropic CEO Dario Amodei 在播客中透露，训练AI成本高达10亿美元，预计未来几年将达百亿美元。高昂成本将限制小型初创公司参与AI竞赛，同时可能带来环境问题。

Anthropic公司CEO达里奥·阿莫迪透露，训练一款基础级别的人工智能至少需要耗资1亿美元，而目前一些正在训练的模型成本甚至高达十亿美元。在与挪威银行CEO尼古拉·唐根的播客节目《In Good Company》中，阿莫迪分享了这些数据。

他进一步指出，目前的成本在未来几年内可能仅被视为起步价。ChatGPT-4o 等现有模型的成本仅为 1 亿美元左右。阿莫迪预测，三年内，训练这些模型的成本将上升至 100 亿美元甚至 1000 亿美元。

因此，如果 AI 模型每年的性能提高十倍，我们可以合理地预期训练它们所需的硬件的性能也会至少提高十倍。因此，硬件可能是 AI 训练中最大的成本驱动因素。早在 2023 年，就有报道称ChatGPT 需要超过 30,000 个 GPU，Sam Altman 证实 ChatGPT-4 的训练成本为 1 亿美元。

去年，有超过 380 万个 GPU 被交付到数据中心。鉴于 Nvidia 最新的 B200 AI 芯片售价约为 30,000 至 40,000 美元，我们可以推测 Dario 的十亿美元估值将在 2024 年实现。如果模型/量化研究的进步以当前的指数级增长，那么我们预计硬件需求将保持同步，除非像Sohu AI 芯片这样的更高效的技术变得更加普及。

我们已经看到这种指数级增长正在发生。埃隆·马斯克希望购买 30 万块 B200 AI 芯片，而据报道，OpenAI 和微软正在计划一个价值 1000 亿美元的 AI 数据中心。有了这么多的需求，如果 Nvidia 和其他供应商能够跟上市场步伐，我们明年的 GPU 数据中心交付量可能会激增至 3800 万。

高昂的AI开发成本为那些希望打造自家模型以与OpenAI或Anthropic竞争的初创公司设置了高门槛。2023年第一季度，美国初创公司在C轮融资中平均筹集了约5900万美元，这与Anthropic在同年5月C轮融资中筹集的4.5亿美元相比，差距甚远。至今，Anthropic已经筹集了超过80亿美元的资金。

阿莫迪也承认，许多公司将无法负担参与这场AI竞赛的费用。但他同时指出，将会有一个充满活力的生态系统，支持小型模型的发展。

此外，Anthropic在3月发布了其旗舰AI聊天机器人Claude的最新版本Claude 3 Opus，引发了关于AI自我监控和自我修正能力的讨论。当时，一位工程师透露，Opus似乎能够感知到工程师对其进行的测试。

在采访中，阿莫迪还提到Anthropic正在与Google和Amazon合作开发能与Nvidia竞争的AI芯片，这两家公司分别对Anthropic投资了高达20亿美元和40亿美元。

AI的高成本也可能带来环境问题。谷歌的一份报告显示，由于AI的发展，其排放量在四年内增加了近50%。