Anthropic谈多芯片部署与算力效率

Simon Willison5 天前

Claude如何跨四类芯片运行

Anthropic在IPO路演视频中介绍了其算力策略。联合创始人Tom Brown表示,公司已在四类主要芯片平台上训练和部署Claude:

  • AWS Trainium
  • Google TPU
  • NVIDIA GPU
  • AMD GPU

Brown解释,多芯片策略的难点在于,每个平台都需要专门适配的软件栈与推理栈,建设成本高、工程复杂。Anthropic较早选择投入这一方向,并在多年实践中积累了适配经验。

公司称:AI将AMD适配缩短至三天

视频中最引人关注的案例,是Anthropic对AMD GPU的适配。

按照Brown的说法,过去接入一种新芯片平台,需要数十名工程师投入数月时间;这次,公司让Mythos尝试完成适配,约三天便让Claude在AMD平台上运行,期间几乎没有人工干预。视频还称,Claude移植或编写了接近全部的计算内核。

**这些数字属于公司自述。**现有材料没有给出具体硬件型号、测试范围、运行性能或验收标准,因此不能据此认定全部生产部署工作已在三天内完成,也不宜直接与其他平台的适配成本作比较。

“有效算力”不只取决于芯片数量

Brown将另一项优势概括为发现“算力增效因子”的速度,其表达可以简化为:

总有效算力 = 物理算力 × 算力增效因子

视频用一个假设例子解释这一概念:如果训练某种能力水平的模型需要100单位算力,那么四倍的效率提升,意味着可以用25单位算力完成同等训练;也可以继续投入100单位物理算力,完成此前需要400单位算力才能实现的训练。

这里的“四倍”是说明概念的示例,并非视频披露的一项实际测试结果。

Anthropic认为,不同增效手段可以相互叠加,从而放大现有硬件资源的价值。

递归自我改进仍是未来预期

Brown进一步提出,随着递归自我改进的发展,Claude未来可能完全自主地发现新的算力增效方法,加快效率提升。

需要区分的是:多芯片部署和AMD适配被描述为已经发生的工程实践;自主发现增效方法、推动递归自我改进,则是公司对未来能力的判断,不能视为已经得到验证的成果。

对技术社区而言,这段讨论值得关注的重点,是跨硬件软件栈的建设成本、AI辅助底层适配的实际边界,以及算力效率改进能否持续叠加。这些问题仍需要更具体的技术细节和可复现结果来检验。

评论

请登录后发表观点

暂无数据