CoreWeave筹集的11亿美元显示替代云市场蓬勃发展

对替代云的需求空前强劲。

以CoreWeave为例,这家GPU基础设施提供商最初是一家加密货币挖矿公司,本周从包括Coatue、Fidelity和Altimeter Capital在内的投资者那里筹集了11亿美元的新资金。据报道,这一轮融资使这家初创公司的后募资估值达到190亿美元,新资金将CoreWeave的债务和股权总额提高到了50亿美元,这对于一家还不到十年的公司来说是一个令人瞩目的数字。

并非只有CoreWeave。

Lambda Labs,也提供各种云托管的GPU实例,四月初获得了高达5亿美元的“特殊融资工具”,此前几个月还完成了3.2亿美元的C轮融资。非营利组织Voltage Park,由加密货币亿万富翁Jed McCaleb支持,去年十月宣布将在基于GPU的数据中心上投资5亿美元。而Sistema AI,一家云GPU主机,也从事生成式AI研究,今年三月获得了由Salesforce领投的1.06亿美元融资。

那么为什么替代云领域如此受到热情追捧和资金涌入呢?用三个词来概括:生成式人工智能。

随着生成式AI的繁荣,对于运行和训练大规模生成式AI模型的硬件需求也在增加。GPU在架构上是训练、微调和运行模型的合适选择,因为它们包含数千个核心,可以并行工作以执行生成式模型所需的线性代数方程。

但安装GPU成本昂贵。所以大多数开发人员和组织选择采用云。

云计算领域的领导者,亚马逊网络服务(AWS)、Google云和微软Azure,提供了大量针对生成式AI工作负载优化的GPU和专业硬件实例。但对于至少一些模型和项目来说,替代云最终可能会更便宜,并提供更好的可用性。

在CoreWeave上,租用一台Nvidia A100 40GB - 一个常用的模型训练和推断选择,每小时成本为2.39美元,每月为1,200美元。在Azure上,同样的GPU每小时成本为3.40美元,每月为2,482美元;在Google Cloud上,每小时为3.67美元,每月为2,682美元。

由于生成式AI工作负载通常在GPU集群上执行,因此成本差距会迅速增加。

Gartner云服务和技术副总裁Sid Nag告诉TechCrunch说:“像CoreWeave这样的公司参与了我们称之为专业‘GPU即服务’云提供商的市场。鉴于对GPU的高需求,他们提供了一种替代方式,使用户可以访问Nvidia GPU的市场。”

Nag指出,即使一些大型科技公司也已开始倚赖替代云提供商,因为它们面临着计算能力挑战。

去年六月,CNBC报道称微软与CoreWeave签署了一项多十亿美元的协议,以确保OpenAI(ChatGPT的制造商,也是微软的合作伙伴)能够获得足够的计算能力来训练其生成式AI模型。Nvidia,为CoreWeave提供大部分芯片,将这视为一个有利的趋势,或许出于谈判的原因;据说已经给一些替代云提供商优先使用其GPU。

Forrester首席分析师Lee Sustar认为,像CoreWeave这样的云供应商之所以成功,部分原因在于他们没有处理现有供应商所需应对的基础设施“包袱”。

“鉴于主导整体公共云市场的超级规模商,他们需要对基础设施和服务范围进行巨额投资,这些投资几乎不带来任何或少量收入,像CoreWeave这样的挑战者有机会通过专注于高端AI服务而无需承担云供应商级别的投资负担而获得成功,”他说。

但这种增长可持续吗?

Sustar持怀疑态度。他认为替代云提供商的扩张将受到两个因素的制约:(1)他们能否继续大规模上线GPU,(2)能否以具有竞争力的低价格提供它们。

在定价上竞争可能会变得具有挑战性,因为Google、微软和AWS等老牌供应商正在加大对定制硬件用于运行和训练模型的投资力度。Google提供其TPUs;微软最近推出了两款定制芯片Azure Maia和Azure Cobalt;AWS则拥有Trainium、Inferentia和Graviton。

Sustar表示:“超级规模商将利用他们的定制芯片减少对Nvidia的依赖,而Nvidia将寻求与CoreWeave和其他以GPU为中心的AI云合作。”

此外,许多生成式AI工作负载在GPU上运行效果最佳,但并非所有工作负载都需要它们,特别是对于不需要时间紧迫的工作负载。CPU可以运行必要的计算,但通常比GPU和定制硬件慢。

对于替代云提供商来说,一个存在性上的担忧是生成式AI泡沫破灭的威胁,这将使供应商拥有大量的GPU,但实际上需求太少。但在短期内,未来看起来乐观,Sustar和Nag都认为会有一大批新兴云服务的涌现。

“以GPU为中心的云创业公司将给现有供应商带来充分竞争,特别是在已经实现多云且可以处理多个云的管理、安全、风险和合规复杂性的客户之间,”Sustar说。“这些云客户乐于尝试新的AI云,如果其具有可信的领导、稳固的财务支持和无需等待时间的GPU。”