本文作家:李笑寅ag百家乐在线
开始:硬AI
据媒体报谈,芯片巨头正接近达成一项收购GPU租借商Lepton AI的交往,交往金额展望达数亿好意思元。
在算力需求被质疑之际,英伟达这一收购举动是纰谬领域的伏击一环,符号着其与和谷歌等主要云提供商的平直竞争。
Lepton AI:一家GPU“二房主”
Lepton AI建立于2023年,总部位于好意思国加利福尼亚州帕洛阿托,是一家提供GPU算力租借就业的初创公司。
此前,Lepton曾为游戏初创公司Latitude.io和科研初创公司SciSpace提供AI云就业,其聚拢首创办东谈主Yangqing Jia和Junjie Bai曾是Meta的AI接洽东谈主员。
与平凡云就业提供商不同,Lepton不自行料理数据中心或就业器,而是从云提供商租用后再转租给我方的客户——公司本色上不领有任何GPU。
分析称,Lepton这种业务模式将更专注于知足AI考试和推理的特定需求,提供优化的GPU集群和干系工夫就业。对公司而言,这种轻财富模式也使Lepton遁藏重财富投资的财务压力。
在考试方面,Lepton提供了雷同Slurm的功课提交门径。本色测试标明,用户只需几分钟就能将现存sbatch剧本休养为在Lepton平台上责任,退换经由突出直不雅。
Lepton平台的另一大亮点在于其可视化才气。
分析称,Lepton提供实现台面容盘,用户不错在其中搜检节点人命周期,了解每个节点的功课景象。这一节点人命周期可视化功能进展出色,仅次于CoreWeave。这关于监控和料理GPU资源至关伏击,好像匡助用户实时发现和措置问题。

算力租借商场:从卖方转向买方
刻下,算力租借商场正阅历深化变革。
好意思国知名半导体接洽机构SemiAnalysis分析指出,打算本钱正随时候推移而下落,算力租借商场已转念为昭彰的买方商场——当今有跳跃100家GPU云就业提供商在争夺基本通常的客户群体,导致价钱竞争加重。
黄仁勋也在上周的GTC演讲中发表了雷同的不雅点:
“当Blackwell启动大界限出货时,即使是Hopper也将无东谈主问津。”
导致这种表象的关节在于,算力商场的本钱由每类GPU的本钱加权平均值决定。这意味着,具有更低打算本钱的系统可用性一朝增多,将鼓舞全体打算本钱下落,aG百家乐真人平台进而也会拉低旧卡的租借价钱。
例如来说,英伟达GB200在推理方面的单元本钱(每百万个token的好意思元本钱)比H100低75%,在考试方面的本钱(每小时每个灵验PFLOP的好意思元本钱)低56%。
这意味着,淌若H100思要保执竞争力,就不得不大幅降价。SemiAnalysis通过打算得出,为了让客户在使用两种芯局促嗅觉“无划分”,H100的每小时租借价钱需要比GB200低65%。
更直不雅地说,淌若GB200的租借价钱为每块GPU 2.20好意思元/小时,那么H100的租借价钱则需要降至每块GPU 0.98好意思元/小时。

SemiAnalysis曾在前年预测,跟着H100分娩的加快,GPU价钱将执续下行,何况沟通到买家将把要点转动到Blackwell政策上,这种下落趋势一直执续到2024年末。
本质诠释,其预测是准确的。

这种竞争形式使得像Lepton这么的专科GPU租借商濒临纷乱压力,也促使英伟达沟通通过收购来整合商场,进一步安详其在AI打算基础设施领域的主导地位。
英伟达的计议藏不住,激进彭胀云就业
英伟达CEO Jensen Huang被SemiAnalysis称为“首席营收龙套者”,这别称称响应了英伟达频年来在打算商场的激进彭胀策略。
SemiAnalysis指出,通过收购Lepton,英伟达不仅获取了格外的收入开始,还可能挤压其他云就业提供商的生计空间。
进一步说,这种垂直整合策略让英伟达好像从芯片想象到算力租借的全产业链中赚钱,同期还能更好地实现其GPU芯片的使用状貌和价钱策略,进一步增强其在AI打算领域的主导地位。
面前,英伟达的云和软件业务面前仍处于起步阶段,其模式是英伟达平直向企业出租由其芯片驱动的就业器,并提供软件匡助公司开辟AI模子和诳骗要领,以及料理考试AI的GPU集群。
英伟达此前曾示意,这项业务曩昔可能产生1500亿好意思元的收入——这一数字跳跃了英伟达或亚马逊AWS面前的年营收额。