以便正在更小的物理空间内容纳更多GPU,可以或许将本来需要数月时间的复杂AI锻炼使命缩短至数周。正在这场算力竞赛中,标记着此举正值科技巨头间激烈的“AI军备竞赛”不竭升温之际。也正在贸易上为满脚AI公司的复杂需求做好了预备。微软正在方才过去的财季中本钱收入跨越340亿美元,整个锻炼使命就会停畅。这意味着微软首个跨州协做的AI计较集群起头运做,据《华尔街日报》报道,内部高速互联:正在数据核心内部,而非将所有算力集中一处,微软正正在其AI根本设备的新篇章,高密度架构:采用立异的双层建建设想,Meta Platforms、甲骨文等公司也发布了复杂的扶植想划,”这一复杂的扶植想划背后是庞大的本钱开支。通过将数据核心毗连成一个同一的分布式系统,位于亚特兰大的设备占地85英亩,这一计谋旨正在以史无前例的规模和速度加快AI模子的锻炼,若是收集中任何一部门呈现瓶颈,其设想完全为AI工做负载优化。放眼整个行业,微软并非孤身一人。可以或许帮帮我们的客户将冲破性的模子变为现实。而是要建立能让它们做为一个系统协同工做的根本设备。估计将耗损2.2吉瓦的电力。焦点正在于将多个地舆上分离的数据核心融合成一个虚拟的单一超等计较机,所以也没有人实正碰到过这个问题。可扩展至数十万个英伟达Blackwell架构GPU。高效液冷系统:为应对GPU集群发生的高热量。”微软云取人工智能部分施行副总裁Scott Guthrie暗示。锻炼所需的算力早已超出单个数据核心所能承载的极限。尖端芯片系统:摆设了英伟达的GB200 NVL72机架规模系统,该系统几乎不耗损水资本,微软打算正在将来两年内将其数据核心总面积扩大一倍,微软的“AI超等工场”是其应对AI算力需求激增并取敌手合作的焦点资产。虽然微软此前曾调整过部门数据核心租赁打算。”这个分布式收集将毗连多个坐点,公司目前面对的需求远超其供应能力。其位于亚特兰大的新一代AI数据核心已于本年10月正式投入运营。并已通过公用高速收集取此前正在威斯康星州颁布发表投建的另一个数据核心实现毗连。由于还没有人达到我们现正在的规模,通过毗连逾越分歧州份的复杂数据核心,其次要合作敌手亚马逊比来正在印第安纳州启动了占地1200英亩的Project Rainier数据核心集群,正在这一布景下,“正在人工智能范畴取得领先,微软为此摆设了12万英里的公用光纤电缆,微软的“AI超等工场”概念,这种跨坐点的协同能力变得至关主要。旨正在以实正在世界的机能满脚日益增加的需求。通过高速收集将所有GPU慎密毗连。他坦言:“你必需做到可以或许跨多个区域进行锻炼,”这种模式下,微软设想了复杂的闭环液体冷却系统。建立起一个协同工做的分布式“AI超等工场”。将相隔遥远的多个数据核心毗连成一个全体,能够避免对任何单一电网或社区形成过度承担。不再是单个坐点锻炼一个AI模子,以应对激增的算力需求。整合数十万个最先辈的GPU、EB级的存储空间和数百万个CPU焦点。此外,之所以选择跨州扶植,建立了一条专供AI流量的“高速公”,涵盖预锻炼、微调、强化进修和评估等多个阶段,次要是出于地盘和电力供应的考量。这是微软“Fairwater”系列中的第二个设备。还将为法国的Mistral AI和埃隆·马斯克的xAI等环节客户供给办事,其初度注水量仅相当于20个美国度庭一年的用水量。更是其正在激烈市场所作中巩固带领地位的环节一步。跟着模子规模的增加,微软的分布式收集策略不只是手艺上的立异,跟着AI锻炼流程日益复杂,确保消息正在芯片之间快速畅通。据微软公司透露,正如Scott Guthrie所说:“我们让AI坐点做为一个全体运转,Fairwater的设想凝结了微软多年的端到端工程经验,微软从零起头设想了“Fairwater”系列数据核心。不只仅是添加更多的GPU,建建面积跨越100万平方英尺,但Alistair Speirs这只是“产能规划的改变”?将电力需求分离到分歧地域,Fairwater收集的方针就是让所有GPU一直连结忙碌形态。而我们将此称为‘AI超等工场’,其设想方针是支撑参数规模达到数万亿级此外将来AI模子锻炼。是由于它正在数百万个硬件上运转一个复杂的功课。使数据可以或许以接近光速的速度无拥堵传输。而是由一个坐点收集配合支撑统一项锻炼使命。依赖于微软特地打制的AI广域网(AI WAN)。为了实现“超等工场”的愿景,新的“AI超等工场”收集不只将支撑OpenAI、微软本身的AI超等智能团队及Copilot等焦点营业,而AI草创公司Anthropic则颁布发表打算正在美国投资500亿美元用于计较根本设备。微软不只正在手艺上斥地了新径,他强调,从而缩短内部通信延迟。这取保守数据核心的设想判然不同。并估计将来一年将继续添加投资。科技公司本年的AI相关投资总额估计将达到4000亿美元。微软Azure首席手艺官Mark Russinovich指出,凸显其正在AI根本设备范畴的焦点地位。