您当前的位置：首页 >> 潮流饰家

英伟达的野心：“AI原生”彻底共产数据中心

2024-01-23 12:17:48

英伟达的反复无常：“AI原生”从根本上歪曲网络系统

花旗银行记叙

投资者数百万美元购上一代算出资源，实在太愚蠢了。像同类型披露的、算出机科学数工用的合作开发硬体GH200，只需不到十分之一的价格和低功耗，就能已完成比方说的工作。

英伟达CEO黄仁勋在周二的披露会上这样说。近日，英伟达披露新一代GH200 Grace Hopper超级CPUSDK，工为减慢算出和生成式AI黄金时代而充分运用。

黄仁勋引述，为了满足生成式 AI 迅速增长的需求量，网络系统需有针对独有需求量的减慢算出SDK。取而代之GH200CPUSDK提供了表扬的线程应用和以太网，强化无损耗连接GPU效率的能力，并且拥有可以在整个网络系统轻松重新部署的服务于器设计。

则有，大三维风潮来犯，有鉴于此各种AI原生应用，带动算力需求量激增，工为应对数据密集型算出机科学应用的网络系统商品仍要迅速复苏。

网络系统踏入新变革

据花旗银行日报报道，交易商们引述说，随着老牌云算出零售商竞相为网络系统改型先进CPU和进行其他升级，以满足算出机科学软件的需求量，一些新兴的则有看到了从零合作充分并用设施的希望。

网络系统类似于一个大型库房，配备了多架服务于器、网络和移动设备，用做磁盘和处理数据。与习惯网络系统相比，AI网络系统拥有更加多常用入门级CPU的服务于器，因此AI网络系统服务于器每个托盘的平均耗电量可达50千瓦或更加多，而习惯网络系统每个托盘的耗电量分之一为7千瓦。

这意味着AI网络系统需增建只能提供更加高额定功率的交通设施，由于额外的用电量会诱发更加多的能量，AI网络系统还需其他降温方法，如固体压缩机，以防范设备过热。

服务于和咨询公司Unisys高级副总裁Manju Naglapur引述：

工门建造的算出机科学网络系统可容纳并用算出机科学CPU（如英伟达的GPU）的服务于器，在算出机科学应用筛选巨大的数据磁盘时，可同时运行多个算出。这些网络系统还配备了光纤网络和更加高效的移动设备，以支持大规模的算出机科学三维。

AI网络系统是高度工业化的公共建筑，需投入大量的贷款和时间。研究公司Data Bridge Market Research数据显示，到2029年，世界各地算出机科学交通设施商品的补贴原订将降至4225.5 亿美元，预见六年的举例来说年增长率将降至44%。

DataBank首席执行官Raul Martynek引述，算出机科学的重新部署加速很可能会导致网络系统容量在预见12到24个年末内出现供应。

AI算力新人王给予23亿美元信贷

现有，各路巨头都在AI网络系统，“地产商标杆”黑石卖房转投AI网络系统。Meta也曾引述，将筹建一个取而代之算出机科学网络系统。

在此之后短文提到，AI算力新人王CoreWee，拿英伟达H100抽贷贷款，给予债务信贷23亿美元（约165亿投资者额）。

CoreWee引述，这笔贷款将用做加快筹建算出机科学网络系统，这是该公司自始明年4年末给予2.21亿美元和5 年末给予2亿美元后的又一次信贷。CoreWee成立于六年以前，现有已有7个算出机科学网络系统上线，原订到明年年底将翻一番。

CoreWee仍要与英伟达以及Inflection AI合作建一个超大型AI服务于器协同，前提是运行2.2万块英伟达H100。如果建成，将成为世界各地最大的AI服务于器协同。

则有，根据CoreWee官网政治宣传，他们的服务于比习惯云算出厂商便宜80%。英伟达同类型的HGX H100服务于器，内含8张80G显存的H100和1T线程那种，空调车每小时只要2.23美元（16块投资者额）。

而相比以前代SDK，新GH200 Grace HopperSDK的双CPU的设计将线程容量减低3.5倍，以太网增加三倍，一个服务于器就有144个Arm Neoverse入门级内核、8 petaflops 的 AI 效率和282GB的同类型HBM3e线程应用。

难怪在这个LLM大爆炸的黄金时代，黄仁勋依然大胆抽话“买得越多，省得越多”！

可能性定时及免责条款

商品有可能性，投资者需谨慎。本文不组成个人投资者促请，也未考虑到个别用户独有的投资者前提、财政状况或需。用户应考虑本文中的任何异议、本质或结论是否符合其特定状况。据此投资者，责任自负。