当前位置:首页 > 外汇资讯 > 正文内容

英伟达的野心:“AI原生”彻底颠覆数据中心

激石外汇2023-08-09 12:00:50外汇资讯300

激石Pepperstone(http://www.paraat.net/)报道:

投资数百万美元购买上一代计算资源,实在太愚蠢了。像最新发布的、人工智能数专用的开发硬件GH200,只需要不到十分之一的成本和功耗,就能完成同样的工作。

英伟达CEO黄仁勋在周二的发布会上这样说。昨日,英伟达发布新一代GH200 Grace Hopper超级芯片平台,专为加速计算和生成式AI时代而打造。

黄仁勋指出,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的GH200芯片平台提供了卓越的内存技术和带宽,提升无损耗连接GPU聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。

值得一提的是,大模型浪潮来袭,催生各种AI原生应用,带动算力需求激增,专为应对数据密集型人工智能应用的数据中心市场正迅速崛起。

数据中心迎来新变革

据华尔街日报报道,分析师们指出,随着老牌云计算供应商竞相为数据中心改装先进芯片和进行其他升级,以满足人工智能软件的需求,一些新兴的建设者看到了从零开发新设施的机会。

数据中心类似于一个大型仓库,配备了多架服务器、网络和存储设备,用于存储和处理数据。与传统数据中心相比,AI数据中心拥有更多使用高性能芯片的服务器,因此AI数据中心服务器每个机架的平均耗电量可达50千瓦或更多,而传统数据中心每个机架的耗电量大约为7千瓦。

这意味着AI数据中心需要增建能够提供更高功率的基础设施,由于额外的用电量会产生更多的热量,AI数据中心还需要其他冷却方法,如液体冷却系统,以防止设备过热。

服务和咨询公司Unisys高级副总裁Manju Naglapur指出:

专门建造的人工智能数据中心可容纳利用人工智能芯片(如英伟达的GPU)的服务器,在人工智能应用筛选庞大的数据存储时,可同时运行多个计算。这些数据中心还配备了光纤网络和更高效的存储设备,以支持大规模的人工智能模型。

AI数据中心是高度专业化的建筑,需要投入大量的资金和时间。研究公司Data Bridge Market Research数据显示,到2029年,全球人工智能基础设施市场的支出预计将达到4225.5 亿美元,未来六年的复合年增长率将达到44%。

DataBank首席执行官Raul Martynek表示,人工智能的部署速度很可能会导致数据中心容量在未来12到24个月内出现短缺。

AI算力新秀获得23亿美元融资

目前,各路巨头都在押注AI数据中心,“地产标杆”黑石卖房转投AI数据中心。Meta也曾表示,将建设一个新的人工智能数据中心。

此前文章提到,AI算力新秀CoreWeave,拿英伟达H100抵押贷款,获得债务融资23亿美元(约165亿人民币)。

CoreWeave表示,这笔资金将用于加快建设人工智能数据中心,这是该公司继今年4月获得2.21亿美元和5 月获得2亿美元后的又一次融资。CoreWeave成立于六年前,目前已有7个人工智能数据中心上线,预计到今年年底将翻一番。

CoreWeave正与英伟达以及Inflection AI合作建一个超大型AI服务器集群,目标是运行2.2万块英伟达H100。如果建成,将成为全球最大的AI服务器集群。

值得一提的是,根据CoreWeave官网宣传,他们的服务比传统云计算厂商便宜80%。英伟达最新的HGX H100服务器,内含8张80G显存的H100和1T内存那种,起步价每小时只要2.23美元(16块人民币)。

而相比前代平台,新GH200 Grace Hopper平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。

难怪在这个LLM大爆炸的时代,黄仁勋依然大胆放话“买得越多,省得越多”!         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/2009.html

标签: AI原生
分享给朋友:

“英伟达的野心:“AI原生”彻底颠覆数据中心” 的相关文章

美国会众议院通过两党枪支安全法案

激石Pepperstone(http://www.paraat.net/)报道:当地时间6月24日,美国众议院以234票赞成、193票反对,表决通过了一项枪支管控法案,该法案名为《两党安全社区法》,是对得州及纽约州等多起大规模枪击事件的回应。 该法案要求加强对21岁以下枪支购买者的背景调查,为“红旗...

雪上加霜!币圈雷曼危机还没完,又有价值一亿美元的数字货币被偷了

雪上加霜!币圈雷曼危机还没完,又有价值一亿美元的数字货币被偷了

激石Pepperstone(http://www.paraat.net/)报道:加密币近日真的不太平,除了过去两个月暴跌带来的“灰飞烟灭”,还有不断持续蔓延的流动性枯竭,从“币圈银行”Celsius,到币圈最大对冲基金三箭资本,“币圈券商”Voyager Digital,再到加密货币交易所CoinF...

“多看一眼房子就没了”,新加坡房租暴涨!

激石Pepperstone(http://www.paraat.net/)报道:近期,新加坡租房市场十分火爆,租金普遍暴涨。“平均租金上涨40%,租房看房排起了长队,来不及看房,仅凭几张照片就争先抢定”成了常见现象。 周二,据媒体报道,由于本地人和外籍居民需求激增,同时供应又因疫情影响减少,新加坡的...

最悲观的万科也“翻多”了,房地产龙头刚刚集体大涨

最悲观的万科也“翻多”了,房地产龙头刚刚集体大涨

激石Pepperstone(http://www.paraat.net/)报道:6月29日,房地产板块早盘逆势走强,信达地产、滨江集团等涨停,金地集团涨8%,万科A涨一度涨超7%。 消息面上,万科董事会主席郁亮在28日的股东大会上表示,从短期来看,地产市场已经触底,但是恢复是个缓慢温和的过程。 其...

最高1050美元!为对抗通胀,美国加州向公众发放补贴

最高1050美元!为对抗通胀,美国加州向公众发放补贴

激石Pepperstone(http://www.paraat.net/)报道:今年秋天,美国加州将向2300万居民发放高达1050美元的“通货膨胀救济”支票,以帮助减轻40年来最高通胀给美国人带来的经济负担。 “加州的预算解决了该州最紧迫的需求,”加州州长Gavin Newsom周日在与州议员的一...

特斯拉二季度或因比特币损失4.4亿美元,相当于年度利润9%

激石Pepperstone(http://www.paraat.net/)报道:特斯拉可能会在其即将发布的季度报告中报告约4.4亿美元的比特币减值损失。 据英国《每日电讯报》7月3日报道,在比特币价值大幅下跌后,特斯拉面临着其持有的比特币4.4亿美元的减记,这相当于特斯拉去年利润的9%。 特斯拉于2...