当前位置:首页 > 外汇资讯 > 正文内容

英伟达的野心:“AI原生”彻底颠覆数据中心

激石外汇2023-08-09 12:00:50外汇资讯287

激石Pepperstone(http://www.paraat.net/)报道:

投资数百万美元购买上一代计算资源,实在太愚蠢了。像最新发布的、人工智能数专用的开发硬件GH200,只需要不到十分之一的成本和功耗,就能完成同样的工作。

英伟达CEO黄仁勋在周二的发布会上这样说。昨日,英伟达发布新一代GH200 Grace Hopper超级芯片平台,专为加速计算和生成式AI时代而打造。

黄仁勋指出,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的GH200芯片平台提供了卓越的内存技术和带宽,提升无损耗连接GPU聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。

值得一提的是,大模型浪潮来袭,催生各种AI原生应用,带动算力需求激增,专为应对数据密集型人工智能应用的数据中心市场正迅速崛起。

数据中心迎来新变革

据华尔街日报报道,分析师们指出,随着老牌云计算供应商竞相为数据中心改装先进芯片和进行其他升级,以满足人工智能软件的需求,一些新兴的建设者看到了从零开发新设施的机会。

数据中心类似于一个大型仓库,配备了多架服务器、网络和存储设备,用于存储和处理数据。与传统数据中心相比,AI数据中心拥有更多使用高性能芯片的服务器,因此AI数据中心服务器每个机架的平均耗电量可达50千瓦或更多,而传统数据中心每个机架的耗电量大约为7千瓦。

这意味着AI数据中心需要增建能够提供更高功率的基础设施,由于额外的用电量会产生更多的热量,AI数据中心还需要其他冷却方法,如液体冷却系统,以防止设备过热。

服务和咨询公司Unisys高级副总裁Manju Naglapur指出:

专门建造的人工智能数据中心可容纳利用人工智能芯片(如英伟达的GPU)的服务器,在人工智能应用筛选庞大的数据存储时,可同时运行多个计算。这些数据中心还配备了光纤网络和更高效的存储设备,以支持大规模的人工智能模型。

AI数据中心是高度专业化的建筑,需要投入大量的资金和时间。研究公司Data Bridge Market Research数据显示,到2029年,全球人工智能基础设施市场的支出预计将达到4225.5 亿美元,未来六年的复合年增长率将达到44%。

DataBank首席执行官Raul Martynek表示,人工智能的部署速度很可能会导致数据中心容量在未来12到24个月内出现短缺。

AI算力新秀获得23亿美元融资

目前,各路巨头都在押注AI数据中心,“地产标杆”黑石卖房转投AI数据中心。Meta也曾表示,将建设一个新的人工智能数据中心。

此前文章提到,AI算力新秀CoreWeave,拿英伟达H100抵押贷款,获得债务融资23亿美元(约165亿人民币)。

CoreWeave表示,这笔资金将用于加快建设人工智能数据中心,这是该公司继今年4月获得2.21亿美元和5 月获得2亿美元后的又一次融资。CoreWeave成立于六年前,目前已有7个人工智能数据中心上线,预计到今年年底将翻一番。

CoreWeave正与英伟达以及Inflection AI合作建一个超大型AI服务器集群,目标是运行2.2万块英伟达H100。如果建成,将成为全球最大的AI服务器集群。

值得一提的是,根据CoreWeave官网宣传,他们的服务比传统云计算厂商便宜80%。英伟达最新的HGX H100服务器,内含8张80G显存的H100和1T内存那种,起步价每小时只要2.23美元(16块人民币)。

而相比前代平台,新GH200 Grace Hopper平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。

难怪在这个LLM大爆炸的时代,黄仁勋依然大胆放话“买得越多,省得越多”!         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/2009.html

标签: AI原生
分享给朋友:

“英伟达的野心:“AI原生”彻底颠覆数据中心” 的相关文章

电池涨、油价涨!美国电动车全线涨价

激石Pepperstone(http://www.paraat.net/)报道:在过去几个月里,特斯拉、福特、通用汽车、Rivian和Lucid纷纷提高了其电动车的价格。 6月16日,特斯拉大幅提高了其所有产品线的电动汽车的价格,其中一些车型的价格涨幅高达6000美元。特斯拉最畅销的Model Y今...

美国信心崩塌“接力赛”!美企CFO对经济乐观程度降至近十年最低

激石Pepperstone(http://www.paraat.net/)报道:在美国高企的通胀以及美联储大幅加息阴霾之下,投资者悲观情绪愈发浓重,消费者信心指数节节败退,美国小企业乐观程度指数跌至近两年低点,本周三一项旨在调查企业首席财务官们对今年美国经济表现的一项信心指数也跌至近十年最低水平。...

开发商2.5万/平拿地,现在卖房最低1.3万/平!这个一线城市惊现“万元房”

开发商2.5万/平拿地,现在卖房最低1.3万/平!这个一线城市惊现“万元房”

激石Pepperstone(http://www.paraat.net/)报道:“面包”价格比“面粉”价格便宜,这次竟然出现在一线城市。 7月4日,《每日经济新闻》记者注意到,广州增城的法拍地王项目创基天璟,最低售价甚至达到了1.3万元/平方米。 该项目的背景是,2017年创基地产通过司法竞拍,以总...

世卫:58国已报超6000例猴痘病例,将再次召开紧急会议

激石Pepperstone(http://www.paraat.net/)报道:当地时间7月6日,世界卫生组织(WHO)表示,目前全球已有58个国家报告了超过6000例猴痘病例。因此,世卫组织或将在本月再次召开紧急会议。 据路透社7月6日报道,世卫组织总干事谭德塞表示,“我一直对猴痘疫情在全球范围内...

A股震荡下行 公路、基建走强 游戏表现活跃 比亚迪跌破300元关口

A股震荡下行 公路、基建走强 游戏表现活跃 比亚迪跌破300元关口

激石Pepperstone(http://www.paraat.net/)报道:7月13日周三,A股三大指数涨跌不一,沪指微幅低开,随后走低。 截止目前,沪指跌0.29%,深成指跌0.83%,创业板指跌0.96%。 盘面上,稳增长方向持续活跃,公路、基建涨幅居前,游戏板块走高,能源股跟随期市下挫,...

又是崩盘夜!油价暴跌7%,外盘农产品、有色“溃败”,能化系遭重挫,原因找到了?欧盟摊牌:允许没收俄在欧资产

激石Pepperstone(http://www.paraat.net/)报道:昨夜,商品市场又崩了! 周二晚间,国际油价集体跌超6%,布伦特原油期货在美股开盘一小时便跌穿100美元/桶关键心理整数位,美油WTI最低失守97美元/桶。凌晨美油跌幅一度扩大至8%。 内盘方面,截至23:00收盘,国...