当前位置:首页 > 外汇资讯 > 正文内容

英伟达“最强AI芯片”炸裂全场!业内惊呼:新的摩尔定律诞生

激石外汇2024-03-19 12:00:14外汇资讯321

激石Pepperstone(http://www.paraat.net/)报道:

“最强AI芯片” Blackwell B200 GPU的高调发布,已不单单是稳固英伟达在芯片领域的王者地位,更是让业内人士高呼:新的摩尔定律诞生!

在隔夜的2024 GTC大会上,黄仁勋介绍了运行AI模型的新一代芯片和软件。他表示,新一代的B200 GPU拥有2080亿个晶体管,可以提供高达20 petaflops的FP4性能。相比之下,H100仅为4 petaflops。

此外,将两个B200 GPU与单个Grace CPU 结合在一起的 GB200,可以为LLM推理工作负载提供30倍的性能,并且显著提高效率。

黄仁勋还强调称:“与H100相比,GB200的成本和能耗降低了25倍!

关于市场近期颇为关注的能源消耗问题,B200 GPU也交出了最新的答卷。

黄仁勋表示,此前训练一个1.8 万亿参数模型,需要8000 个 Hopper GPU 并消耗15 MW电力。但如今,2000 个 Blackwell GPU就可以实现这一目标,耗电量仅为4MW。

在拥有1750亿参数的GPT-3大模型基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

值得一提的是,B200 GPU的重要进步之一,是采用了第二代Transformer引擎。

它通过对每个神经元使用4位(20 petaflops FP4)而不是8位,直接将计算能力、带宽和模型参数规模翻了一倍。

而只有当这些大量的GPU连接在一起时,第二个重要区别才会显现,那就是新一代NVLink交换机可以让576个GPU相互通信,双向带宽高达1.8TB/秒。

而这就需要英伟达构建一个全新的网络交换芯片,其中包括500亿个晶体管和一些自己的板载计算:拥有3.6 teraflops FP8处理能力。

在此之前,仅16个GPU组成的集群,就会耗费60%的时间用于相互通信,只有40%的时间能用于实际计算。

一石激起千层浪,“最强AI芯片”的推出让网友纷纷赞叹。

其中英伟达高级科学家Jim Fan直呼:Blackwell新王诞生,新的摩尔定律已经应运而生。

DGX Grace-Blackwell GB200:单个机架的计算能力超过1 Exaflop。

黄仁勋交付给OpenAI的第一台DGX是0.17 Petaflops。

GPT-4的1.8T参数可在2000个Blackwell上完成90天的训练。

还有网友感叹:1000倍成就达成!

Blackwell标志着在短短8年内,Nvidia AI 芯片的计算能力实现了提升1000倍的历史性成就。

2016 年,“Pascal”芯片的计算能力仅为19 teraflops,而今天Blackwell的计算能力已经达到了 20000 teraflops。         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/2805.html

分享给朋友:

“英伟达“最强AI芯片”炸裂全场!业内惊呼:新的摩尔定律诞生” 的相关文章

美股大跌,但价值股的春天来了?

激石Pepperstone(http://www.paraat.net/)报道:多年以来,美股价值股一直落后于成长股,而今年这一情况将发生逆转,价值股将迎来春天。 在2022年的美股抛售中,几乎没有哪类股票可以幸免,但价值股——交易价格低于其账面价值的股票表现要好于大多数股票。周一,据外媒报道,一项...

港股拉升 恒生科技涨超2% 互联网医疗股普涨 阿里健康飙升近7%

港股拉升 恒生科技涨超2% 互联网医疗股普涨 阿里健康飙升近7%

激石Pepperstone(http://www.paraat.net/)报道:7月5日,港股高开,恒指开涨1.02%,恒生科技指数涨1.54%。 随后,恒生科技指数的涨幅迅速扩大至超2%。 互联网医疗股普涨,阿里健康涨近7%,平安好医生、京东健康涨超3%。 科技股集体拉升,快手、阿里、商汤涨超...

央行连续五天逆回购30亿元

央行连续五天逆回购30亿元

激石Pepperstone(http://www.paraat.net/)报道:今日,中国央行进行30亿元7天期逆回购操作,中标利率为2.10%,与此前持平。今日100亿元逆回购到期。 本周中国央行进行150亿元逆回购操作,因本周有4000亿元逆回购到期,本周实现净回笼3850亿元。 制表:华尔街...

哈萨克斯坦退出独联体跨国货币委员会协议,俄哈关系裂痕逐步公开化

激石Pepperstone(http://www.paraat.net/)报道:当地时间7月8日,哈萨克斯坦总统卡托卡耶夫签署法令并宣布,该国退出1995年签署的独联体跨国货币委员会的协议。 据《莫斯科真理报》7月8日报道,托卡耶夫签署法令称,(哈萨克斯坦)终止于1995年5月签署、2013年10...

马斯克终止并购推特,推特:“法庭见”,股价盘后跌9%

马斯克终止并购推特,推特:“法庭见”,股价盘后跌9%

激石Pepperstone(http://www.paraat.net/)报道:话说天下大事合久必分,分久必合,而在特斯拉CEO马斯克和社交媒体推特的世纪收购案中,这段耗时多月一路磕磕绊绊的收购仍然无法以马斯克单方面“分手快乐”而告终,因为推特董事会回应其对这宗并购协议仍有信心,并表示会恪守承诺执行...

原油市场高度关注:拜登本周访问中东,能得到沙特支持么?

原油市场高度关注:拜登本周访问中东,能得到沙特支持么?

激石Pepperstone(http://www.paraat.net/)报道:全球能源市场动荡之际,美国总统拜登将于本周访问沙特的消息引起了原油市场高度关注。此外,在为期四天的中东之行中,拜登还将到访以色列和巴勒斯坦。 上周,国际油价探底回升,全球经济衰退担忧引发油价连续大跌,布伦特原油一度跌破1...