当前位置:首页 > 外汇资讯 > 正文内容

英伟达“最强AI芯片”炸裂全场!业内惊呼:新的摩尔定律诞生

激石外汇2024-03-19 12:00:14外汇资讯336

激石Pepperstone(http://www.paraat.net/)报道:

“最强AI芯片” Blackwell B200 GPU的高调发布,已不单单是稳固英伟达在芯片领域的王者地位,更是让业内人士高呼:新的摩尔定律诞生!

在隔夜的2024 GTC大会上,黄仁勋介绍了运行AI模型的新一代芯片和软件。他表示,新一代的B200 GPU拥有2080亿个晶体管,可以提供高达20 petaflops的FP4性能。相比之下,H100仅为4 petaflops。

此外,将两个B200 GPU与单个Grace CPU 结合在一起的 GB200,可以为LLM推理工作负载提供30倍的性能,并且显著提高效率。

黄仁勋还强调称:“与H100相比,GB200的成本和能耗降低了25倍!

关于市场近期颇为关注的能源消耗问题,B200 GPU也交出了最新的答卷。

黄仁勋表示,此前训练一个1.8 万亿参数模型,需要8000 个 Hopper GPU 并消耗15 MW电力。但如今,2000 个 Blackwell GPU就可以实现这一目标,耗电量仅为4MW。

在拥有1750亿参数的GPT-3大模型基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

值得一提的是,B200 GPU的重要进步之一,是采用了第二代Transformer引擎。

它通过对每个神经元使用4位(20 petaflops FP4)而不是8位,直接将计算能力、带宽和模型参数规模翻了一倍。

而只有当这些大量的GPU连接在一起时,第二个重要区别才会显现,那就是新一代NVLink交换机可以让576个GPU相互通信,双向带宽高达1.8TB/秒。

而这就需要英伟达构建一个全新的网络交换芯片,其中包括500亿个晶体管和一些自己的板载计算:拥有3.6 teraflops FP8处理能力。

在此之前,仅16个GPU组成的集群,就会耗费60%的时间用于相互通信,只有40%的时间能用于实际计算。

一石激起千层浪,“最强AI芯片”的推出让网友纷纷赞叹。

其中英伟达高级科学家Jim Fan直呼:Blackwell新王诞生,新的摩尔定律已经应运而生。

DGX Grace-Blackwell GB200:单个机架的计算能力超过1 Exaflop。

黄仁勋交付给OpenAI的第一台DGX是0.17 Petaflops。

GPT-4的1.8T参数可在2000个Blackwell上完成90天的训练。

还有网友感叹:1000倍成就达成!

Blackwell标志着在短短8年内,Nvidia AI 芯片的计算能力实现了提升1000倍的历史性成就。

2016 年,“Pascal”芯片的计算能力仅为19 teraflops,而今天Blackwell的计算能力已经达到了 20000 teraflops。         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/2805.html

分享给朋友:

“英伟达“最强AI芯片”炸裂全场!业内惊呼:新的摩尔定律诞生” 的相关文章

中信证券:美股长牛终结,开启衰退交易

激石Pepperstone(http://www.paraat.net/)报道: 高通胀、货币紧缩叠加衰退担忧已终结美股13年的长牛,随着基本面的恶化,下半年美股料将持续陷入“衰退交易”。基本面来看,近期美国消费者信心已降至历史最低、个人储蓄率也回落到金融危机期间水平;2季度起,已...

最高1050美元!为对抗通胀,美国加州向公众发放补贴

最高1050美元!为对抗通胀,美国加州向公众发放补贴

激石Pepperstone(http://www.paraat.net/)报道:今年秋天,美国加州将向2300万居民发放高达1050美元的“通货膨胀救济”支票,以帮助减轻40年来最高通胀给美国人带来的经济负担。 “加州的预算解决了该州最紧迫的需求,”加州州长Gavin Newsom周日在与州议员的一...

A股冲高回落!锂电股上冲 电力、稀土震荡走强 食品饮料、猪肉股疲软

A股冲高回落!锂电股上冲 电力、稀土震荡走强 食品饮料、猪肉股疲软

激石Pepperstone(http://www.paraat.net/)报道:7月5日周二,三大指数高开后冲高回落。其中创业板指一度涨逾1%,随后下行翻绿。 截至发稿,沪指涨0.10%,深成指跌0.45%,创业板指跌0.55%。 盘面上,锂电板块活跃,电力、稀土震荡走强,煤炭板块走高,旅游酒店、...

A股走势分化 半导体、风电强势冲高 旅游、煤炭板块领跌

A股走势分化 半导体、风电强势冲高 旅游、煤炭板块领跌

激石Pepperstone(http://www.paraat.net/)报道:7月6日周三,A股三大指数涨跌不一,沪指小幅低开,创业板指收复上日失地。 截至目前,沪指跌0.44%,深成指涨0.14%,创业板指涨1.03%。 今日开盘,宁德时代、迈瑞医疗、亿纬锂能、阳光电源集体发力,创业板收复上日...

美债收益率大跌,关键曲线再度倒挂,“衰退风向标”狂闪

美债收益率大跌,关键曲线再度倒挂,“衰退风向标”狂闪

激石Pepperstone(http://www.paraat.net/)报道:美国债券市场发出了警告信号,投资者纷纷涌入避险资产,这表明对潜在经济衰退的担忧已笼罩全球市场。 昨日交易盘中,美国债券市场出现剧烈波动,美国10年期国债收益率大跌6个基点,今年第三次和2年期美债收益率出现倒挂。 10年期...

如何理解本轮政策的新焦点:政策性、开发性金融

激石Pepperstone(http://www.paraat.net/)报道: 6月29日国务院常务会议决定,运用政策性、开发性金融工具,补充包括新型基础设施在内的重大项目资本金、或为专项债项目资本金搭桥。考虑到此前调增政策性银行8000亿元信贷额度,不难看出本轮政策焦点正逐步转移至政策性、开发性...