当前位置:首页 > 外汇资讯 > 正文内容

英伟达“最强AI芯片”炸裂全场!业内惊呼:新的摩尔定律诞生

激石外汇2024-03-19 12:00:14外汇资讯267

激石Pepperstone(http://www.paraat.net/)报道:

“最强AI芯片” Blackwell B200 GPU的高调发布,已不单单是稳固英伟达在芯片领域的王者地位,更是让业内人士高呼:新的摩尔定律诞生!

在隔夜的2024 GTC大会上,黄仁勋介绍了运行AI模型的新一代芯片和软件。他表示,新一代的B200 GPU拥有2080亿个晶体管,可以提供高达20 petaflops的FP4性能。相比之下,H100仅为4 petaflops。

此外,将两个B200 GPU与单个Grace CPU 结合在一起的 GB200,可以为LLM推理工作负载提供30倍的性能,并且显著提高效率。

黄仁勋还强调称:“与H100相比,GB200的成本和能耗降低了25倍!

关于市场近期颇为关注的能源消耗问题,B200 GPU也交出了最新的答卷。

黄仁勋表示,此前训练一个1.8 万亿参数模型,需要8000 个 Hopper GPU 并消耗15 MW电力。但如今,2000 个 Blackwell GPU就可以实现这一目标,耗电量仅为4MW。

在拥有1750亿参数的GPT-3大模型基准测试中,GB200的性能是H100的7倍,训练速度是H100的4倍。

值得一提的是,B200 GPU的重要进步之一,是采用了第二代Transformer引擎。

它通过对每个神经元使用4位(20 petaflops FP4)而不是8位,直接将计算能力、带宽和模型参数规模翻了一倍。

而只有当这些大量的GPU连接在一起时,第二个重要区别才会显现,那就是新一代NVLink交换机可以让576个GPU相互通信,双向带宽高达1.8TB/秒。

而这就需要英伟达构建一个全新的网络交换芯片,其中包括500亿个晶体管和一些自己的板载计算:拥有3.6 teraflops FP8处理能力。

在此之前,仅16个GPU组成的集群,就会耗费60%的时间用于相互通信,只有40%的时间能用于实际计算。

一石激起千层浪,“最强AI芯片”的推出让网友纷纷赞叹。

其中英伟达高级科学家Jim Fan直呼:Blackwell新王诞生,新的摩尔定律已经应运而生。

DGX Grace-Blackwell GB200:单个机架的计算能力超过1 Exaflop。

黄仁勋交付给OpenAI的第一台DGX是0.17 Petaflops。

GPT-4的1.8T参数可在2000个Blackwell上完成90天的训练。

还有网友感叹:1000倍成就达成!

Blackwell标志着在短短8年内,Nvidia AI 芯片的计算能力实现了提升1000倍的历史性成就。

2016 年,“Pascal”芯片的计算能力仅为19 teraflops,而今天Blackwell的计算能力已经达到了 20000 teraflops。         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:http://www.paraat.net/news/2805.html

分享给朋友:

“英伟达“最强AI芯片”炸裂全场!业内惊呼:新的摩尔定律诞生” 的相关文章

赛道Hyper | 腾讯云上“造车”

激石Pepperstone(http://www.paraat.net/)报道:今年是腾讯启动车联网业务的第五年,腾讯仍坚持不造车,只行“云”。 在早期,腾讯从车联网和智能座舱业务起步,到了现阶段,开始发力To B云端服务:为汽车行业提供低门槛的定制化平台与工具链——被纳入6月24日发布的“车云一体...

衰退+加息=美国违约飙升?大摩:更紧迫的是评级下调潮

衰退+加息=美国违约飙升?大摩:更紧迫的是评级下调潮

激石Pepperstone(http://www.paraat.net/)报道:摩根士丹利警告称,随着全球经济衰退的到来,企业违约率可能会上升,但债券评级下调是更值得警惕的风险。 周日,摩根士丹利在最新研报中指出,综合对欧元区衰退的最新预测、疲软的经济数据以及对美国第一季度GDP的修正,该机构的美国...

热热热!6月全国平均气温,创1961年以来同期新高!7月会不会更热?

热热热!6月全国平均气温,创1961年以来同期新高!7月会不会更热?

激石Pepperstone(http://www.paraat.net/)报道:中国气象局应急减灾与公共服务司副司长王亚伟5日在中国气象局新闻发布会上表示,6月全国降水偏多、气温创历史同期新高。预计7月,除华南、西南地区东南部、华东南部局部气温较常年同期偏低外,全国其余地区气温接近常年同期到偏高。...

住房市场降温!美国房租高增长戛然而止

激石Pepperstone(http://www.paraat.net/)报道:夏季往往是美国租金高峰,但随着飙升的通胀和经济衰退前景不断“侵蚀”美国人的支出能力,美国租赁市场出现显著降温。 美国长租平台Zumper提供的数据显示,美国6月份全国一居室公寓的租金中值同比飙升11.4%,但环比增幅仅为...

衰退交易下大宗商品惨跌,对冲基金纷纷“多翻空”

激石Pepperstone(http://www.paraat.net/)报道:随着全球主要央行在紧缩道路上渐行渐远,股票、加密货币等风险资产首当其冲承受暴击。现在当市场担心更高的借贷成本将带来衰退阴霾后,最新的炮火已经转向了大宗商品,需求疲软的预期致使其价格正在从历史高位暴跌。 继WTI原油周二“...

电动车突破千万辆大关,保有量占比将成为下个首要目标

电动车突破千万辆大关,保有量占比将成为下个首要目标

激石Pepperstone(http://www.paraat.net/)报道:我国新能源汽车的发展随着6月电动车销量的爆发顺利进入了新的阶段,根据7月6日公安部的最新统计数据,截至2022年6月底,我国全国新能源汽车保有量达到1001万辆,其中,今年上半年我国新注册登记的新能源汽车就高达220.9...