AMD推出MI300X,较英伟达H100性能最多提升60%,猛增市场规模预期
激石Pepperstone(http://www.paraat.net/)报道:
周三,AMD发布备受瞩目的全新MI300系列AI芯片,包括MI300A和MI300X芯片,瞄准这一英伟达主导的市场。此类芯片比传统计算机处理器更擅长处理人工智能训练所涉及的大型数据集。
本次新品发布是AMD公司长达50年历史上最重要的一次之一,有望挑战英伟达在炙手可热的人工智能加速器市场上的地位。
AMD发布的新款芯片拥有超过1500亿个晶体管。MI300X加速器支持高达192GB的HBM3存储器。MI300X内存是英伟达H100产品的2.4倍,内存带宽是H100的1.6倍,进一步提升了性能。
MI300X新款芯片较英伟达的H100性能最多可以提升60%。在与H100(Llama 2 70B版本)的一对一比较中,MI300X性能提高了高达20%。在与H100(FlashAttention 2版本)的一对一比较中,性能提高了高达20%。在与H100(Llama 2 70B版本)的8对8服务器比较中,性能提高了高达40%。在与H100(Bloom 176B)的8对8服务器比较中,性能提高了高达60%。
AMD公司CEO 苏姿丰(Lisa Su)表示,新款芯片在训练人工智能软件的能力方面与H100相当,在推理方面,也即软件投入实际使用后运行该软件的过程,要比竞品好得多。
伴随着人工智能的火爆,市场对高端芯片需求量极大。这令芯片制造商们瞄准这一利润丰厚的市场,加快推出高品质的AI芯片。
虽然整个AI芯片市场竞争相当激烈,AMD在周三对未来市场规模给出了大胆惊人的预测,认为AI芯片市场将迅猛扩张。具体来说,预计人工智能(AI)芯片市场的规模到2027年将达到超过4000亿美元,这较其8月时预计的1500亿美元上调将近两倍,凸显人们对人工智能硬件的期望正在快速变化。
AMD越来越有信心其MI300系列能够赢得一些科技巨头的青睐,这可能会让这些公司花费数十亿美元的支出,投向AMD的产品。AMD表示,微软、甲骨文和Meta等都是其客户。
同日消息显示,微软将评估对AMD的AI加速器产品的需求,评估采用该新品的可行性。Meta公司将在数据中心采用AMD新推的MI300X芯片产品。甲骨文表示,公司将在云服务中采用AMD的新款芯片。
此前市场预计AMD的MI300系列在2024年的出货约为30~40万颗,最大客户为微软、谷歌,若非受限台积电CoWoS产能短缺及英伟达早已预订逾四成产能,AMD出货有望再上修。
AMD推出MI300X加速器消息发布后,英伟达股价下跌1.5%。今年英伟达股价暴涨,使其市值超过1万亿美元,但最大的问题是,它还能独享加速器市场多久。AMD看到了属于自己的机会:大型语言模型需要大量计算机内存,而这正是AMD认为自己的优势所在。
为了巩固市场主导地位,英伟达也正在开发自己的下一代芯片。H100将于明年上半年被H200取代,后者于上个月推出,能够提供新型高速内存,在Llama 2上的推理速度比H100快一倍。此外,英伟达将在今年晚些时候推出全新的处理器架构。