【环球新要闻】英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型 - 综合 -

当前位置:首页  >  综合  > 正文

【环球新要闻】英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型

【环球新要闻】英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型
2023-06-14 07:34:48 来源:富途牛牛

凭借发布的新品,AMD正式向英伟达的AI芯片王者地位发起挑战。


(相关资料图)

美东时间6月13日周二,AMD举行了新品发布会,其中最重磅的新品当属性用于训练大模型的ADM最先进GPU Instinct MI300。

AMD CEO苏姿丰介绍,生成式AI和大语言模型(LLM)需要电脑的算力和内存大幅提高。她预计,今年,数据中心AI 加速器的市场将达到300亿美元左右,到2027 年将超过1500 亿美元,复合年增长率超过 50%。

苏姿丰演示介绍,AMD的Instinct MI300A号称全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。

它采用CDNA 3 GPU架构和24个Zen 4 CPU内核,配置128GB的HBM3内存。相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在发布会稍早介绍,新的Zen 4c内核比标准的Zen 4内核密度更高,比标准Zen 4的内核小35%,同时保持100%的软件兼容性。

AMD推出一款GPU专用的MI300,即MI300X,该芯片是针对LLM的优化版,拥有192GB的HBM3内存、5.2TB/秒的带宽和 896GB/秒的Infinity Fabric 带宽。AMD将1530亿个晶体管集成在共12个5纳米的小芯片中。

AMD称,MI300X提供的HBM密度最高是英伟达AI芯片H100的2.4倍,其HBM带宽最高是H100的1.6倍。这意味着,AMD的芯片可以运行比英伟达芯片更大的模型。

苏姿丰介绍,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300X可以运行一个参数多达800亿的模型。

LLM需要的GPU更少,给开发者带来的直接好处就是,可以节约成本。

AMD还发布了AMD Instinct 平台,它拥有八个MI300X,采用行业标准OCP设计,提供总计1.5TB 的HBM3 内存。

苏姿丰称,适用于CPU和GPU的版本MI300A现在就已出样,MI300X和八个GPU的Instinct 平台将在今年第三季度出样,第四季度正式推出。

亚马逊、微软、Meta已经或将要运用AMD新品

除了AI芯片,AMD此次发布会还介绍了第四代EPYC(霄龙)处理器,特别是在全球可用的云实例方面的进展。

AMD第四代EPYC(霄龙)在云工作负载的性能是英特尔竞品处理器的1.8倍,在企业工作负载中的处理速度是英特尔竞品的1.9倍。

AMD称,第四代EPYC(霄龙)启用新的Zen 4c内核,比英特尔Xeon 8490H的效率高1.9倍。由于绝大多数AI在CPU上运行,AMD在CPU AI领域具有绝对的领先优势。

亚马逊周二宣布,在用AWS Nitro和第四代EPYC 处理器打造新的实例。亚马逊云的EC2 M7a实例现已提供预览版,性能比M6a实例高50%。

AMD也将在内部工作中运用EC2 M7a实例,包括芯片设计的EDA软件。AMD还宣布,今年7月,甲骨文将推出Genoa E5实例。

AMD发布的EPYC Bergamo处理器是业界首款x86原生CPU,有128个内核,每个插槽256个线程。这意味着一个普通的2U 4 节点平台将有 2048 个线程。

Bergamo比前代Milan的性能高2.5倍,现在就可以向AMD的云客户发货。

Meta的公司代表介绍,Meta在基础设施中使用EPYC处理器。Meta也对基于AMD的处理器设计开源。Meta方面称,计划为其基础设施使用云处理器Bergamo,还要将Bergamo用于其存储平台。

AMD同时推出本周二上市的CPU Genoa-X。它将增加超过1GB 的96核L3缓存。它共有四个SKU,16到 96 个内核。因为SP5插槽兼容,所以它可以与现有的EPYC 平台一起使用。

微软的公司代表和AMD一道展示了微软云Azure HPC的性能,在EPYC处理器的帮助下,Azure四年内的性能提升四倍。

Azure宣布,搭载Genoa-X的HBv4和HX系列实例、以及新的HBv3实例全面上市。Azure还称,性能最高可较市面基准提升5.7倍。

AMD此前通过收购Pensando获得DPU技术。此次AMD称,其P4 DPU架构是世界上最智能的DPU,它能减少数据中心的网络开销,并提高了服务器的可管理性。AMD的Pensando SmartNICs是这种新数据中心架构不可或缺的组成部分。

AMD还提到有自己的AI芯片软件,名为ROCm。AMD总裁Victor Peng称,在构建强大的软件堆栈方面,AMD取得了真正的巨大进步,ROCm软件栈可与模型、库、框架和工具的开放生态系统配合使用。

编辑/jayden

标签:

(责任编辑:news01)
34e是多大_34e 当前焦点

34e是多大_34e 当前焦点

1、下胸围72 5cm~77 5cm,上下胸围之差20cm。本文分享完毕,希望对大家
06-11 10:46:13
关于铁路计次票、定期票 如何购买使用|每日热闻

关于铁路计次票、定期票 如何购买使用|每日热闻

为进一步方便城市间人员乘车往来交流,满足广大旅客差异化出行需求,国
06-11 09:55:03
95汽油1吨等于多少升_1吨等于多少升 世界观速讯

95汽油1吨等于多少升_1吨等于多少升 世界观速讯

1、吨是重量单位,升是体积单位,没有办法直接换算。2、只有知道了某种
06-11 09:49:54
人工智能冲击:美国5月失业岗位近4000个 全球实时

人工智能冲击:美国5月失业岗位近4000个 全球实时

IT采购网6月5日消息,美国一家人才流动咨询公司Challenger,Gray&Christ
06-11 08:19:07
2023年第三期和第四期储蓄国债(电子式)今日发行 五年期票面利率3.07%_环球热资讯

2023年第三期和第四期储蓄国债(电子式)今日发行 五年期票面利率3.07%_环球热资讯

此外,值得关注的是,两期国债发行期内不得提前兑取,发行期结束后可提
06-11 07:36:37
焦点资讯:展现“艺科融合”创作实践,清华美院本科生毕业作品展揭幕!

焦点资讯:展现“艺科融合”创作实践,清华美院本科生毕业作品展揭幕!

展现“艺科融合”创作实践,清华美院本科生毕业作品展揭幕!6月9日,清
06-11 07:00:56
表格合计怎么算总和公式中间有不计入总和数据(表格合计怎么算总和)

表格合计怎么算总和公式中间有不计入总和数据(表格合计怎么算总和)

来为大家解答以上的问题。表格合计怎么算总和公式中间有不计入总和数据
06-11 06:21:27
C视频丨四川这5处世界遗产,你打卡过几个?丨文化和自然遗产日 全球实时

C视频丨四川这5处世界遗产,你打卡过几个?丨文化和自然遗产日 全球实时

四川这5处世界遗产,你打卡过几个?
06-11 06:08:42
多措并举促进应届高校毕业生就业 网络招聘活动忙

多措并举促进应届高校毕业生就业 网络招聘活动忙

近日,国家大学生就业服务平台推出“电子商务行业面向2023届高校毕业生
06-11 05:08:04
恭喜梅西!迈阿密新阵容曝光,球王新位置出人意料,冲第八座金球

恭喜梅西!迈阿密新阵容曝光,球王新位置出人意料,冲第八座金球

在梅西官宣加盟了迈阿密国际之后,大家也知道下赛季大家将会看到一个养
06-11 04:08:57
苦参洗液功效与作用及禁忌_苦参洗液功效与作用

苦参洗液功效与作用及禁忌_苦参洗液功效与作用

1、病情分析:苦参洗剂具有清热解毒、利水止痒、祛风杀虫、杀菌的功效
06-11 04:04:18
今年雪糕价格如何?3至5元仍是主流_天天新资讯

今年雪糕价格如何?3至5元仍是主流_天天新资讯

炎炎夏日,冰激凌开始进入销售旺季。去年,由于价格过高,“雪糕刺客”
06-11 03:23:15
三人团伙流窜多省数次抢劫,潜江公安千里追缉将人抓获-天天快播报

三人团伙流窜多省数次抢劫,潜江公安千里追缉将人抓获-天天快播报

三人团伙流窜多省数次抢劫,潜江公安千里追缉将人抓获---6月8日,随着
06-11 02:10:32
厦门推出今年第二批商住用地 计划本月底拍卖出让|全球速看料

厦门推出今年第二批商住用地 计划本月底拍卖出让|全球速看料

昨日,厦门市自然资源和规划局发布公告,计划于6月30日拍卖出让2023年
06-11 01:53:54
美债野蛮生长 国防开支节节攀升

美债野蛮生长 国防开支节节攀升

美国《华尔街日报》7日报道,美国财政部将在4个月内发行8500亿美元国债
06-11 01:52:20
“快闪”表演、政策咨询……“12367”移民管理品牌宣传进社区文明实践活动举行

“快闪”表演、政策咨询……“12367”移民管理品牌宣传进社区文明实践活动举行

作为新时代文明实践活动践行者,上海边检机关组织“东方国门”文艺宣传
06-11 00:38:35
2023年湖南省地质灾害精准转移避险演练在岳阳举行-世界头条

2023年湖南省地质灾害精准转移避险演练在岳阳举行-世界头条

2023年湖南省地质灾害精准转移避险演练在岳阳举行6月10日,“生命至上
06-10 23:47:58
焦点资讯:《人民公安报》刊发丨道县破获部督特大危害国家重点保护植物案

焦点资讯:《人民公安报》刊发丨道县破获部督特大危害国家重点保护植物案

《人民公安报》刊发丨道县破获部督特大危害国家重点保护植物案【编者按
06-10 23:36:21
如何查询苹果手机是不是翻新机子(如何查询苹果手机是不是翻新机)

如何查询苹果手机是不是翻新机子(如何查询苹果手机是不是翻新机)

1、提供iPhone序列号便知……。本文就为大家分享到这里,希望小伙伴们
06-10 22:38:55
华润集团发声明:“海外华润CRC”等非集团投资公司

华润集团发声明:“海外华润CRC”等非集团投资公司

6月9日,华润(集团)有限公司发布声明称,近日,公司发现有商号以“顶
06-10 22:32:29
散水模板工程量怎么计算(算混凝土工程量散水怎么计算)

散水模板工程量怎么计算(算混凝土工程量散水怎么计算)

来为大家解答以上的问题。散水模板工程量怎么计算,算混凝土工程量散水
06-10 21:16:01
猪饲料一袋多少斤(猪饲料包装规格有多少斤)|环球热消息

猪饲料一袋多少斤(猪饲料包装规格有多少斤)|环球热消息

猪饲料包装规格介绍猪饲料是养殖场中不可或缺的配套设备,它能够为猪提
06-10 20:29:00
今天打开个税APP,我直接人麻了!

今天打开个税APP,我直接人麻了!

点击上方“码农突围”,马上关注这里是码农充电第一站,回复“666”,
06-10 19:15:32
声援传奇,米兰中场阿德利晒出马尔蒂尼获欧洲最佳经理人奖项照片

声援传奇,米兰中场阿德利晒出马尔蒂尼获欧洲最佳经理人奖项照片

直播吧6月6日讯对于米兰老板解雇马尔蒂尼和马萨拉的决定,红黑军团中场
06-10 18:50:25
白鹅潭万象城奠基开工 广州三大地标综合体两个已官宣 全球要闻

白鹅潭万象城奠基开工 广州三大地标综合体两个已官宣 全球要闻

6月9日,广州白鹅潭万象城举行奠基暨动工仪式,标志着广州首座万象城建
06-10 17:44:48
微信号注册小号怎么弄(微信号注册)

微信号注册小号怎么弄(微信号注册)

来为大家解答以上问题,微信号注册小号怎么弄,微信号注册很多人还不知
06-10 16:33:41
一路亏损,拼多多为何还能“支棱”起来?|今日报

一路亏损,拼多多为何还能“支棱”起来?|今日报

拼多多进军“五环内”,与阿里、京东争夺存量份额,带来了一个连锁反应
06-10 15:42:53
今日播报!怎么查高考生录取状态_怎么查高考录取状态_世界快看点

今日播报!怎么查高考生录取状态_怎么查高考录取状态_世界快看点

(相关资料图)你们好,最近小活发现有诸多的小伙伴们对于怎么查高考生录
06-10 14:34:32
当前消息!河南省商城县发布高温橙色预警

当前消息!河南省商城县发布高温橙色预警

商城县气象台2023年6月10日10时40分发布高温橙色预警信号:预计未来24
06-10 13:37:52
世界微速讯:怎么把牌飞出去(如何把牌飞回来)

世界微速讯:怎么把牌飞出去(如何把牌飞回来)

首先,飞纸牌的关键是手法,很多人在刚开始飞的时候总喜欢夹着一张牌,
06-10 12:48:29

为您推荐

精彩推送