在人工智能(AI)领域,芯片的性能直接关系到训练和推理的速度与效率。近年来,英伟达凭借其强大的GPU技术在数据中心和AI市场中占据了主导地位。然而,AMD作为另一家芯片巨头,也在不断推出高性能的AI芯片,试图撼动英伟达的市场地位。2024年10月10日,AMD在旧金山举行的…
在人工智能(AI)领域,芯片的性能直接关系到训练和推理的速度与效率。近年来,英伟达凭借其强大的GPU技术在数据中心和AI市场中占据了主导地位。然而,AMD作为另一家芯片巨头,也在不断推出高性能的AI芯片,试图撼动英伟达的市场地位。2024年10月10日,AMD在旧金山举行的Advancing AI 2024大会上发布了一系列AI新品,其中旗舰AI芯片MI325X尤为引人注目。据AMD介绍,MI325X在多项性能指标上超越了英伟达的H200芯片,这无疑是AMD在AI芯片领域的一次重大突破。
AMD MI325X AI芯片介绍
AMD Instinct MI325X是一款专为AI训练和推理设计的GPU加速器。它采用了AMD最新的CDNA 3 GPU架构,内置1530亿个晶体管,配备256GB的HBM3e(第五代)高带宽内存,内存带宽达到6TB/s。在浮点运算方面,MI325X在8位浮点数(FP8)和16位浮点数(FP16)精度下的峰值理论运算性能分别为2.6 PFLOPs(每秒2.6千万亿次浮点运算)和1.3 PFLOPs,比英伟达H200高出约30%。
在发布会上,AMD CEO苏姿丰(Lisa Su)展示了MI325X在Meta Llama模型上的训练和推理性能数据。由8张MI325X组成的服务器平台,在Llama-3.1 405B模型上的推理性能比英伟达H200 HGX平台高出40%;在AI训练上,单张MI325X训练Llama-2 7B的性能为H200的1.1倍,8张MI325X训练Llama-2 70B的性能与H200持平。这些数据充分展示了MI325X在AI训练和推理方面的强大性能。
AMD与英伟达的市场竞争
AMD和英伟达在AI芯片市场的竞争日益激烈。英伟达在2023年11月发布了新一代AI芯片H200,该芯片集成了141GB的内存,更加擅长进行“推理”。H200在用于推理或生成问题答案时,性能较上一代H100提高60%至90%。然而,AMD MI325X的推出,使得英伟达在AI芯片市场的领先地位受到了挑战。
AMD一直致力于提供全套CPU、GPU和网络解决方案来满足现代数据中心的所有需求。MI325X的发布不仅提升了AMD在AI芯片市场的竞争力,还进一步巩固了其在数据中心市场的地位。据AMD介绍,MI325X有望于2024年第四季度投产,并从2025年第一季度开始供货给戴尔、惠普、联想等合作厂商。
电话咨询:86-755-83294757
企业QQ:1668527835/ 2850151598/ 2850151584/ 2850151585
服务时间:9:00-18:00
联系邮箱:chen13410018555@163.com/sales@hkmjd.com
公司地址:广东省深圳市福田区振中路新亚洲国利大厦1239-1241室
CopyRight©2022 版权归明佳达电子公司所有 粤ICP备05062024号-12
官方二维码
友情链接: