英特尔近日正式推出用于AI工作负载的Gaudi3加速器。
9月28日消息，英特尔近日正式推出用于AI工作负载的Gaudi3加速器。新芯片的速度比英伟达广受欢迎的H100和H200 GPU（用于AI和HPC）要慢，因此英特尔将其Gaudi3的成功押注于其较低的价格和较低的总拥有成本(TCO)。
英特尔的Gaudi3处理器使用两个芯片，包含64个张量处理器核心（TPC，带有FP32累加器的256x256 MAC结构）、8个矩阵乘法引擎（MME，256位宽矢量处理器）和96MB片上SRAM缓存，带宽为19.2TB/s。此外，Gaudi3集成24个200GbE网络接口和14个媒体引擎，后者能够处理H.265、H.264、JPEG和VP9，以支持视觉处理。该处理器配备128GB HBM2E内存，分为八个内存堆栈，可提供3.67TB/s的巨量带宽。
在性能方面，英特尔表示，Gaudi3可以提供高达1856 BF16/FP8矩阵TFLOPS以及高达28.7 BF16矢量TFLOPS，TDP约为600W。与英伟达的H100相比，至少在明面上，Gaudi3的BF16矩阵性能略低（1,856 vs 1,979 TFLOPS），FP8矩阵性能低两倍（1,856 vs 3,958 TFLOPS），BF16矢量性能明显较低（28.7 vs 1,979 TFLOPS）。
比原始规格更重要的是Gaudi3的实际性能。它需要与AMD的Instinct MI300系列以及英伟达的H100和B100/B200芯片竞争。这还有待观察，因为很大程度上取决于软件和其他因素。目前，英特尔展示了一些幻灯片，声称与英伟达的H100相比，Gaudi3可以提供显著的性价比优势。
电话咨询：86-755-83294757
企业QQ：1668527835/ 2850151598/ 2850151584/ 2850151585
服务时间：9:00-18:00
联系邮箱：chen13410018555@163.com/sales@hkmjd.com
公司地址：广东省深圳市福田区振中路新亚洲国利大厦1239-1241室
CopyRight©2022 版权归明佳达电子公司所有 粤ICP备05062024号-12
官方二维码
友情链接:
最新资讯
