在最新的“Intel Vision 2024”大会上,英特尔CEO帕特·基辛格在台上随着音乐节奏手舞足蹈,亮出了最新AI芯片——Gaudi 3。
现场蹦迪原因为何?
Gaudi 3的性能测试结果显示,训练大模型方面,比英伟达H100快40%;推理大模型方面,比英伟达H100快50%
详细参数
Gaudi 3采用的是台积电5nm工艺,在芯片设计上,Gaudi 3转向了具有两个计算集群的Chiplet的设计,而不是Gaudi 2所采用的单个集群的方案。
Gaudi 3 拥有 8 个矩阵数学引擎、64 个张量内核、96MB SRAM(每个Tile 48MB,可提供12.8 TB/s的总带宽) 和 128 GB HBM2e 内存,16 个 PCIe 5.0 通道和 24 个 200GbE 链路 。
在计算核心的周围,则是八个HBM2e内存堆栈,总容量为128 GB,带宽为3.7 TBps。
不仅如此,虽然基辛格没有在现场给出直接的数据,但他还表示:Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。
英特尔老板半场开香槟
然而,在AI芯片领域,英伟达的技术积累显然更加雄厚,不常关注的朋友可能不了解,H100/200已经是英伟达的上代芯片产品。
在前段时间举办的英伟达GTC大会2024 上,英伟达CEO向世界公布了令人叹为观止的最新产品——B200,其算力性能是20PFlops,足足是H100的4PFlops 的5倍。而B200还能组合成GB200,同样的GPT-3模型基准测试,性能可达H100的7倍还多!
英特尔的Gaudi 3 虽然比起H100 优势卓然,但是相对于英伟达最新的大杀器B200/GB200 仍无法望其项背。