英特尔Gaudi2处理器上市

英特尔公司于7月11日推出了全新的Gaudi2处理器，这款处理器主要面向中国市场，主要用于加速人工智能（AI）的训练和推理。 Gaudi2处理器的主要参数包括24个可编程的Tensor处理器核心（TPCs）、21个Gbps（RoCEv2）以太网接口、96GB HBM2E内存容量、2.4TB/秒的总内存带宽、48MB片上SRAM以及集成的多媒体处理引擎。该处理器的架构重点在于高效扩展，以满足大规模语言模型和生成式AI模型的需求。每张芯片都集成了21个专用于内部互联的100Gbps以太网接口。 在Stable Diffusion训练上，Gaudi2处理器展示了从1张卡到64张卡近线性99%的扩展性，从256个加速器到384个加速器可实现接近线性的95%扩展效果。 此外，英特尔与浪潮信息合作的AI服务器NF5698G7就是基于Gaudi2处理器。NF5698G7是专为面向生成式AI市场创新开发的新一代AI服务器，该服务器内部集成了8颗Gaudi2加速卡HL-225B。