米Intelは4月9日（現地時間）、イベント「Vision 2024」を開催し、その中でAIアクセラレーターの最新モデル「Gaudi 3」を発表した。空冷モデルは2024年第3四半期、液冷モデルは2024年第4四半期の量産開始が予定されている。

Intelの推論向けアクセラレーターとしては「Gaudi 2」の後継モデルにあたる製品。第5世代Tensor Processorを64基搭載し、Matrix Math Engineを8基統合、128GBのHBM2eメモリを組み合わせて3.7TB/sのメモリ間帯域を実現する。

  • インフォグラフィック

製品ラインナップにはアクセラレーターカードである「HL-325L」、これを8基組み合わせたユニバーサルベースボード「HLB-325」、PCIeスロットを用いて利用できる「HL-338」を用意。このうちOAM仕様のHL-325Lでは、最大1,835 TFLOPS（fp8）の推論性能を実現。効率でもNVIDIA H100等の競合製品より優れているとする。

  • カード型も用意される

  • NVIDIA H100比でのLLM性能

  • 600W消費のPCIeカードをデュアルスロット厚で提供（サーバー用）