Intel、第3世代AIアクセラレータ「Gaudi 3」を正式発表

Intelは4月8日から4月9日にかけて米国アリソナ州フェニックスにおいて開催している「Intel Vision 2024」において、かねてより存在を予告していた同社AIアクセラレータ「Gaudiシリーズ」の第3世代品「Gaudi 3」を正式発表した。

Gaudi 3は5nmプロセスを採用して2つのダイを1パッケージに実装する形で製造され、前世代の7nmプロセス採用の「Gaudi 2」と比べて、FP8で2倍、BF16で4倍のAI演算処理性能を提供するほか、ネットワーク帯域幅を2倍、メモリ帯域幅は1.5倍に拡大するなど、処理能力の高性能化が実現されている。

Gaudi 3とGaudi 2の性能比較 (資料提供:Intel、以下すべて同様)

Gaudiシリーズとしてはすでに次世代品(開発コード名:Falcon Shores)も開発がアナウンスされている

Gaudi 3の概要

そのため同社では、競合製品であるNVIDIAの「H100」と比べて、70億パラメータ、130億パラメータを持つ各Llama2モデル、1750億パラメータのGPT-3モデルを使用した場合の学習処理を平均50％高速化できるとするほか、推論の場合、70億パラメータと700億パラメータのLlamaモデル、1800億パラメータのFalconモデルでH100比で平均50％の高速化、ならびに電力効率を平均40％高めることが期待できるとしている。

Gaudi 3と競合するNVIDIAのH100との性能比較

提供形態としては、OAM(Open Accelerator Module)、OAMを8基搭載したユニバーサルベースボード、そしてPCI Express(PCIe)のアドインカードの3種類を用意。TDPはOAMが900W、PCIeが600Wとしている。

提供形態は3種類

すでにOAMである「HL-325L」の空冷版はサンプル出荷を開始済みで、2024年第2四半期には液冷版のサンプル出荷が開始される予定。また、同第3四半期に空冷版の製品版が、同第4四半期に液冷版の製品版が出荷される予定で、製品版は、Dell Technologies、Hewlett Packard Enterprise(HPE)、Lenovo、SupermicroといったOEMメーカーから出荷される予定だという。