米デル・テクノロジーズは4月9日(現地時間)、インテル Gaudi3 AIアクセラレーターを搭載した「Dell PowerEdge XE9680」を発表した。同製品シリーズはAI、生成AI、機械学習、ディープラーニングトレーニング、HPCモデリングの高速化などに適して改良されてきた。今回、インテル Gaudi3 AIアクセラレーターがラインアップに加わったことで、複雑なデータ集約型ワークロードに対する要望を満たすよう設計された技術的機能を提供するとしている。
PowerEdge XE9680は、x86サーバアーキテクチャーと8-way GPUアクセラレーションを統合したプラットフォームで、AI中心の運用環境におけるパフォーマンスの高さを特長とする。インテル Gaudi3 AIアクセラレーターにより、特定のコンピューティングニーズ、特に生成AIワークロードのニーズに合わせてシステムをカスタマイズする選択肢を提供する。 サーバ構成にはデータスループットを高める最大32のDDR5メモリーDIMMスロット、16のEDSFF3ストレージドライブ、8つのPCIe Gen 5.0スロットなどが含まれる。最大56コアの第4世代インテル Xeon スケーラブルプロセッサー2基を搭載し、機械学習ワークロードやデータ処理などに性能を発揮するという。
インテル Gaudi3 AIアクセラレーターは、64個のカスタム / プログラム可能なTensorプロセッサー コア(TPC)、128ギガバイトのHBMe2メモリー容量、3.7テラバイトのメモリ帯域幅、96メガバイトのオンボード スタティックRAM(SRAM)など、生成AIのワークロードに欠かせないパフォーマンスのための機能を提供。オープンエコシステムはパートナーシップによって最適化され、モデルライブラリの堅牢なフレームワークによりサポートされる。
今回発表したPowerEdge XE9680では、6つのOSFP 800GbEポートを介してアクセラレーターに直接統合された新しいネットワーキング機能が採用されている。これらのリンクによって、システム内に外づけNICを搭載することなく外部アクセラレーターファブリックに直接接続可能。これはインフラストラクチャーを簡素化するだけでなく、TCO(総所有コスト)を削減し、インフラストラクチャーの複雑さ軽減にも寄与する。