IBMとAMDは11月18日(米国時間)、IBM CloudにAMDのAIアクセラレータ「Instinct MI300X」を導入するための協業を発表した。

  • AMD Instinct MI300X

    AMD Instinct MI300X (C)AMD

Instinct MI300Xは、192GBという大容量のHBM3を搭載したAIアクセラレータで、最大規模のモデル推論と微調整(ファイン・チューニング)をサポートするほか、推論コストの削減も期待されている。IBMでは、IBM Cloud Virtual Servers for VPC上のサービスとしてInstinct MI300Xを提供し、IBM Cloud Kubernetes ServiceとIBM Red Hat OpenShift on IBM Cloudによるコンテナ・サポートを利用することで、AIアプリケーションを実行する企業のパフォーマンスを最適化することを目指すとしている。

主に生成AIの推論ワークロード向けに、AIおよびデータのプラットフォームである「IBM watsonx」上でInstinct MI300Xをサポートする計画で、AMD ROCmソフトウェアと組み合わせることで、IBM watsonx AI、Red Hat Enterprise Linux AI、Red Hat OpenShift AIプラットフォームなどの幅広いサポートを提供するとしている。

この記事は
Members+会員の方のみ御覧いただけます

ログイン/無料会員登録

会員サービスの詳細はこちら