マイナビニュースマイナビ
お知らせ
酷似サイトにご注意ください

モデル並列での性能スケーリングを示す。モデル並列は、各層をパイプラインで並列実行することにより、性能を上げている。このグラフは、4層のBERTの性能を示しており、横軸は使用コア数で、1モデルで100Kコアを必要としている。性能は1モデルの場合を1.0として、4モデル並列での性能は3.6程度となっている

916
記事ページに戻る

編集部が選ぶ関連記事

このカテゴリーについて

京をはじめとする日本勢もTOP500に代表されるランキングの上位に多く入ることで注目を集めるほか、人工知能(AI)やディープラーニングでも活用が進むなど、さまざまな用途で活用されるようになったスーパーコンピュータに関わるホットな話題を詳細な説明付きで紹介します。