お知らせ: 酷似サイトにご注意ください

連載

Tensorコアの演算方法

内積の計算をFP32で行った場合、TensorコアでFP16積とFP32加算で行った場合、FP16で行った場合の誤差の範囲をエラーバーで示している。入力は同じFP16であるが加算をFP32で行うTensorコアの演算は、すべてをFP16で行う計算より誤差が小さい

56

記事ページに戻る

編集部が選ぶ関連記事

アクセスランキング

ランキングをもっと見る

もっと見る

このカテゴリーについて

京をはじめとする日本勢もTOP500に代表されるランキングの上位に多く入ることで注目を集めるほか、人工知能(AI)やディープラーニングでも活用が進むなど、さまざまな用途で活用されるようになったスーパーコンピュータに関わるホットな話題を詳細な説明付きで紹介します。