マイナビニュースマイナビ
お知らせ
酷似サイトにご注意ください

ResNet-50をFP32で計算した場合のAccuracyは75.7%であった。これに対して、Goyaでint8で計算するとAccuracyは75.3%で0.4%低下した。しかし、これは僅かなロスである。Goyaでint16で計算した場合はロスは発生しなかった

59
記事ページに戻る

編集部が選ぶ関連記事

このカテゴリーについて

京をはじめとする日本勢もTOP500に代表されるランキングの上位に多く入ることで注目を集めるほか、人工知能(AI)やディープラーニングでも活用が進むなど、さまざまな用途で活用されるようになったスーパーコンピュータに関わるホットな話題を詳細な説明付きで紹介します。