Intelのデータセンタ用推論チップ「Spring Hill」の性能を読み解く

ResNet-50の実行で、10Wの消費電力で3600フレーム/秒の処理を達成した。右の図のように色々な改善の積み上げでこの性能を実現している。この結果，4.8TOPS/Wという目標を達成できた。2ICEに比べて12ICEでは性能が5.85倍になり、ほぼリニアにスケールしている。MLPerf0.5のベンチマーク結果を提出する予定であり、遠からず公表されるはずである