MLPerfでのAIアクセラレータ
Google Celebrates MLPerf Training Wins (EETIMES)より。
MLPerfは機械学習の処理性能を図るベンチマークである。今回、MLCommonsはMLPerf Training v2.0の結果を公表した。ちなみに、MLCommonsはベンチマーク仕様策定や結果の集約などを管理する団体である。MLPerfにはTraining, Inferenceなど複数のカテゴリからなり、各カテゴリー別に年1~2回ベンチマーク結果が公表される。
今回のMLPerf Trainingでは、250以上の測定結果が登録された。登録者には 21団体におよび、 Azure, Baidu, Dell, Fujitsu, GIGABYTE, Google, Graphcore, HPE, Inspur, Intel-HabanaLabs, Lenovo, Nettrix, NVIDIA, Samsung, Supermicro などが含まれる。
その中で大きな割合を占めるのがGPU搭載マシンだが、AIアクセラレータも存在感を増している。
- Google TPU V4 (~4096 TPU)
- Graphcore Bow IPU (~Bow-Pod256、GrpahcoreとBaiduから登録あり)
- Habana Gaudi (~256 Gaudi, Intel-HanabaLabsとSupermicroから登録あり)
- Habana Gaudi2 (8 Gaudi2, Intel-HabanaLabs)