メディア

MLPerfベンチマーク、Googleが4つで最高スコアを記録：他社も含めスコアが著しく向上（2/2 ページ）

» 2022年07月11日 11時00分公開

NVIDIA

　今回、全8個のベンチマーク全てのスコア結果を提出したのは、唯一NVIDIAだけだった。同社のハードウェアは前回のラウンドと同様に、リスト全体の中で優位性を確保している。提出スコア全体の90％が、NVIDIAおよびパートナー各社が提供するNVIDIA GPUを使用しているという。

　NVIDIAによると、同社のA100は、アクセラレーターチップごとの性能において、全8個のベンチマークのうち6個で最速のスコアを達成したという（RetinaNetはGoogleに、ResNetではHabana Labsに、それぞれ敗北している）

　NVIDIAがA100のスコアを提出したのは、今回で4回目となる。このため、同社がここ数年の間にどれくらいソフトウェア関連の取り組みを進めてきたのかを考察することができる。最も著しい性能向上を達成したのは、A100を活用した「DGX SuperPOD」のDLRM（深層学習レコメンデーションモデル）のスコアで、約6倍の性能向上を実現した。また、「DGX A100」システムは、BERTにおいて2倍強の性能向上を達成した。NVIDIAはこれについて、「CUDAグラフや最適化ライブラリ、高性能前処理、フルスタックネットワークの向上など、大規模な取り組みの成果だ」としている。

NVIDIA、Google、Graphcore、Habana Labsのシステムについて、MLPerfのスコアをベンチマーク別で比較している。緑のグラフがNVIDIA［クリックで拡大］出所：NVIDIA

Graphcore

　Graphcoreは、最新の「Bow IPU」を使用したResNetとBERTのスコアを提出した。ResNetは、MLPerfトレーニングの直近のラウンド（2021年12月）と比較して、システムサイズ全体で約30％高速化し、BERTは約37％高速化している。

　Graphcoreのソフトウェア担当シニアバイスプレジデントを務めるMatt Fyles氏は、「これらのスコアは、アプリケーション層、新しいBowシステムを活用したハードウェア、SDK（ソフトウェア開発キット）レベルでも性能改善を続けているわれわれの取り組みの成果だ」と語った。

ResNetのベンチマークについて、GraphcoreのシステムとNVIDIAおよびHabana Labs（Intel）のシステムを比較した結果［クリックで拡大］出所：Graphcore

【翻訳：田中留美、編集：EE Times Japan】

原文へのリンク

新興企業Syntiant、tinyMLベンチマークで圧勝
エンジニアリングコンソーシアムのMLCommonsが最近、機械学習の業界標準ベンチマーク「MLPerf」の推論（Inference）ラウンドのスコア結果を発表した。MLPerf Tinyでは、米国の新興企業Syntiantが、キーワードスポッティングのレイテンシとエネルギー消費量のベンチマークでトップの座を獲得している。一方NVIDIAとQualcommは、エッジ／データセンターのカテゴリーにおいて再び激しい争いを繰り広げた。
22年Q1半導体メーカーランキング、首位SamsungがIntelとの差広げる
英国の調査会社Omdiaは2022年6月、2022年第1四半期（1～3月）の半導体市場規模は1593億400万米ドルだったと発表した。2021年第4四半期（10～12）月の1593億4700万米ドルから0.03％減と、わずかながら減少した。また、2022年第1四半期の半導体メーカー売上高ランキング（上位10社）も発表し、前四半期に比べ、1位のSamsung Electronicsと2位Intelの売り上げ差が拡大したという。
シングルプロセッサで200億パラメーターを持つAIモデルを学習
Cerebras Systems（以下、Cerebras）は、第2世代のウエハースケールエンジンの能力を披露し、単一デバイスでトレーニングしたAI（人工知能）モデルとして最大記録を樹立したと発表した。
初のWoW技術適用で大幅性能向上、Graphcoreの新IPU
Graphcoreが、第3世代のIPU（Intelligence Processing Unit）を発表した。業界初となる3D Wafer on Wafer（以下、WoW）技術適用のプロセッサだ。
「世界初」3次元Wafer on Wafer技術採用IPUの中身
　Graphcoreは2022年3月、TSMCと連携して開発した3D Wafer on Wafer（以下、WoW）技術を用いたIPU（Intelligence Processing Unit）「Bow IPU」を発表した。3D WoW技術を用いることで、既存製品とほぼ同じ製造コストでありながら処理性能を40％、電力効率を16％それぞれ向上している。今回、同社の日本法人グラフコア・ジャパンがこの新製品の詳細について語った。