転送エネルギー(1ビット当たり)と伝送損失の増加は、システムの消費電力を著しく高めるとともに、システム全体の消費電力コストに占めるネットワークの比率を拡大させる。
講演では、長さ2mの銅ケーブルが1000本以上でGPUが100個以下、200GbpsのSerdes(シリアライザ/デシリアライザ)で構成されるラックの消費電力は150kW以下、ネットワークの消費電力コスト比率は30%以下という従来システムの例をまず示した。
システムをGPUが100個以上、400GbpsのSerdes、長さ1m以下で1万本を超える銅ケーブルという構成に拡張すると、ラックの消費電力は500kW以上、ネットワークの消費電力コスト比率は50%を超える。ラックの消費電力は3.3倍強に増加しており、電力コストがかなり厳しい。
そこで銅ケーブルを光ファイバーケーブルで代替する。長さが10mを超える約1000本の光ファイバーケーブルに置き換えると、消費電力は300kW以下に抑えられる。そしてネットワークの消費電力コスト比率は10%以下と、劇的に低下するとした。
銅ベースのネットワーク大規模化と高速化では消費電力の限界を超えてしまう。左は従来の銅ケーブルによるネットワーク接続の例。中央はネットワークの大規模化と高速化によって消費電力が限界を超えた例。右は光ファイバー接続の導入によって消費電力を抑制した例[クリックで拡大] 出所:TSMC(IEDM 2025のショートコース(番号SC1-5)で公表された講演スライドから)(次回に続く)
⇒「福田昭のストレージ通信」連載バックナンバー一覧
AI/HPCシステムの死命を制する消費電力・放熱設計(後編)
AI/HPCシステムの死命を制する消費電力・放熱設計(前編)
ミニダイ(チップレット)間接続におけるSTCO
インターポーザに複数のシリコンダイを近接して並べる2.5次元集積化
「フラッシュメモリで」AI演算 消費電力はGPU比で1000分の1に
半導体メモリの地域別市場で2番目に大きくなった中国の現状Copyright © ITmedia, Inc. All Rights Reserved.
記事ランキング