GPUリソースを有効活用し、AI処理などを最短化：処理中にCPUとGPUを使い分け

富士通は、プログラム処理を実行中でもCPUとGPUを使い分けできる「アダプティブGPUアロケーター技術」を開発した。GPUを効率よく利用することで処理時間の短縮が可能となる。同時に、HPCシステム上で複数プログラムの処理をリアルタイムに切り替えて並列処理を行う「インタラクティブHPC技術」も開発した。

[馬本隆綱，EE Times Japan]

複数プログラムの処理をリアルタイムに切り替える技術も

　富士通は2023年11月、プログラム処理を実行中でもCPUとGPUを使い分けできる「アダプティブGPUアロケーター技術」を開発したと発表した。GPUを効率よく利用することで処理時間の短縮が可能となる。同時に、HPCシステム上で複数プログラムの処理をリアルタイムに切り替えて並列処理を行う「インタラクティブHPC技術」も開発した。

　高精度なシミュレーションやAI（人工知能）予測を行うコンピュータでは、GPUを活用し大規模かつ複雑なプログラム処理を高速に実行している。ただ、複数ユーザーがコンピュータを共有して利用するケースでは、計算速度が大幅に低下する可能性もある。

　アダプティブGPUアロケーター技術は、こうした課題を解決するために開発した。例えば、3つのプログラム（その1、その2、その3）をCPU1個、GPU2個で処理する場合、優先度の高いプログラム処理に対し、GPUの計算リソースを効率よく割り当てることができる。

　具体的には、まず「その1」と「その2」のプログラムをGPUに割り振る。その後、CPUに割り当てた「その3」から要求があれば、GPUへの割り当てを「その1」から「その3」に変更し、性能を計測する。この結果、全体の処理時間が短縮できると判断できれば、そのまま変更する。その間に「その2」の処理が完了すれば、再度GPUに「その1」を割り当てるという。

CPUとGPUの割り当て切り替えのイメージ［クリックで拡大］ 出所：富士通

　一方、インタラクティブHPC技術は、複数のコンピュータを協調動作させるHPCシステムにおいて、複数プログラムの処理をリアルタイムに切り替えて、並列処理を可能にする技術である。

　プログラムの実行切り替えでは従来、「ユニキャスト通信」と呼ばれる制御方式を用いていた。この方式では切り替えタイミングにばらつきが生じるため、リアルタイムでプログラム実行を一括切り替えすることが難しかったという。

　今回は、切り替え指示を一斉に通知できる「ブロードキャスト通信」という制御方式を採用した。これにより、プログラムの実行切り替え間隔は、256ノードのHPC環境で100ミリ秒となった。従来方式の切り替え間隔は「秒」単位であり、大幅な短縮が可能となった。

　もちろん、ユニキャスト通信には、通信の到達性が保証されるなどの特長もあり、用途に応じて最適な通信方式を選択することができるという。

プログラムの実行切り替えに用いる通信方式の違い［クリックで拡大］ 出所：富士通

　富士通は今後、「Fujitsu Kozuchi（code name）-Fujitsu AI Platform」にアダプティブGPUアロケーター技術を、40量子ビットの量子コンピュータシミュレーターにインタラクティブHPC技術を、それぞれ適用していく予定である。さらに、「Fujitsu Computing as a Service HPC」やComposable Disaggregated Infrastructure（CDI）アーキテクチャへの適用も検討していく。