「PIMの可能性を広げる」、Samsung：各種AI用途に向けて（2/2 ページ）

Samsung Electronics（以下、Samsung）は、PIM（Processing-in-Memory）を主流派の技術へと推進していく上で、新たなステップの実現を発表した。同社は2021年初めに、PIM技術を他の種類のメモリに統合するという構想の一環として、業界で初めて、PIM対応のHBM（High Bandwidth Memory）である「HBM-PIM」を、商用化されたアクセラレーターシステムに統合することに成功している。

[Gary Hilson，EE Times]

DRAMモジュールに処理性能を持たせる「AXDIMM」

　またSamsungは、HBM以外にもPIMの応用を考えている。Kim氏は、「PIMを使ってDRAMモジュールそのものに処理性能を提供する、『AXDIMM（Acceleration DIMM）』を実現した。CPUとDRAM間の大規模なデータ移動を最小限に抑えることにより、AIアクセラレーターシステムのエネルギー効率を高めることが可能だ。AIエンジンはバッファチップに搭載されているため、AXDIMMは、たった1つのランクに同時アクセスするのではなく、複数のメモリランク（DRAMチップセット）の並列処理を実行することが可能だ」と述べる。

AXDIMMは、HBM-PIMと同様に、システムを変更せずにDRAMの代替品としてドロップインすることができ、バッファチップ内にAIエンジンを内蔵し複数のメモリランクの並列処理を実行する　出典：Samsung Electronics

　「われわれが目指しているのは、従来型のフォームファクターを維持することにより、AXDIMMをシステムを修正、変更することなく代替として投入できるようにすることだ。また、必要なソフトウェアスタックとして、例えばPython APIや、ライブラリ、デバイスドライバなどを提供することにより、高い処理帯域幅とメモリ容量の両方を必要とする深層学習レコメンデーションモデルなどの用途向けのアクセラレーションをサポートできる」（Kim氏）

　また同氏は、「現在、顧客のサーバ環境で試験を進めているところだが、AIベースのレコメンデーションアプリケーションの性能を2倍に高め、システム全体のエネルギー使用量を40％削減できることが明らかになった」と述べる。

　SamsungのPIM技術は、さらに広範なターゲット用途として、HBM3や、DIMM-DDR5、GDDR6、LPDDR5などのさまざまな種類のDRAMで複数の機能をサポート可能なユニットを作成するという。Kim氏は、「LPDDR5は、さまざまな種類のエンドポイントデバイスにAIを導入できるようサポートすることができ、データセンターへのアクセスは不要だ。LPDDR5-PIMのシミュレーションテストを実施したところ、音声認識や翻訳、チャットボットなどのアプリケーションで使用した場合、エネルギー使用量を60％以上削減しながら、2倍を超える性能向上を実現することができた」と述べている。

TECHnalysis Researchのプレジデント兼チーフアナリスト、Bob O'Donnell氏　出典：Technalysis Research

　TECHnalysis Researchのプレジデント兼チーフアナリストを務めるBob O'Donnell氏は、「PIMのコンセプトそのものは以前から存在していたが、今回SamsungがAquaboltの開発によって実現した成果は、一部のコンピュータ環境において、選択肢の幅を広げることになる。しかし今のところ、何らかのソフトウェアサポートを必要とする、特定の推論ワークロード向けとして機能するようだ。既存のソリューションに対して、性能や電力などの面で素晴らしい数値を達成するなど、非常に興味深い概念だといえるだろう」と述べる。

　「ソフトウェア変更が必要になる可能性は避けられない。新しいチップアーキテクチャには付き物であるためだ。通常、既存のソフトウェアで実行できるものには限りがある。SamsungのHBM2-PIMにとって、飛躍的な性能向上というメリットをうまく利用する上で、大量の再コンパイルを実行しなければならないという点が、弱点になる可能性がある。このような限界について考慮しても、商用化に向けて大きく一歩近づいたといえるのではないか」（O'Donnell氏）

【翻訳：田中留美、編集：EE Times Japan】