「PIMの可能性を広げる」、Samsung：各種AI用途に向けて（1/2 ページ）

[Gary Hilson，EE Times]

　Samsung Electronics（以下、Samsung）は、PIM（Processing-in-Memory）を主流派の技術へと推進していく上で、新たなステップの実現を発表した。同社は2021年初めに、PIM技術を他の種類のメモリに統合するという構想の一環として、業界で初めて、PIM対応のHBM（High Bandwidth Memory）である「HBM-PIM」を、商用化されたアクセラレーターシステムに統合することに成功している。

AIアクセラレーターの性能を向上

　Samsungは同時期に、「HBM2 Aquabolt」にAI（人工知能）処理機能を統合した「Aquabolt-XL」を発表しているが、今回「Hot Chips 33」（2021年8月22〜24日）において、それをベースとした最新のPIM技術に関する技術進展を明らかにした。まず、Xilinxの「Virtex UltraScale+」ベースのAIアクセラレーターカード「Alveo」にHBM-PIMを搭載する試験を行ったところ、システム性能は約2.5倍に向上し、エネルギー消費量を60％以上削減することができたという。

Samsungのメモリビジネス部門担当シニアバイスプレジデント、Nam Sung Kim氏

　Samsungのメモリビジネス部門担当シニアバイスプレジデントを務めるNam Sung Kim氏は、Hot Chips 33に先立って行われたメディアやアナリスト向けのプレブリーフィングにおいて、HBM2-PIMを搭載したAquabolt-XLを、機械学習アクセラレーターをはじめとするさまざまなAI用途向けとして使用することについて、同社の見解を説明した。

　同氏は、「メモリ帯域需要は現在、台頭している機械学習／AIアプリケーション向けに急激に拡大している。さまざまな物理的制約や容量制約が存在するため、コストが上昇し、消費電力量も増大している。PCBワイヤや半導体パッケージの数が限られている上、こうした半導体パッケージには電力などのさまざまな制約があることから、帯域幅を拡大し続けていくことは、コストも高く非常に難しい」と述べている。

　Kim氏は、「PIMは、プロセッサをメモリに近接させることにより、メモリ限界ワークロードの性能とエネルギー効率を高めることが可能だ。PIM自体は、決して新しいアイデアではないが、業界への幅広い普及を阻む重大な障壁となっているのが、ホストプロセッサやアプリケーションコードを変更する必要があるという点だ」と説明する。

　「Aquabolt-XLはこのような障壁に対応すべく、HBM2のドロップイン置換品となるよう設計されている他、JEDEC準拠のHBM2メモリコントローラーとの完全な互換性を確保している。また、われわれが提供するソフトウェアソリューションにより、TensorFlowベースのコードであれば、アプリケーションソースコードの変更は不要だ。実際、Aquabolt-XLを統合した商用プロセッサを、TensorFlowベースのコードを変更せずに動作させるデモを披露した」（同氏）

　同氏は、「Aquabolt-XLは、音声認識や自然言語処理のような、演算強度が低いメモリ限界ワークロードの実現を目指す。しかし、AIアクセラレーターと競合するわけではない。プロセッサの計算能力を補完できるよう設計しているので、幅広いワークロードのシステムで性能と効率を向上させることが可能だ」と続けた。

Aquabolt-XL HBM2-PIMは、HBM2の代替品として設計されており、JEDECに準拠したHBM2メモリコントローラーと完全な互換性がある　出典：Samsung Electronics