超低電圧動作でエネルギー効率を大幅向上、PIM型アクセラレーター：164TOPS/Wを達成

東京科学大学は、推論時のエネルギー効率を飛躍的に高めるプロセッシングインメモリ（PIM）型のニューラルネットワークアクセラレーターマクロを開発した。EMP動作が可能なSRAMを採用し、推論時のエネルギー効率を164TOPS/Wにまで高めた。

[村尾麻悠子，EE Times Japan]

　東京科学大学 総合研究院 未来産業技術研究所の菅原聡准教授と塩津勇作研究員らの研究チームは2025年4月、推論時のエネルギー効率を飛躍的に高めるプロセッシングインメモリ（PIM）型のニューラルネットワーク（NN）アクセラレーターマクロを開発したと発表した。エネルギー最小点（EMP）で動作することでエネルギー効率を最大化するとともに、積和演算（MAC）の並列化により、推論時のエネルギー効率は164TOPS/Wを実現したという。

　PIM型NNアクセラレーターは、バスを介することなくメモリにある重みデータを取り出してMAC演算を行うことで、エネルギー効率を向上させられる。特に、メモリとしてSRAMを用いたPIM型NNアクセラレーターは、ロジックCMOS技術で実装できるので、応用していく上で重要とされている。

　NNアクセラレーターで演算性能を維持したまま省電力化するには、EMPとなる駆動電圧で推論できることが極めて重要になる。CMOSロジックシステムのEMPは0.25〜0.4V程度であることが知られているが、このような低電圧では、SRAMを含む一般的なメモリにおいて動作信頼性を確保することが難しい。そのため、EMPで動作するPIM型NNアクセラレーターの実現は困難だった。

　今回は、研究チームが開発してきた、EMP動作が可能なSRAMを用いてNNアクセラレーターを開発。MAC演算の並列数を増やすことで、EMPをさらに低電圧側にシフトさせ、エネルギー効率を大幅に向上させられるとする。

　研究チームが開発したアクセラレーターマクロは、複数のマクロを組み合わせることで、任意のサイズ／形状のネットワークを実現できる。今回は2値化NN（BNN）で実装した。INT4、INT8用にも構成できるという。

8並列のPIM型BNNアクセラレーターマクロのレイアウト［クリックで拡大］ 出所：東京科学大学

　8並列のPIM型BNNアクセラレーターマクロ（PPIM）を用いて推論動作時の性能評価を行った結果、従来の1並列PIM型マクロ（SPIM）ではEMPは0.4Vだったが、PPIMではEMPは0.275Vにまで低減した。この時、PPIMのエネルギー効率は大幅に増加して、164TOPS/Wに到達したという。

今回開発したマクロにおける動作周波数（緑線）、平均電力（青）、消費エネルギー（赤）、推論時のエネルギー効率（黒）。実線がPPIMで、破線がSPIM［クリックで拡大］ 出所：東京科学大学

　研究チームは今後、MAC演算の並列数をさらに増やしたPIMマクロの他、INT4／INT8対応のPIMマクロ技術、GPUやカスタムプロセッサにも応用できるマクロ技術を開発する予定だ。

　本成果は、IEEEの「IEEE Journal on Exploratory Solid-State Computational Devices and Circuits」に、2025年3月10日付で掲載された。

（※）本記事は制作段階で生成系AIを利用していますが文責は編集部に帰属します（ITmedia AI倫理ポリシー）。