AIシステムの「メモリの障壁」を取り除く MRAMで挑む米新興：省電力で実装面積も縮小（1/2 ページ）

米スタートアップのNumemは、MRAMベースの同社のメモリ「NuRAM」によって、AIシステムにおけるメモリのボトルネックを解消しようと取り組んでいる。

[Filippo Di Giovanni，EE Times/embedded.com]

AIにおけるメモリチップの役割

　メモリは、AIの学習性能やコンテキスト認識、意思決定、カスタマイズ、効率性などに大きな影響を及ぼす。どのAIシステムも、保存可能なデータの品質や量に依存しており、過去のやりとりやコンテキストを記憶することで、ユーザー入力に対して正確に理解／応答する必要がある。AIはメモリを利用して、過去の経験や情報を保持し、それを使って意思決定を行うことができる。効率性に優れたメモリは、AIアプリケーションの速度と信頼性を向上させることができる。

　AIシステムでは、DRAMとSRAMの両方が使われる。DRAMは、AIモデルのトレーニング向けとして大量のデータセットを保存し、推論中の中間データを保持する。SRAMはこれとは逆に、CPU／GPUのキャッシュメモリのような高速メモリアプリケーション向けに使われる。DRAMよりもアクセス時間が速くレイテンシが低いため、定期的にアクセスされるデータや計算中の中間結果などを保存するのに最も適している。

　米国カリフォルニア州サニーベールに拠点を置くNumemは、高性能メモリ技術を専業とするスタートアップだ。同社が開発している「NuRAM」や「SmartMem Subsystem IP（以下、SmartMem）」、メモリチップ／チップレットなどの低消費電力メモリソリューションは、ネットワークエッジに配置されたデバイス／システムなどのエッジノードや、データセンターのアプリケーション向けに、電力効率／性能を向上させる。同社の独自開発技術は、SRAMなどの既存のメモリソリューションに対して大きなメリットを提供し、データセンターやAIサーバアプリケーション向けとして理想的だ。

　NuRAMは、成膜やリソグラフィ、エッチング、インターコネクトなどに関しては、業界で実証済みのMRAMアーキテクチャや製造プロセスをベースとしており、いくつかの機能も追加されている。NuRAMのIP（Intellectual Property）コアは通常、4MB（メガバイト）〜4GB（ギガバイト）の幅広いメモリ密度向けに利用することができ、SoC（System on Chip）設計者にSRAMやフラッシュメモリの優れた代替を提供している。NuRAMは、既存のSRAMと比べて面積を40％に縮小し、待機電力を100分の1に低減できるため、フットプリントを縮小したり、1つのチップ上により多くのメモリを搭載したりできる。

「NuRAM」の特徴と、他のメモリとの比較［クリックで拡大］ 出所：Numem

　Numemは2025年1月21日、「Chiplet Summit 2025」（米国カリフォルニア州サンタクララ、2025年1月21〜23日）においてソリューションを発表した。電力や性能に悪影響を及ぼすボトルネックを取り除くことが可能になるという。

　既存のSRAM／DRAMの性能やスケーラビリティは限りがあるため、AIワークロードが増大することでメモリボトルネックが悪化している。プロセッサ性能を最大化するためには、既存のメモリアーキテクチャを再評価すると共に、電力効率と帯域幅の向上を実現するスマートなメモリソリューションが必要だ。Numemは、同社の高性能SoC CIM（Compute in Memory）ソリューションでメモリパラダイムを再構築している。これらのイノベーションは、特許取得済みの「NuRAM and SmartMem」技術をベースに構築されており、HPC（High Performance Computing）／AIアプリケーション需要に特化して設計された、スケーラブルなメモリ性能に対する最先端のアプローチを実現する。そのメリットとしては、他の追随を許さない帯域幅や、高容量、CPU／GPU／アクセラレーターなど他のチップレットとの高度なインテグレーションの他、入力データや読み書き時間、自己テスト容易性（self-testability）などの最適な処理によるスマートなメモリ管理といったものが挙げられる。