ラズパイで生成AIモデルを実行、EdgeCortixがデモ：AIアクセラレーターと組み合わせて

EdgeCortixは「第9回 AI・人工知能 EXPO 春」で、「Raspberry Pi」と同社のAIアクセラレーター「SAKURA-II」を組み合わせ、Transformerモデルを実行するデモを展示した。1枚のカードで3つのAIモデルを実行するデモも披露した。

[村尾麻悠子，EE Times Japan]

　EdgeCortixは「第9回 AI・人工知能 EXPO 春」（2025年4月15〜17日、東京ビッグサイト）で、同社のAIアクセラレーターと「Raspberry Pi（ラズパイ）」を組み合わせ、Transformerモデルを実行するデモを展示した。

　具体的には、EdgeCortixのAIアクセラレーター「SAKURA-II」のM2.モジュールと「Raspberry Pi 5」を組み合わせ、Transformerを用いたセグメンテーションモデル「SegFormer」を実行した。精度はBF16で、AI性能は60TOPS/10Wだという。アプリケーション例として、ドローンやロボティクス、組み込みシステムなど低消費電力が要求される用途を挙げる。

Raspberry Pi 5とSAKURA-IIを組み合わせたデモの実機。ラズパイとSAKURA-IIは、M.2用の変換モジュールを介して接続している。その上にヒートシンクとファンを載せている［クリックで拡大］

ラズパイとSAKURA-IIを用いてセグメンテーションモデル「SegFormer」を実行しているデモ［クリックで拡大］

　ラズパイはPoC（Proof of Concept）でも多く活用されていることから、「SAKURA-IIと組み合わせることで、エッジAIアプリケーションのPoCを低コストで実現できる」（EdgeCortix）ことがメリットだ。このデモは、2025年3月にドイツ・ニュルンベルクで開催された組み込み技術の展示会「embedded world 2025」で既に披露されたもの。EdgeCortix グローバルセールス担当エグゼクティブバイスプレジデントのTim Vehling氏によれば「欧州でもラズパイは広く使われているので、注目度が非常に高かった」という。日本の展示会でこのデモを披露するのは初めてになる。

　ラズパイはPoCだけでなく、産業機器などの量産品に使われるケースも増えている。Vehling氏は、ラズパイとSAKURA-IIを組み合わせたソリューションはもちろん量産品でも使用できると説明した。なお、SAKURA-IIは現在サンプル出荷中で、2025年後半に量産を開始する予定だ。

1枚のカードで3つのAIモデルを動かす

　SAKURA-IIを用いて、ビジョンモデル、言語モデル、セグメンテーションモデルという3つのAIモデルを実行するマルチモーダルのデモも披露した。SAKURA-IIを2チップ使い、SegFormerでセグメンテーションする様子と、ビジョンモデルのViTと言語モデルの「GPT-2」で画像からテキストを生成する様子を示した。こちらは、都市管理システムや監視カメラといった、よりハイエンドなアプリケーションを想定している。

デモに使用したボード。SAKURA-IIを2個搭載している［クリックで拡大］

デモを実施している様子。左側は画像をセグメント化していて、右側は、画像からテキストを生成している。デモに用いたPCはASRockの「DeskMeet X600」で、AMDのプロセッサ「Ryzen 7 7700」が搭載されている［クリックで拡大］