20億パラメータのLLMを2.5Wで動かす Hailo最新チップ：エッジでもLLMを（2/2 ページ）

Hailoが、第2世代「Hailo-10」ファミリーの第1弾となる製品「Hailo-10H」の量産を開始した。20億（2B）パラメータの大規模言語モデル（LLM）を、2.5Wで動作できるという。

[Sally Ward-Foxton，EE Times]

「ラズパイ」にも搭載

　Hailoの開発者コミュニティーは月間1万人のアクティブユーザーに達しており、これらのユーザーの大部分（約80％）は、「Raspberry Pi」との互換性を通じてHailoコミュニティーに参加している。

　Danon氏は「開発者コミュニティー構築の取り組みがこれほどの規模で成功したことは、少し予想外だった」と述べている。

　「これほど多くの人がHailoとRaspberry Piの連携に興味を示したことに驚いた。Raspberry Piと連携した際、多くの人が興味を示すとの見方があったが、それは正しかった」と同氏は振り返った。

　大規模な開発者コミュニティーは当然ながら、スタートアップのソフトウェアスタックの優れた実証材料となる。Danon氏は「現時点でのHailoの仕事は、迅速に対応し、人々が使用、拡充、変更できるコンテンツをリリースすることでコミュニティーを育成することだ」と述べている。同社には、この取り組みをサポートする専任チームがある。

　「多くのプロフェッショナルユーザーもRaspberry Piを通じてHailoにアクセスしていることが分かっている」とDanon氏は述べている。デザインウィンがどこから来たのかを正確にたどることは難しいが、顧客を訪問し、研究室にHailoチップを搭載したRaspberri Piが置かれているのを見ることはうれしいとDanon氏は語った。

　Hailo-10Hの最初の一般顧客はHPだという。HPはPOS（Point of Sale）システムのアドオンとして、M.2カードにHailo-10Hを搭載して提供している。「最もエキサイティングなアプリケーションは、状況認識、HMI（Human Machine Interface）、セキュリティなどを組み合わせたマルチモーダルなものだ。これらをエッジで実現するのは難しい。だからこそ、われわれがサポートできるのはうれしい」（Danon氏）

【翻訳：滝本麻貴、田中留美、編集：EE Times Japan】