Intelの前CEOであるPat Gelsinger氏が、英国のAIチップスタートアップであるFractileに投資したことをLinkedInで明らかにした。Fractileは、インメモリコンピューティングをベースにしたAIアクセラレーターを手掛けている。このアクセラレーターは、推論を高速化、低価格化するとGelsinger氏は述べている。
Intelの前CEOであるPat Gelsinger氏が、英国のAIチップスタートアップであるFractileに投資したことを明らかにした。
同氏はLinkedInの投稿で、「数千個規模の出力トークンをメモリバウンドで生成する必要がある推論モデルの登場により、既存のハードウェアロードマップは一段と制約を受けるようになっている。われわれがAIの野望を達成するためには、推論を根本的に高速化/低価格化し、さらなる低消費電力化を実現する必要がある。私は最近、こうした素晴らしい飛躍の実現への道を追求する英国拠点のAIハードウェアメーカーFractileに投資したとお伝えできることをうれしく思う」と述べている。
Gelsinger氏は、「推論性能の役割は、今もまだ最先端のAIモデル開発において正当に評価されていない。推論性能の向上は、モデル開発期間を数年リードすることに相当する」と指摘する。
Fractileとは、どのような企業で、どのような取り組みを進めているのだろうか。
Fractileは、CEOであるWalter Goodwin氏が2022年に設立した企業だ。2024年夏にシードラウンドで1500万米ドルを獲得し、同年10月には英国政府のARIA(Advanced Research and Invention Agency)プログラムから652万米ドルの助成を受けている。同社はこの資金を利用し、数十億〜数千億個規模のパラメータを持つ大規模言語(LLM)向けの推論アクセラレーターを、インメモリコンピューティングを用いて開発する予定だという。同社の予測によると、このアクセラレーターはLLMの「Llama2-70B」を実装して、NVIDIAの「H100」に比べて100倍の高速化(デコードトークン/秒)を実現し、システムコストを10分の1に削減可能だという。
Goodwin氏はFractileを設立する以前に、英国オックスフォード大学でAI/ロボット工学博士課程を修了している。大規模マルチモーダル基盤モデルを利用し、より汎化性能が高いロボットの作製に取り組んでいたという。
FractileのAIアクセラレーターのコンセプトは、インメモリコンピューティングをベースにしている。Goodwin氏は、設計にアナログコンピュートエレメントがあるかどうかについては明言を避けたが、同社独自のCMOS SRAMセル設計を採用することを明かした。同社の最高技術責任者(CTO)であるTony Stansfield氏は、英国のSRAM設計メーカーSureCoreに10年間務めたベテランだ。
Goodwin氏は、「これは確実に、トランジスタレベルの設計である。メモリに対する根本的な新しいアプローチではなく、多少修正してはいるが比較的標準的なメモリセルを使用し、そのためのカスタム回路レイアウト/設計を行っている。これが、密度とTOPS/Wを向上させる方法の一部だ」と述べる。
「高速かつ高スループットの行列ベクトル乗算を提供する技術としてのインメモリコンピューティングは広く知られているが、われわれが基盤モデルへと移行するに伴い、その重要性は増していく」(Goodwin氏)
Copyright © ITmedia, Inc. All Rights Reserved.