「AIは依然として古い性能法則に従っている」 Tenstorrent Jim Keller氏：イベント「TT-Deploy」開催（1/2 ページ）
Tenstorrentは2026年4月に、同社のチップを搭載したサーバの性能を披露するイベントを開催した。Tenstorrent CEOのJim Keller氏は米国EE Timesのインタビューに答え、同社のサーバ「Galaxy」の性能や、競争環境について語った。
米国EE Timesが今から1年前にTenstorrentのCEOであるJim Keller氏のオフィスを訪ねた時、同氏のオフィスのドアの外側に掛かっていたホワイトボードには、「We’re going to WIN!（われわれが勝利する！）」と書いてあった。そしてその1年後に再度訪問すると、「Holy Shit, That’s Fast!（なんと速いことだ！）」と書かれていた。
Tenstorrentは2026年4月に、米国カリフォルニア州サンタクララにおいて同社のローンチイベント「TT-Deploy」を開催し、同社の半導体チップを大規模導入する際にどれくらいの性能を実現可能なのかを示すデモを初めて披露した。Keller氏は、その直後にEE Timesの取材に応じ、「Tenstorrentのサーバ『BlackHole』は、GPUとより特化型のAIハードウェアのいずれをも超える性能を実現する」と語った。
Keller氏は「AI推論は最終的に、ネットワーキングとメモリの問題となる。Tenstorrentのアーキテクチャは現在、それを大規模に実証しているところだ」と主張する。
TenstorrentはTT-Deployにおいて、幅広いワークロード全体の性能について実証した。例えば同社の16台の「Galaxy」サーバ（512基のBlackholeチップ）は、「DeepSeek-671B」の推論能力を、バッチサイズ32の最大350トークン/秒/ユーザー（token/s/user）で実現可能だという。
Keller氏は「Tenstorrentの高速トークンは、大規模テンソルを数百個規模のチップ全体で容易に分割することができるという能力の直接的な成果だといえる。Galaxyのボックスは、ボックス1台当たりのイーサネットポート数が56個だが、一方でGPUサーバは、サーバ1台当たりの外部ポート数が8個程度となる」と述べる。
演算性能の法則に「新しいものは存在しない」
Keller氏は、IBMが1960年代に提唱した「レントの法則（Rent's Rule）」について取り上げている。LSIのゲート数とパッケージのI/Oにおける経験則で、実際のところ「演算性能領域は、利用可能なビーチフロントよりも速く増大する」ということを意味する。同氏は「これは他のアーキテクチャにとって、致命的な欠陥になる場合が多い」と指摘する。
「現在、新しい法則は存在しない。AI計算性能の基本は、1970年代のHPC（High Performance Computing）を起源としており、何十年も前から広く理解されている」（Keller氏）
また同氏は「結局のところAIインフラの成功は、演算性能やメモリ、I/Oのバランスを取るということに行き着く」と述べる。
「AIは主に、マトリクス演算や非線形ベクトル演算から成る。それを高速実行するためには、演算向けにデータ／結果を保持するための十分な量のSRAMの他、データがメモリやテンソルプロセッサ、チップ間を移動するためのバッファも必要だ。われわれは、それを用意している。メモリが大きすぎるとあまり役に立たず、小さすぎても逆効果となる」（Keller氏）
Tenstorrentの競合メーカーであるCerebrasは現在、非常に大きな成功を収めたIPO（新規株式公開）に続き、Moonshot AIが開発した大規模言語モデル（LLM）「Kimi K2.6」（パラメータ数は1兆）の動作速度でも注目を集めている。Cerebrasのシステム「CS-3」を使うことで981トークン/秒を達成できるという。
Keller氏によると、TenstorrentのGalaxy Blackholeサーバを大規模導入することにより、この性能を少ないハードウェアコストで超えることが可能だという。同氏は「CerebrasのIPOとそれに続く企業価値が、後押しとなった。特に、われわれはあらゆる面でそれに打ち勝とうとしているからだ。挑戦を受けて立とうではないか」と述べる。
市場リーダーであるNVIDIAは、分散推論として知られる技術でLLM推論のデコード段階を加速させるべく、Groqから技術ライセンス供与を受けている。デコード用のGroqチップを搭載したラック1台当たり、NVIDIA製CPU／GPUを搭載したラックが3台（プレフィル用ラック1台と、膨大なKVキャッシュを保持するためのラック2台）必要だ。
Keller氏は「Tenstorrentは、デコード高速化のための段階を追加する必要がない」と述べる。
「『KV（Key-Value）キャッシュはどのように扱っているのか』と質問されることが多いが、KVキャッシュはデコードと同じチップ上のDRAMの中にあるため、それについては考えることすらない。われわれが得意とする分野だ」（Keller氏）
またKeller氏は「重要なのは、Tenstorrentが任意の数のテンソルプロセッサを相互に接続できるという点だ。十分な数のチップがあれば、テンソルは完全にSRAMに組み込むことができる。チップの数が不十分な場合でも、一部の性能を犠牲にすることで、DRAMからデータを流すことが可能だ。GroqやCerebrasのように、DRAMを搭載していないアーキテクチャは、これを行うことができない」と指摘する。
「両社は、大規模モデルに拡張することはできるが、大量のハードウェアが必要になる。われわれの答えとしては、『比較的小規模なハードウェアでも、大規模モデルを実行できるが、超高速トークンレートが必要な場合は、トークンレートを望み通りに向上させられる』ということになる」（Keller氏）
Copyright © ITmedia, Inc. All Rights Reserved.