「AIは依然として古い性能法則に従っている」 Tenstorrent Jim Keller氏：イベント「TT-Deploy」開催（2/2 ページ）

[Sally Ward-Foxton，EE Times]

GPUとの併用は可能なのか

　Tenstorrentのハードウェアは、NVIDIAの分散型アーキテクチャと同様に、デコードアクセラレーション向けにGPUと併用することは可能なのだろうか。

　「当社には、購入したGPUを高速化させるためにGalaxyを使用している顧客がいる。われわれは、Blackholeチップを搭載したPCIeカードを用意しており、データ伝送用にレイヤー2イーサネットを使用するため、接続は非常に簡単だった」（Keller氏）

　同氏は「顧客企業はこの手法を用いることで、トークンレートを2倍または3倍に高められた」と述べる。

　「そもそもその顧客がTenstorrent製品のみを調達していた場合は、もっとコストを抑えられただろう。というのも、当社はプレフィル段階にも対応でき、よりシンプルに実行できるためだ。しかし、顧客は既にGPUを調達済みで、その投資をうまく活用したいと考えていた」（Keller氏）

　また同氏は「現在のところ、このアイデアの製品化については、恐らく可能ではないかと考えている」と付け加えた。

Tenstorrentは、数百個あるいは数千個のBlackholeチップを接続し、巨大なクラスタを構築できる 出所：Tenstorrent

　Keller氏は「『ハイパースケーラーや最先端のラボは垂直統合型である（つまり、ワークロードを熟知しているため、チップやモデルを共同設計することが可能である）ため、ハードウェア設計における優位性を確保している』という認識は、誇張されている可能性がある。Tenstorrentも他のメーカーと同様に、自社製ハードウェアにおいて、広く普及している一部の非線形関数の最適化を行っているが、それに続く世代のシリコンでは、必要に応じてそのような最適化を微調整することが可能だ」と述べる。

　「チップスケールで重要なのは、大規模モデル向けに構築することや、適切な精度を維持することの他、膨大なKVキャッシュと、拡散のようなコンピュートバウンドなワークロードの両方を適切に処理することだ」（Keller氏）

　また同氏は「これまでのところ、DRAMとSRAM、演算性能、行列／ベクトル、NoC（Network on Chip）のバランスが取れていれば、全てうまく機能している。レントの法則は、非常に安定しているようだ」と述べる。

　もう1つ、新たな方法で適用されるようになってきた古い法則として、アムダールの法則がある。これは一般的に「あらゆるワークロードの高速化は、加速不可能な部分による制約を受ける」ということを示す際に用いられる。

　Keller氏は「エージェンティックコンピューティングは、アムダールの法則の問題だ。AIは、とてつもない量の演算性能を必要とするため、CPUはAIタスクを送信して、それが完了するのをただ待っているだけだった。エージェンティックがCPU需要をけん引し始めたのは、AIがついに十分な高速化を達成し、スカラー部の問題がボトルネックになってきたからだ」と述べる。

IntelやQualcommによる買収についてはコメントせず

　同氏は、IntelやQualcommなどの企業によるTOB（株式公開買付）を受けるのではないかとする報道についてはコメントを拒否したが、両社や大手ハイパースケーラー各社のCEOたちとの間で、TenstorrentのハードウェアIPを提案すべく、実際に会合を行ったことについては認めている。

　「当社のRISC-V CPU IPは非常に素晴らしいため、こうした企業の中の一社と大きな契約を締結できることを期待している。また、あるハイパースケーラーは、小型チップ向けとして当社のAI IPを検討しているところだ」（Keller氏）

　Keller氏は「ハイパースケーラーは独自のAI向け大型チップを開発しているが、エッジデバイスで使われているような小型AIチップは、それと同じIPの単純な廉価版を使用できない。TenstorrentのAI IPは、スケーラブルな設計で、完全に製品化されており、例えば1〜1000コアまでの拡張に必要なものを全て備えている」と述べる。

　Tenstorrentのスタートアップ競合メーカーにとって、過去6カ月間における2つの大きなEXIT（イグジット／投資回収）となったのは、効果的買収とIPOだ。Keller氏は、TenstorrentがIPOを目指し、それを念頭に置いてサプライチェーン構築や国際的な存在感の確立を強化していることを認めている。同氏は「現在のところ当社の投資家たちは、IPOに関して非常に積極的だ」と付け加えた。

【翻訳：田中留美、編集：EE Times Japan】

原文へのリンク