AIエージェント普及でCPUの重要性増す、Googleが語る新たな需要：GPU／TPUとの役割分担に変化（1/2 ページ）

[Sally Ward-Foxton，EE Times]

　Google Cloudのバイスプレジデント兼AI／コンピューティングインフラストラクチャ部門担当ゼネラルマネジャーを務めるMark Lohmeyer氏は、米国EE Timesの取材に対し、「エージェント型AIの要件によって、データセンターCPU／インフラ全体に対する新たな要求が生じている」と語った。

　同氏は「チャットは比較的単純だ。質問と回答があって、GPU／TPUの推論に大きく依存している。AIエージェントでは、このような相互作用の本質が大きく変化する」と述べている。

　AIエージェントは、ユーザーの大まかな意図を複数のサブタスクに分解し、エージェントのチームに割り当てられる。各エージェントは、APIへのアクセスやWebサイトの訪問、コードの記述／実行などのCPUタスクを処理する。セッションは従来よりもはるかに長くなる場合があり、複数の人間ユーザーが関与する可能性もある。そのため、コンテキストや状態を数日間または数週間にわたって保存する必要がある。

Googleの自社設計ArmベースCPU「Axion」［クリックで拡大］ 出所：Google Cloud

AIエージェントは「断続的に高負荷」

　Lohmeyer氏は「AIエージェントの処理は断続的に発生するが、アイドル状態になる場合も多い。例えばユーザーが戻ってくるまで、または一部のAPIからの応答を待つ間、1〜2日間何も実行しないこともある。長時間にわたり状態を維持する必要がある一方、その間はアイドル状態である場合が多く、また処理が発生すると負荷が急激に高まるという点が、従来型のCPUワークロードとは異なる独自の特性だ」と述べる。

　Lohmeyer氏は、こうした処理を高効率かつ安全に処理することは、業界が現在直面している大きな課題だと指摘する。

　「需要は既に非常に高く、急激に増加している。このためわれわれは、その成長を高いコスト効率で支援することが可能なインフラを、どのように提供すべきかを検討している」（Lohmeyer氏）

CPUの演算能力が占める割合が拡大

　Lohmeyer氏は、新しいインフラを必要とする新しいワークロードである、“AIエージェントそのものを実行するために必要な演算能力”と、現在既に存在しているがかつては人間と相互作用するものだった、“Webサイト／APIへのアクセスなどの他のタスク”とを区別している。

　同氏は「エージェント型AIのワークロードは、これらの両方の要素に対して重大な影響を及ぼすだろう」と述べる。

　AIエージェントは人間よりもはるかに要求が厳しく、また数百〜数千個規模のエージェントを超高速でオンライン化できる一方で、人間のユーザー数はそれほど速く増加しないことから、ワークロードの既存部分は劇的に増加していくとみられる。

　Lohmeyer氏は「性能のためには、レイテンシの観点から、これらのAIエージェントとそのコンテキスト、アプリケーション、データを、互いに比較的近い場所に配置するのが理想的だ」と述べる。

　同氏によると、データや処理の配置場所は重要だが、企業のIT環境は今後も分散型になる見込みだという。当面の間、その大半は引き続き複数のクラウドやプライベートクラウドを使用することになる。これはつまり、高性能ネットワークも引き続き、データセンター内およびデータセンター間の両方で極めて重要なものになるということだ。

　Lohmeyer氏は「動的に動作し、状態を保持するAIエージェントには、それを支える新しい種類のコンピューティングインフラが必要になる。既存の全てのアプリ／データにアクセスするために需要が拡大し、その全てをネットワーク経由で相互接続する必要がある。Googleは、こうしたあらゆる要素に投資を行っているところだ」と述べる。

　また同氏は「新しいインフラでは、エージェント型AIに向けたCPU／GPU演算性能の最適な比率は、現在もワークロードとともに変化しているが、必要とされるCPU演算の割合は、基盤モデルのトレーニングからエージェンティック推論への切り替えが進むにつれて確実に増加している」と述べている。

　「CPUおよびTPU／GPUのワークロードはいずれも、引き続き急激に増大していくとみられるが、CPUが占める割合は、比較的小さなものから無視できない規模へと拡大している。これは今後も、AIエージェントが新しいユースケースや新しい環境へと拡大していく中で、進化し続けていくだろう」（Lohmeyer氏）