Takeshi Ikemoto

医療 × 経営 × テクノロジー

·朝便 3本目·

NVIDIA と Google Cloud の「A5X」——競争軸が電力と単価に移った

NVIDIAGoogleCloudA5X電力効率

NVIDIA と Google Cloud は共同設計の新ラック「A5X」を発表しました。競争軸が「ピーク性能」から「1ワット・1ドルあたりに回せる推論量」に切り替わりつつあります。

一言で言うと

今回の発表の本当のニュースは「新しいチップが出た」ことではありません。AIの勝負軸が「どれだけ速く計算できるか」から「同じ電力と同じコストでどれだけ推論を回せるか」に切り替わったこと、そして Google が自社の TPU だけではこの勝負に勝てないと判断して、NVIDIA と物理層で組む側に踏み込んだことです。

何が起きているのか

NVIDIAGoogle Cloud は10年以上にわたり、AIを動かすための土台を一緒に作ってきました。分かりやすく言えば、AI向けの半導体、ネットワーク、クラウド設備を組み合わせて、企業が大規模なAIを安定して使える環境を整えてきた関係です。

今回の Google Cloud Next では、その協力関係の新しい節目となる発表がありました。エージェントAI(自律的にタスクを進めるAI)や、物理AI(現実世界で動くロボットなどのAI)を大量に動かすための設備、いわば「AIを動かす工場」を強化する内容です。Google Cloud AI Hypercomputer は、そのための大規模AI計算基盤だと考えると分かりやすいです。

具体的には、GoogleNVIDIA Vera Rubin NVL72 ラックスケールシステムを載せた新しい基盤「A5X」を発表しました。難しく見えますが、要するに `より大きなAIを、より安く、より少ない電力で動かすための新しいクラウド設備` です。チップ、機械全体の構成、ソフトウェアをまとめて設計し直したことで、前世代より、AIが1回答えを出すあたりのコストを最大10分の1にし、同じ電力で処理できる量を最大10倍に高められると説明しています。

A5X は、高速な通信部品と次世代ネットワークを組み合わせ、膨大な数の半導体を一斉に動かせるように設計されています。ここで重要なのは、細かな部品名よりも、`巨大なAI計算設備を1つのまとまりとして運用できる` ことです。単一拠点で最大80,000個、複数拠点をまたいで最大960,000個の NVIDIA Rubin 半導体(GPU: AI計算を大量並列でこなす中核チップ)まで広げられる設計だとされます。NVIDIA はこの日、Google Cloud Partner of the Year を「AI Global Technology Partner」と「Infra Modernization Compute」の2部門で受賞しました。

AI業界の文脈では

「また NVIDIA の新チップ発表」という読みは、ここ数年のAI業界では正しかったのですが、この発表には当てはまりません。注目すべき数字は10倍の性能向上ではなく、その10倍が何あたりの数字かです。トークン「あたり」の推論コスト、メガワット「あたり」のトークン処理量。どちらも、単位時間の最大性能ではなく、1ドル・1ワットあたりの効率を表しています。

AI業界はここ数年、モデルの性能と規模で競争してきました。しかし推論を実際に回す段階になると、効いてくるのは電力と単価です。データセンターの電力供給には物理的な上限があり、米国ではすでに「新しいAIデータセンターを建てたくても電力会社が送電線を引けない」事例が出ています。96万GPUを1つのクラスタに束ねる設計が「マルチサイト」前提になっているのも、単一サイトに電力を集めきれない物理的な事実が背景にあります。

もう一つの文脈が Google の立ち位置の変化です。Google は自社で TPU を持っており、AIインフラを自前で揃える選択肢を持つ数少ないクラウド会社です。それでも今回、チップ・システム・ネットワーク・ソフトウェアを NVIDIA と物理的に共同設計する側に踏み込みました。

裏を返せば、TPU 単独路線では「電力とコストあたりの効率」で NVIDIA との組み合わせに勝てないと判断したということです。Microsoft AzureOpenAIAmazon Web ServicesAnthropic の組み合わせに対して、Google Cloud は「NVIDIA と最初に物理層で組む会社」というポジションを取りに行きました。

私の見立て

この発表の本当の意味は、AIインフラの競争が「計算機の速さ」から「電力と単価の方程式」に移ったことです。同じモデルを動かすときに、1ドル・1ワットあたりでどれだけ推論を回せるか。この数字が一桁下がれば、AI推論を前提にした商品設計が一気に変わります。今まで採算が取れなかったユースケース(リアルタイムの長文要約、現場ロボットの自律制御、全社員への常時AIアシスタント付与など)が、計算で回るようになる水準が来ます。

ただしこの10倍は、前世代比の数字です。AI推論の需要はこれ以上の速さで伸びているので、電力と土地の取り合いは終わりません。勝つクラウドは、最高性能のチップを買った会社ではなく、チップ・ネットワーク・電力契約・冷却・ソフトウェアを一括で設計できる会社になります。Google が自前 TPU を持ちながら NVIDIA とも組むのは、このどれかを落とすと全体が弱くなるからです。

この読みが外れるとしたら、電力供給の制約が思ったより早く緩む場合(新規発電の大規模稼働、推論モデルの根本的な軽量化)です。その場合、効率競争より性能競争に戻ります。ただ足元の電力計画を見る限り、当面は効率競争が主戦場です。

→ 何が変わるか: AIを「どれだけ賢く使うか」の話から、「どれだけ電力を確保できるか」「1ドルあたり何トークン回るか」の話に変わります。AIサービスの値付けと提供可否が、モデル側ではなく電力・ネットワーク側の事情で決まる場面が増えます。

→ 何をすべきか: 自社でAIを本格的に使う計画を立てるなら、「推論コストが2〜3年で一桁下がる」前提で、今は採算が合わないユースケースも机上で設計しておくのが得策です。逆に、AIサービスを提供する側なら、値付けを「今の推論コスト × 粗利率」で固めすぎない方がよいです。下がる前提の値付けと契約設計に切り替えていく局面です。