なぜGPU不足が起きるのか｜AI時代に計算資源が足りなくなる理由

はじめに

AI向けのGPUを確保しにくい、クラウドで希望する機種が使えない。こうした不足は、計算の需要と供給の条件が合わないときに起こります。ただし、すべてのGPUが常に不足しているわけではなく、製品・地域・時期で状況は変わります。この記事では、特定製品の在庫予測ではなく、不足が起きる構造を説明します。

大規模なニューラルネットワークでは、行列演算などの計算を大量に繰り返します。GPUは多数の演算を並列に処理でき、対応するソフトウェアと組み合わせて学習や推論を高速化できます。需要はモデル開発だけでなく、公開後に多数の利用者へ回答を返す推論からも生まれます。

大規模な学習は多数のGPUを長時間使う場合がありますが、小さな学習や追加学習まで必ず数週間かかるわけではありません。また、対応GPUを分割するMIGや実行時間を共有する仕組みもあります。「一度学習が始まると他の用途に回せない」は言い過ぎです。

実際に共有できるかは、メモリ容量、処理の大きさ、性能の要求、運用設定などで決まります。空いているように見える演算能力があっても、メモリや通信が制約になっている場合があります。

CPUでもAIの学習や推論はできます。PyTorchの公式入門でも、アクセラレーターがなければCPUを使う構成が示されています。小規模なモデルや少量の処理には、CPUが適する場合もあります。

一方、巨大なモデルの学習では、必要な処理量を許容できる時間や費用で終えるため、GPUや専用アクセラレーターが有利になることがあります。これは「CPUでは不可能」ではなく、性能・電力・メモリ・費用の条件による選択です。

高性能なAI向け製品には、半導体の製造に加え、大容量・高帯域のメモリ、先端パッケージング、基板などが必要です。さらに利用する側には、電源、冷却、ネットワークを備えた設備が求められます。どこかの供給が追いつかなければ、チップだけを増やしてもすぐ使える計算資源にはなりません。

TSMCの2025年年次報告では、AI需要に伴う先端パッケージングCoWoSの成長が説明されています。ただし、この資料だけで現在の全GPUの在庫や納期を判断することはできません。

大きな設備投資やまとまった契約ができる企業は、計算資源の確保で有利な場合があります。一方、小規模な利用者にも、クラウドの時間利用、公開モデルの追加学習、小型モデル、APIの利用などの選択肢があります。「学習できる大手」と「使うだけの個人」に完全に分かれるわけではありません。

需要の増加、製造能力の拡大、専用チップ、小型化や量子化などの効率化が同時に進みます。不足がいつ解消するかを一般論だけで断定することはできません。実際に導入するときは、必要なメモリと性能、候補製品の納期、クラウドの利用可能地域や費用をその時点で確認します。

GPU不足は、学習・推論の需要、半導体やメモリの供給、設備の制約が組み合わさって起こります。CPUでもAIは動き、GPUも条件次第で共有できます。必要な処理に合わせて、計算資源の規模と使い方を選ぶことが大切です。