推論(Inference)

ざっくり言うと

「学習(Training)」と「推論(Inference)」は、AI の世界で対になる2大工程です。学習=覚える、推論=使う、と覚えておけば9割困りません。

ここでいう「使う」は、AIチャットを開いたときだけではありません。翻訳ボタンやおすすめ表示の裏でも、学習済みモデルを動かして結果を出すなら推論です。

イメージ

正確には

NVIDIA の解説によると、ディープラーニングのライフサイクルは大きく「Training(学習)」と「Inference(推論)」の2フェーズに分けられます。学習フェーズでは大量のデータを使ってモデルのパラメータを調整し、推論フェーズではその学習済みモデルに新しい入力を与えて結果を得る、という分担になっています。

IBM の用語解説でも、AI inference は「学習済みモデルが新しいデータに対して結論を導き出すこと」と定義されています。つまり、推論とは「すでに完成した AI の頭脳に質問する行為そのもの」を指す技術用語です。

Google Cloud のドキュメントでも、AI inference は「訓練済みの AI モデルを使って予測や出力を生成する工程」と説明されています。

学習と推論の違い(対比表)

観点	学習(Training)	推論(Inference)
目的	モデルに知識を覚えさせる	覚えたモデルに仕事をさせる
タイミング	サービス公開前(または定期更新時)	サービス公開後、ユーザーが使うたび毎回
1回あたりの計算量	超大量(数日〜数ヶ月)	比較的軽い(数ミリ秒〜数秒)
必要なデータ	大量の訓練データ	ユーザーの入力1件
主に動く場所	大規模なGPUクラスタ(データセンター)	サーバー、クラウド、最近はスマホ上でも

なぜ推論コストが話題になるのか

ニュースで「AIの推論コストが経営を圧迫している」といった話を見かけることが増えました。これは、

学習は最初の1回(または定期更新)だけで終わるのに対し、
推論はユーザーが使うたびに発生し続ける

から。たとえ1回あたりが安くても、利用者数 × 利用回数 × 365日で掛け算されると、企業にとっては継続的に膨らんでいくランニングコストになります。だから各社、より速く・より安く推論できる仕組み(高速化、量子化、専用チップなど)に必死で投資しているわけです。

どこで推論は走っている?

注意点

やってみよう

学習と推論はセットの概念なので、次のステップとして「学習(Training)」の記事もあわせて読むと、AIの全体像がかなり見えやすくなります。