生成AI(GenAI)の仕組み

ざっくり言うと

つまり生成AIの正体は、超大規模な「次の一言、当てっこゲームのプロ」だと思ってください。

イメージ

正確には

生成AI(Generative AI / GenAI)は、IBM の定義では「学習データから新しいテキスト・画像・音声・動画などのコンテンツを生成できるディープラーニングモデル」とされています。Google Cloud の解説でも、生成AIは「学習したデータを元に新しいコンテンツを作り出すAI」と位置づけられています。

総務省『令和5年版情報通信白書』でも、生成AIは「学習したデータをもとに新しいデータを生成するAI」と説明され、文章生成の代表例として大規模言語モデル(LLM)が挙げられています。

仕組みは「学習」と「推論」の2段階

生成AIは大きく 2つのフェーズに分かれて動いています。混乱しやすいので表で整理します。

フェーズ	いつ起きる?	やっていること	例えるなら
学習(training)	サービス公開より前	大量の文章・画像などを読み込み、「どの言葉の後にどの言葉が来やすいか」のパターン(=重み)を内部に蓄積する	学校の授業と試験勉強(何年も)
推論(inference)	あなたが質問した瞬間	蓄積したパターンを元に、入力の続きとして「次に来そうなトークン」を確率で1個ずつ選んで並べる	試験本番(数秒で回答)

「覚えている」と「理解している」は違う

生成AIは、学習データの中にあった言葉の並びや考え方のパターンを大量に取り込みます。ただし、質問された事実をデータベース検索のように一件ずつ探して返しているわけではありません。

たとえば「有名な小説のあらすじ」を聞くと、それらしい説明が返ってくることがあります。これは多くの文章からパターンを学んでいるからであって、図書館の棚から本を取り出して読んでいるわけではありません。

推論フェーズで起きていること

推論フェーズで生成AIが文章を作る流れは、ざっくり書くとこうなります。

あなたの入力(プロンプト)を 「トークン」 という細かい単位に分解する
モデル内部で「次に来るトークンの候補それぞれの確率」を計算する(例: 「犬」70%、「猫」20%、「鳥」5%...)
その中から1つを選ぶ(完全に1位を選ぶこともあれば、少しランダムに揺らすこともある)
選んだトークンを 入力の末尾に足して、また 2 に戻る
文章の終わりが来るまで、ひたすら繰り返す

OpenAI の公式ヘルプでも、ChatGPT は「文章中の次のトークンを予測するように訓練されている」と説明されています。1単語まるごとではなく、もっと細かいトークン単位で1個ずつ生成しているのがミソです。

「考えてる」ように見えるのはなぜ?

これだけ単純な仕組みなのに、なぜ「考えて答えている」ように見えるのか。

理由はシンプルで、学習に使ったデータが膨大すぎるからです。インターネット上の文章・書籍・コードなど、人類が書いた大量のテキストから「言葉の自然なつながり」を吸収しているので、結果として論理的な説明・要約・翻訳・コード生成まで「それっぽく」できてしまうわけです。

ただし、本人(AI)は意味を理解しているわけではありません。あくまで「次の一言、当てっこゲーム」を、人間が驚くレベルの精度でやっているだけ、というのが生成AIの基本的な仕組みです。

注意点

やってみよう

次のステップとして、推論フェーズの「次のトークン予測」をもう一段深掘りしたい方は、同じ章の関連記事(LLMとは / LLMはどう次の言葉を予測するかなど)へ進んでみてください。