AIは「考えている」のか?(確率予測の話)

ざっくり言うと

イメージ

スマホの予測変換と、どこが違うのか

予測変換は、入口のイメージとしては役に立ちます。ただ、それだけで会話AIを説明し切ることはできません。

LLM（大規模言語モデル）は、大量の文章から言葉どうしの関係を学んだモデルです。質問への回答や要約を作るときに使われます。IBMの解説によると、文章はまずトークンという小さな単位に分けられます。トークンにあたるのは、単語や単語の一部、記号です。そして返答を画面に出すときは、そこまでの文脈から次のトークンの確率を計算し、一つずつ選んでいきます。

ここでいう確率は、「続きやすいかどうか」の見積もりであって、「内容が正しいか」の確率ではありません。ここは取り違えやすいので、覚えておいてください。

候補どうしの差や、文章を作るときの設定によって、選ばれ方は変わります。だから同じ質問をしても、返ってくる言い回しや答えが変わることがあります。

言葉を一つずつ選ぶこの動きは、一次情報を一件ずつ探して確かめる作業とは別物です。続きやすい言葉をつなげば文章は自然になりますが、自然さだけでは中身の正しさまでは保証されません。

正確には

一語ずつ書きながら、終わりを先に決めていた

では、AIは先の見通しをまったく持たないのでしょうか。 そうとも言い切れない結果が出ています。

2025年3月、AnthropicがClaude 3.5 Haikuの内部で情報の流れを追った研究を公開しました。 英語の二行詩を作らせた実験で、面白いことが起きています。 モデルは二行目を書き始める前に、末尾で韻を踏める「rabbit」などの候補を用意していました。 先に着地点を決めてから、そこへ自然につながる文を組み立てていたのです。 これを見ると、一語先しか扱えないとは言えません。

「Dallasがある州の州都はどこか」という問いでも、似た動きが見つかりました。 答えのAustinを丸暗記して出しただけではなかったのです。 内部をたどると、最初に働くのはDallasとTexasの結び付きでした。 そこからTexasの州都であるAustinへ進む、2段階の経路が確認されています。 出てくる形はトークン単位でも、内部では複数の事実をたどっているわけです。

ただし、この結果をすべてのAIやすべての回答へ広げるのは早すぎます。 調べたのは、Claude 3.5 Haikuの短い課題だけです。 Anthropic自身も、この方法で見えるのはモデルの計算全体の一部だと説明しています。 観察の道具に由来する見え方が混じる可能性にも触れています。

「私はこう考えました」を、そのまま信じない

返答の中に「私は迷いました」「うれしく思います」と書かれていることがあります。その一人称だけで、人間と同じ心があるとは確かめられません。LLMは、自然な会話表現も学んでいます。だから人間らしい自己説明が出てきても、それが内側で起きたことの記録とは限りません。

さきほどの研究では、Claude 3.5 Haikuに36と59を足す方法を尋ねています。返ってきたのは、学校で習う筆算どおりの説明でした。

ところが内部を観察すると、様子が違いました。おおよその値を出す経路と、下一桁を求める経路が、並行して働いていたのです。AIが語った「私の考え方」は読めます。それでも、内部処理の記録そのものだと決め付けないほうが安全です。

ここまでの実例を整理すると、こうなります。「考える」という言葉は、問題を分けて先を見越す処理には使えます。一方、人間と同じ意識や感情があるかどうかは、会話だけでは確かめられません。AIへ判断の責任を渡す理由にもなりません。

説明がうまいことと、答えが合っていることは別

滑らかな文章と、正しい事実は別物です。OpenAIの研究をもとにした実験でも、同じ人物について尋ねると、チャットボットは質問のたびに違う誤答を返しました。

もっともらしい言葉が続くことと、根拠のある答えが出ることは、同じではありません。AIが詳しい理由を添えてきても、それだけで信用しないでください。見るべきなのは、一次情報や自分でやり直した計算と合っているかどうかです。

生成AIが苦手なことで説明したとおり、事実らしい誤りはハルシネーションと呼ばれます。注意点を暗記するより、自分で答え合わせできる小さな仕事で確かめるほうが身につきます。さっそくやってみましょう。

締めに

処理は借りて、責任は自分で持つ

AIは文章を一語ずつ出しながら、問題を分けたり、着地点を先に見越したりします。けれど人間らしい言葉づかいは、心がある証拠にはなりません。正しさの確認と、その結果の責任も、AIへは移せません。

数量が絡む場面ほど、この距離感が効きます。計算はAIに手伝ってもらってよいですが、最後は自分の手でも確かめてください。便利さも責任も、どちらも自分の手元に残ります！

やってみよう

人数を変えたレシピで試してみる