ChatGPTで同じ質問なのに違う答えが返ってくる理由

ざっくり言うと

イメージ

正確には

OpenAIの公式ヘルプ「How ChatGPT and our foundation models are developed(ChatGPTと基盤モデルがどう作られているか)」には、こう書かれています。

ChatGPTのような言語モデルは、次に来る単語を確率で予測する仕組みで動いています。学習段階で「この単語の後にはこの単語が来やすい」という関係を膨大なテキストから学び、回答を作るときは一単語ずつ「次に一番ありそうな単語」を選んでつないでいきます。

そして、ここが今回の話のキモなのですが、文の続きには複数の正解がありうる——たとえば「彼女は左ではなく」の後には「右に曲がった」「振り返った」「進んだ」のどれもが自然です。だから毎回ちょっとずつ違う続きが生成される、というのが公式の説明です。

つまり「同じ質問に違う答えが返る」のは、サイコロを内蔵している以上避けられない現象。ここからは、その揺らぎがどこから来るのかを3つに分けて見ていきます。

1. 「次の単語を確率で選ぶ」=毎回サイコロを振っている

2. モデルやプランによっても答えが変わる

3. 同じチャット内の「文脈」で答えが変わる

4. 「メモリ」と「カスタムインストラクション」も効いている

5. 質問のちょっとした言い回しでも答えが変わる

やってみよう