ChatGPTの回答が「ウソ」っぽい時の見抜き方

ざっくり言うと

イメージ

正確には

OpenAIの公式ヘルプ「ChatGPTは真実を語るか？」（※原文：Does ChatGPT tell the truth?）には、ChatGPTが事実と違う回答を、自信のある口調で返してしまうことがあると書かれています。

OpenAI自身もこの現象をハルシネーションと呼び、モデルの既知の弱点として公開しています。事実と違う内容が、もっともらしい文章のまま混ざってくることを指す言葉です。

ハルシネーションは、大規模言語モデルに残る基本的な課題です。完全になくなったとは考えず、大事なところから優先して確かめるのが現実的です。詳しい説明は、記事の最後の「参考ソース」の公式ページで読めます。

数字と統計は、まず疑う

数字や統計は、判断への影響が大きく、しかも更新されやすい情報です。だから、真っ先に確かめたいところです。

• 「市場規模は約○○億円」
• 「利用者の△△%が満足している」
• 「□□年に□□%成長した」

こういう統計らしい数字は、それらしさだけで作られていることがあります。判断の材料に使う数字は、公式サイト・公的統計・一次資料で必ず確認してください。

名前・肩書き・書名は、そのまま使わない

人物名、会社名、書籍のタイトル、役職、受賞歴。このあたりは、実在しない組み合わせがそのまま出てくることがあります。

• 「○○氏は△△大学の××教授」→ そんな人はいない、または在籍していない
• 「□□賞を受賞した本『〜〜』」→ 本も賞も実在しない
• 「△△社の創業者は○○氏」→ 別の会社と混ざっている

講演原稿やブログ、外に出す資料に他人の名前を書くときは、その人の公式プロフィールか、所属している組織のサイトで確認してください。

URLと引用元は、開いてから信じる

実在しないURLを平気で書いてしまうのは、とくに有名な失敗です。

• それらしいドメイン名（example.com/2024/statistics）
• それらしい論文タイトルとDOI番号（論文につけられる固有の番号）
• それらしい新聞記事の見出しと日付

書かれていたURLは、必ずブラウザで開いてください。404が返ってきたり、まったく別の内容が出てきたりします。

「100%」「絶対に」「必ず」で立ち止まる

強い断定が出てきたら、いったん立ち止まる合図です。

• 「100%確実にこの方法で解決します」
• 「絶対に○○してはいけません」
• 「必ず△△が原因です」

OpenAIは、回答の自信の強さと信頼性は同じではないと説明しています。強く言い切られても、大事な内容なら根拠を確かめてください。

前半と後半が食い違っていないか見る

長い回答では、前半と後半で言っていることが少しずれることがあります。

• 前半は「○○のほうが安いです」、後半は「△△のほうがお得です」
• 「無料で使えます」と書いてあるのに「月額○○円かかります」も混ざっている

食い違いを見つけたら、次の一文をコピーして聞き返してみてください。

前半と後半が矛盾しています。根拠と不確かな点を分けて見直してください。

これで回答が直ることもあります。ただし、直った版が正しいという証拠にはなりません。最後は外部の信頼できる情報で確かめてください。

「ソースを教えて」と聞き返すときの落とし穴

「この情報のソースを教えて」と聞き返すのは有効です。ただし、出てきたソース自体がハルシネーションのこともあります。OpenAIの公式ヘルプも、ChatGPTが実在しない参考文献を作り出す可能性に触れています。

• 出てきたソースは、必ずクリックして開く
• 開けたら、書かれている内容と一致しているかを見る
• 開けない、または別物が出てきたら、そのソースは使えない

ソースを聞くのは、真偽を確かめる作業ではありません。裏取りの取っかかりをもらう作業だと考えると安全です。

やってみよう

回答を受け取ったら上から見る5つ

回答を受け取ったら、次の5つを上から見ていってください。

間違いを見つけやすくして、確かめやすい回答をもらうコツも3つあります。

ハルシネーションはChatGPTだけの問題ではなく、大規模言語モデル全般で起こります。

「事実と違う内容が混ざることがある」と構えたうえで、数字・引用・判断の材料になる部分を重点的に確かめてください。これが一番実用的です。

最後に決めるのは自分で、ChatGPTは下書き役です。この役割分担だけは崩さないようにしましょう。