本文へスキップ
なのはAI教室

ChatGPTの回答が「ウソ」っぽい時の見抜き方

この記事は約6分で読めます

40分スターター・レッスン4 / 4

約10分でやってみよう

やること: わざと怪しい内容を混ぜた議事録から、メモにない部分を見つけます。

コピーして試す

下の入力例には、元のメモとチェックしたい議事録を両方入れてあります。コピーして、ChatGPTの指摘と自分の目視を突き合わせてください。

コピーする入力例

次の「元のメモ」と「議事録」を見比べて、メモに書かれていない内容をすべて挙げてください。それぞれ「数字・日付」「決定扱いへの格上げ」「その他の追加」のどれに当たるかも示してください。

【元のメモ】
10/3 ノベルティの打合せ
・A案でいくって話に? 要確認
・佐藤さん→見積もり出し直し 来週金曜(10/10)まで
・チラシは保留。次回までに各自案を持ち寄り
・次回打合せは10/17(金)14:00

【議事録】
■ 決定事項
・ノベルティはA案で確定(全員一致)
・予算は5万円以内とする

■ 宿題
・見積もりの出し直し(担当: 佐藤さん、期限: 10/8水)

■ 次回
・10/17(金)14:00 チラシ案を持ち寄り

最後に、どう直すべきかを1行で書いてください。

押さえておくこと

メモにある内容まで疑う必要はありません。「書いていないのに増えたもの」「強くなったもの」を探します。

  • 数字・日付: 5万円、10/8など、メモにない数字が増えていないか
  • 決定扱い: 「要確認」「保留」が「確定」に格上げされていないか
  • 言い切り: 「全員一致」など、根拠のない断定が足されていないか

返ってくる例

見つけたいのは、この3か所です。

確認が必要な箇所 - A案で確定(全員一致): メモは「要確認」。全員一致もメモにない - 予算は5万円以内: メモに金額の話はない - 期限10/8水: メモでは10/10金 メモどおりの箇所 - 佐藤さんの見積もり出し直し、チラシ案の持ち寄り、次回日時 直し方 - メモにない金額と「確定」「全員一致」を削り、期限を10/10金へ戻す

AIの返答は毎回少し変わります。表現が見本と同じでなくても、 次の3点を満たせば大丈夫です。

自己確認3点
答え合わせ・完成例

メモと突き合わせると、判断はシンプルです。

  • 佐藤さんの見積もり・チラシ持ち寄り・次回日時は、メモと一致している
  • 「確定」「全員一致」「5万円」「10/8」は、メモのどこにも根拠がない
  • AIに指摘させて終わりにせず、最後は自分の目でメモと照合する
うまくいかない時のヒント
  • 数字と日付に印を付けて、メモの同じ場所を一つずつ探すのが確実です。
  • 議事録がもっともらしいほど要注意です。整った文面と正しさは別ものです。
  • 実際の仕事では、元のメモを持っている自分にしか最終チェックはできません。

ざっくり言うと

ChatGPTは、自信のある口調のまま間違えることがあります。

先に疑いたいのは4種類です。数字、固有名詞、URLや引用元、そして「絶対に」のような強い断定。

その内容が正しいかどうかは、答え方の力強さでは決まりません。公式情報や一次資料（公式サイトや発表資料など、おおもとの情報）で確かめましょう。

イメージ

正確には

OpenAIの公式ヘルプ「ChatGPTは真実を語るか？」（※原文：Does ChatGPT tell the truth?）には、ChatGPTが事実と違う回答を、自信のある口調で返してしまうことがあると書かれています。

OpenAI自身もこの現象をハルシネーションと呼び、モデルの既知の弱点として公開しています。事実と違う内容が、もっともらしい文章のまま混ざってくることを指す言葉です。

ハルシネーションは、大規模言語モデルに残る基本的な課題です。完全になくなったとは考えず、大事なところから優先して確かめるのが現実的です。詳しい説明は、記事の最後の「参考ソース」の公式ページで読めます。

数字と統計は、まず疑う

数字や統計は、判断への影響が大きく、しかも更新されやすい情報です。だから、真っ先に確かめたいところです。

  • 「市場規模は約○○億円」
  • 「利用者の△△%が満足している」
  • 「□□年に□□%成長した」

こういう統計らしい数字は、それらしさだけで作られていることがあります。判断の材料に使う数字は、公式サイト・公的統計・一次資料で必ず確認してください。

名前・肩書き・書名は、そのまま使わない

人物名、会社名、書籍のタイトル、役職、受賞歴。このあたりは、実在しない組み合わせがそのまま出てくることがあります。

  • 「○○氏は△△大学の××教授」→ そんな人はいない、または在籍していない
  • 「□□賞を受賞した本『〜〜』」→ 本も賞も実在しない
  • 「△△社の創業者は○○氏」→ 別の会社と混ざっている

講演原稿やブログ、外に出す資料に他人の名前を書くときは、その人の公式プロフィールか、所属している組織のサイトで確認してください。

URLと引用元は、開いてから信じる

実在しないURLを平気で書いてしまうのは、とくに有名な失敗です。

  • それらしいドメイン名（example.com/2024/statistics）
  • それらしい論文タイトルとDOI番号（論文につけられる固有の番号）
  • それらしい新聞記事の見出しと日付

書かれていたURLは、必ずブラウザで開いてください。404が返ってきたり、まったく別の内容が出てきたりします。

「100%」「絶対に」「必ず」で立ち止まる

強い断定が出てきたら、いったん立ち止まる合図です。

  • 「100%確実にこの方法で解決します」
  • 「絶対に○○してはいけません」
  • 「必ず△△が原因です」

OpenAIは、回答の自信の強さと信頼性は同じではないと説明しています。強く言い切られても、大事な内容なら根拠を確かめてください。

前半と後半が食い違っていないか見る

長い回答では、前半と後半で言っていることが少しずれることがあります。

  • 前半は「○○のほうが安いです」、後半は「△△のほうがお得です」
  • 「無料で使えます」と書いてあるのに「月額○○円かかります」も混ざっている

食い違いを見つけたら、次の一文をコピーして聞き返してみてください。

前半と後半が矛盾しています。根拠と不確かな点を分けて見直してください。

これで回答が直ることもあります。ただし、直った版が正しいという証拠にはなりません。最後は外部の信頼できる情報で確かめてください。

「ソースを教えて」と聞き返すときの落とし穴

「この情報のソースを教えて」と聞き返すのは有効です。ただし、出てきたソース自体がハルシネーションのこともあります。OpenAIの公式ヘルプも、ChatGPTが実在しない参考文献を作り出す可能性に触れています。

  • 出てきたソースは、必ずクリックして開く
  • 開けたら、書かれている内容と一致しているかを見る
  • 開けない、または別物が出てきたら、そのソースは使えない

ソースを聞くのは、真偽を確かめる作業ではありません。裏取りの取っかかりをもらう作業だと考えると安全です。

やってみよう

回答を受け取ったら上から見る5つ

回答を受け取ったら、次の5つを上から見ていってください。

間違いを見つけやすくして、確かめやすい回答をもらうコツも3つあります。

ハルシネーションはChatGPTだけの問題ではなく、大規模言語モデル全般で起こります。

「事実と違う内容が混ざることがある」と構えたうえで、数字・引用・判断の材料になる部分を重点的に確かめてください。これが一番実用的です。

最後に決めるのは自分で、ChatGPTは下書き役です。この役割分担だけは崩さないようにしましょう。

よくある質問

Q. ChatGPTの答えがウソかどうか、まず何を疑えばいいですか?
A. 数字と統計です。「市場規模は約○○億円」「利用者の△△%が満足している」のような数字は、それらしさだけで作られていることがあります。公式サイトや公的統計で確かめてください。
Q. ChatGPTに出典を聞き返せば、安心できますか?
A. 安心できません。実在しない参考文献を作ってしまうことがあります。出典は裏取りの取っかかりと考えて、必ず開いて中身が一致するかを見てください。
Q. 人名や書名は、そのまま使ってよいですか?
A. 使わないでください。「○○氏は△△大学の××教授」「□□賞を受賞した本」のように、実在しない人や本がもっともらしく出てくることがあります。
Q. ウソを減らす頼み方はありますか?
A. 「確認できないことは推測せず、不確かだと明記して」と伝える、複雑な依頼は分けて確かめる、新しい情報はSearchやDeep Researchで出典を開く、の3つです。ただし、これだけで誤りを防げるとはかぎりません。

公開: 更新: ✓ 公式情報と照合:

参考ソース

判断クイズ

この記事の内容を、仕事の場面で使えますか？

2問です。答えるとその場で解説が出ます。全問終えたら、「回答を記録する」で学習の記録に残せます。

問1. この議事録のうち、メモに根拠がないのはどれですか？
問2. 怪しい箇所を見つけたあとの進め方として、最もよいものはどれですか？

全問に答えると、回答を記録できます。

残るのは「答えたかどうか」だけで、正解数は保存されません。この端末の中だけに残り、別の端末には引き継がれません。

ここまででスターターの実践は終了です。もっと詳しく知りたい方は、 この下の本文を読み進めてみてください。

この教科書は無料で全文公開しています。仕事で使えるところまで進みたい方は、実習と資料がそろった生徒プランをどうぞ。

生徒プランを見る(14日間無料)

あわせて読みたい