Claudeの回答が「ウソ」っぽい時の見抜き方

ざっくり言うと

イメージ

正確には

Anthropicの公式ヘルプに「Claudeが間違ったり誤解を招く回答を返すのはなぜ？」というページがあります（※原文：Claude is providing incorrect or misleading responses. What's going on?）。ここには、Claudeが事実と違う回答を、もっともらしいトーンで返すことがあると書かれています。

Anthropic自身もこの現象をハルシネーションと呼び、モデルの既知の弱点として公開しています。事実と違う内容が、整った文章のまま混ざってくることを指す言葉です。

Anthropicの研究記事「大規模言語モデルの思考をたどる」（※原文：Tracing the thoughts of a large language model）には、もう少し踏み込んだ話が出てきます。調査に使われたClaude 3.5 Haikuでは、初期状態で「答えを控える」働きが入っていました。そして、知っている対象だと示す特徴が、その働きを抑えていたと報告されています。

名前に見覚えがあるだけで、詳しい中身を持っていない相手にも、この「知っている」の特徴は働くことがあります。そのときに、もっともらしい内容を作ってしまうというわけです。

ただし、これは特定のモデルを調べた研究であり、あらゆる間違いを説明する法則ではありません。それでも、ハルシネーションを完全には防げないという公式の注意と合わせれば、大事な主張を外の資料で確かめる理由になります。詳しい説明は、記事の最後の「参考ソース」の公式ページで読めます。

数字と統計は、まず疑う

判断の材料になる数字ほど、そのまま信じたくなります。たとえば、こんな言い回しです。

• 「市場規模は約○○億円」
• 「ユーザーの△△%が満足している」
• 「□□年に□□%伸びた」

こういう統計らしい数字は、それらしさだけで作られていることがあります。大事な判断に使う数字は、公式サイト・公的統計・一次資料で必ず確認してください。

名前・肩書き・書名は、そのまま使わない

気をつけたいのは、人物名、会社名、書籍のタイトル、役職、受賞歴などです。実在しない組み合わせが、そのまま出てくることがあります。

• 「○○氏は△△大学の××教授」→ そんな人はいない、または在籍していない
• 「□□賞を受賞した本『〜〜』」→ 本も賞も実在しない
• 「△△社の創業者は○○氏」→ 別の会社と混ざっている

Anthropicの研究でも、名前だけ知っている人について聞かれると、Claudeが「知っているつもり」になり、勝手な肩書きを足してしまう例が報告されています。

講演原稿やブログ、外に出す資料に他人の名前を書くときは、その人の公式プロフィールか、所属している組織のサイトで確認してください。

URLと引用元は、開いてから信じる

Claudeは、実在しないURLや引用、参考文献をもっともらしく書いてしまうことがあります。公式ヘルプが注意しているのは、根拠のない引用が権威ある情報のように見えてしまう点です。Claudeが作っていない外部文書へのリンクを示す場合にも触れています。

• それらしいドメイン名（example.com/2024/report）
• それらしい論文タイトルとDOI番号（論文につけられる固有の番号）
• それらしい新聞記事の見出しと日付

書かれていたURLは、必ずブラウザで開いてください。404が返ってきたり、まったく別の内容が出てきたりします。

「100%」「絶対に」「必ず」で立ち止まる

回答の中に、こんな言い切りが混ざっていないか見てください。

• 「100%確実にこの方法で解決します」
• 「絶対に○○してはいけません」
• 「必ず△△が原因です」

現実の物事には例外がつきもので、専門家ほど言い切りを避けます。強く断定されたら、「本当にそうかな？」と一段疑う価値があります。

長い回答は、最後まで通して読む

同じ回答の前半と後半で、言っていることが食い違うことがあります。

• 前半は「○○のほうが安いです」、後半は「△△のほうがお得です」
• 「無料で使えます」と書いてあるのに「月額○○円かかります」も混ざっている

食い違いを見つけたら、まずその箇所を挙げてもらうと整理しやすくなります。次の一文をコピーして送ってみてください。

この回答の中で、前半と後半が食い違っている箇所を挙げてください。

ただし、聞き返して回答が変わっても、正しさの証明にはなりません。最後はもとの資料や公式情報と照らし合わせてください。

「ソースを教えて」と聞き返すときの落とし穴

「この情報のソースを教えて」と聞き返すのは、確認の入口になります。ただし、出てきたソース自体がハルシネーションのこともある点に注意してください。Anthropicの公式ヘルプも、もっともらしく見えるだけで事実に基づかない引用を返す可能性に触れています。

• 出てきたソースは、必ずクリックして開く
• 開けたら、書かれている内容と一致しているかを見る
• 開けない、または別物が出てきたら、そのソースは使えない

ソースを聞くのは、真偽を確かめる作業ではありません。裏取りの取っかかりをもらう作業だと考えると安全です。

やってみよう

回答を受け取ったら上から見る5つ

回答を受け取ったら、次の5つを上から見ていってください。

そもそもハルシネーションを減らすコツもあり、完全には防げなくても確率は下がります。Anthropicの公式ドキュメント「ハルシネーションを減らす」（※原文：Reduce hallucinations）でも、似たコツが紹介されています。

ハルシネーションは、Claudeだけの問題ではありません。生成AI全般に残る既知の制約です。

数字・固有名詞・URLや引用・強い断定を重点的に確かめて、影響の大きい判断では、もとの一次資料まで開いてください。

Claudeは下書きづくりと確認項目の整理に使い、事実を確定させるのは自分。この役割分担だけは崩さないようにしましょう。