ハルシネーション(嘘・勘違い)とは

ざっくり言うと

イメージ

AIに悪気があるわけではありません。生成AIは、学習したパターンとこちらの入力をもとに、もっともらしく続く文章を組み立てています。人のように真偽を確かめてから書いているとは限りません。

ですから、文章として自然かどうかと、中身が事実に合っているかどうかは、別々に確かめてください。

正確には

OpenAI（ChatGPTの提供元）は、2025年に解説記事「Why language models hallucinate」を公開しました。そのなかで、ハルシネーションを「言語モデルが自信ありげに生成する、もっともらしいが誤った主張」と定義しています。原文では「plausible but false statements」と書かれています。

同じ記事は、訓練と評価のしくみも一因だと整理しています。「分かりません」と答えるより、推測を返したほうが評価で得をする。そうした採点が続けば、AIは自信のない場面でも答えを出すようになる、という説明です。

総務省の『令和5年版 情報通信白書』は、生成AIの課題として、回答の正確性、機密情報・個人情報の取扱い、偽画像や権利侵害などを挙げています。自然な回答が正確とは限らないため、用途に合わせた確認が要ります。

個人情報保護委員会も、生成AIの回答に不正確な個人情報が含まれるリスクを踏まえ、その取扱いを適切に判断するよう注意喚起しています。

よく出会う4つのパターン

仕事のなかで出くわしやすいのは、次の4つです。見た瞬間に「これは怪しい」と思えるかどうかで、あとの手間が大きく変わります。

とくに気をつけたいのは③です。いかにもありそうな書名・著者・出版年で、実在しない資料を挙げてくることがあります。そのまま自分の資料に貼り付けると、あとで根拠を示せなくなります。

こんな場面で出やすい

警戒したいのは、答えに必要な材料がAIに渡っていないとき、検索や資料を参照できないとき、そして正確な根拠が要るときです。

• 最新の情報や社外に出ていない情報が要る話題（制度変更・社内の事情など）
• あまり知られていない固有名詞（地方の中小企業名、有名でない人物、ローカルな地名）
• 正確な数字を求める質問（金額・日付・件数・割合）
• 法律・税務・医療のように、正確さがすべての分野
• こちらが誘導するような聞き方をしたとき（「◯◯ってありますよね？」と聞くと、無いものでも「あります」と返りがちです）

作文や言い換えのように、事実の正誤が中心にならない用途は、影響を抑えやすいほうです。ただし、要約でも元の資料にない内容が混ざることがあります。間違いが致命傷になる用途かどうかで、確認の厳しさを変えていきましょう。

注意点

実害の例

仕事では、AIを使ったかどうかにかかわらず、提出前に中身を確かめてください。出力をそのまま貼り付けず、自分の言葉で根拠を説明できる状態にしてから使いましょう。

やってみよう

間違いに気づくための3点セット

この構えを保つだけで、根拠のない内容をそのまま使ってしまう事故はぐっと減ります。AIの出力は下書き、最後の確認は人の仕事。この線引きだけは手放さないでください！

ハルシネーションを減らす聞き方や、仕事に合わせたファクトチェックのやり方は、同じ「使い方の基本」の章に記事があります。気になるところから読んでみてください。