ざっくり言うと

ハルシネーションとは、生成AIが事実と違う内容を、自然な文章で書いてしまう現象です。日本語では「幻覚」と訳されます。もっともらしいのに間違っている、と考えると分かりやすいです。

覚えておきたいのは、知らないことほどそれらしく書いてしまう、というクセです。これを頭の隅に置いておくだけで、回答を受け取るときの構えが変わります。

なぜ起きるのかは、用語集のハルシネーションにまとめています。ここでは、使う側としてどこで気づき、どう確かめるかに絞って整理します。

イメージ

AIに悪気があるわけではありません。生成AIは、学習したパターンとこちらの入力をもとに、もっともらしく続く文章を組み立てています。人のように真偽を確かめてから書いているとは限りません。

ですから、文章として自然かどうかと、中身が事実に合っているかどうかは、別々に確かめてください。

正確には

OpenAI（ChatGPTの提供元）は、2025年に解説記事「Why language models hallucinate」を公開しました。そのなかで、ハルシネーションを「言語モデルが自信ありげに生成する、もっともらしいが誤った主張」と定義しています。原文では「plausible but false statements」と書かれています。

同じ記事は、訓練と評価のしくみも一因だと整理しています。「分かりません」と答えるより、推測を返したほうが評価で得をする。そうした採点が続けば、AIは自信のない場面でも答えを出すようになる、という説明です。

総務省の『令和5年版 情報通信白書』は、生成AIの課題として、回答の正確性、機密情報・個人情報の取扱い、偽画像や権利侵害などを挙げています。自然な回答が正確とは限らないため、用途に合わせた確認が要ります。

個人情報保護委員会も、生成AIの回答に不正確な個人情報が含まれるリスクを踏まえ、その取扱いを適切に判断するよう注意喚起しています。

よく出会う4つのパターン

仕事のなかで出くわしやすいのは、次の4つです。見た瞬間に「これは怪しい」と思えるかどうかで、あとの手間が大きく変わります。

パターンどんな間違いかよくある例
① 数字を作る統計・件数・割合・金額を、それらしく作ってしまう「日本の◯◯市場は約1.2兆円規模」と断言するが、出典がなく実数とも合わない
② 固有名詞を取り違える人名・社名・製品名を混同したり、混ぜたりする「A社のB部長が2023年に発表した……」が、実際は別人・別の年
③ 出典やURLを作る存在しない書籍・論文・記事・URLを引用する「詳しくは『AI◯◯論』（◯◯出版、2021年）を参照」←その本は実在しない
④ 話の前後が食い違う同じ回答の中で、前半と後半の主張が合わない前半で「AはBより大きい」と書き、後半で「Bが最大」と結論

とくに気をつけたいのは③です。いかにもありそうな書名・著者・出版年で、実在しない資料を挙げてくることがあります。そのまま自分の資料に貼り付けると、あとで根拠を示せなくなります。

こんな場面で出やすい

警戒したいのは、答えに必要な材料がAIに渡っていないとき、検索や資料を参照できないとき、そして正確な根拠が要るときです。

  • 最新の情報や社外に出ていない情報が要る話題（制度変更・社内の事情など）
  • あまり知られていない固有名詞（地方の中小企業名、有名でない人物、ローカルな地名）
  • 正確な数字を求める質問（金額・日付・件数・割合）
  • 法律・税務・医療のように、正確さがすべての分野
  • こちらが誘導するような聞き方をしたとき（「◯◯ってありますよね？」と聞くと、無いものでも「あります」と返りがちです）

作文や言い換えのように、事実の正誤が中心にならない用途は、影響を抑えやすいほうです。ただし、要約でも元の資料にない内容が混ざることがあります。間違いが致命傷になる用途かどうかで、確認の厳しさを変えていきましょう。

注意点

実害の例

仕事では、AIを使ったかどうかにかかわらず、提出前に中身を確かめてください。出力をそのまま貼り付けず、自分の言葉で根拠を説明できる状態にしてから使いましょう。

やってみよう

間違いに気づくための3点セット

この構えを保つだけで、根拠のない内容をそのまま使ってしまう事故はぐっと減ります。AIの出力は下書き、最後の確認は人の仕事。この線引きだけは手放さないでください！

ハルシネーションを減らす聞き方や、仕事に合わせたファクトチェックのやり方は、同じ「使い方の基本」の章に記事があります。気になるところから読んでみてください。