ハルシネーション(嘘・勘違い)とは

ざっくり言うと

「なぜ起きるのか(技術的な理由)」は別の記事で解説しているので、ここでは 使う側として『どこに気付き、どう対処するか』 に絞って整理します。

イメージ

正確には

OpenAI(ChatGPT 提供元)は、2025 年に公開した解説記事「Why language models hallucinate」の中で、ハルシネーションを 「言語モデルが自信ありげに生成する、もっともらしいが誤った主張(plausible but false statements)」 と定義しています。さらに、同記事では、モデルが 「分かりません」と答えるより推測を返す方が評価で得をする ような訓練・評価の仕組みになっていることが、ハルシネーションを助長する一因だと整理されています。

総務省『令和 5 年版 情報通信白書』 の生成AI 特集でも、生成AI の課題のひとつとして「もっともらしい虚偽の情報(ハルシネーション)を出力するリスク」が明示的に挙げられており、利用者側でのファクトチェックの重要性が強調されています。

IBM の生成AI 解説でも、生成AI は 「学習データのパターンに基づいて、新しいコンテンツを生成する」 モデルであり、出力の正しさを保証する仕組みは内蔵されていない、という前提が示されています。だから「自然な文章を作る」のは得意でも、「事実かどうか」は別問題、という構図です。

ハルシネーションの代表パターン

実務でよく出くわすパターンを 4 つに整理しておきます。遭遇した瞬間に「これはハルシネかも」と気付けるかどうかが、被害の大きさを決めます。

パターン	どんな間違い?	よくある例
① 数値の捏造	統計・件数・割合・金額などをそれっぽく作る	「日本の◯◯市場は約 1.2 兆円規模」と断言するが、出典なし・実数と乖離
② 固有名詞の混同	人名・社名・製品名を取り違える、合体させる	「A 社の B 部長が 2023 年に発表した……」が、実際は別人・別年
③ 出典・URL の捏造	存在しない書籍・論文・記事・URL を引用する	「詳しくは『AI ◯◯論』(◯◯出版、2021 年)を参照」 ← その本は実在しない
④ 論理矛盾・自己破綻	同じ回答の中で前後の主張が食い違う	前半「A は B より大きい」と書きつつ、後半で「B が最大」と結論

こんな場面で出やすい

ハルシネーションは、AI が「知らない領域」に踏み込んだときに出やすくなります。具体的にはこんな場面です。

• 学習データの締切より新しい話題(締切後の制度変更・新製品など)
• マイナーな固有名詞(地方の中小企業名・あまり有名でない人物・ローカルな地名)
• 正確な数字を求められる質問(金額・日付・件数・割合)
• 法律・税務・医療など「正確さがすべて」の領域
• ユーザー側が誘導的に質問しているとき(「◯◯ってありますよね?」と聞くと、無いものでも「あります」と返しがち)

逆に、一般的な作文・要約・たたき台作りなどは比較的事故が少ない領域です。「ハルシネが致命傷になる用途かどうか」で警戒レベルを変える、という割り切りが現実的です。

実害の例

やってみよう

次のステップとして、ハルシネーションを起こりにくくする聞き方のコツや、業務に合わせたファクトチェックのやり方を知りたい方は、同じ「使い方の基本」の章にある関連記事(ハルシネを減らす聞き方 / ファクトチェックの基本 など)へ進んでみてください。