「AIが答えたから、これで間違いないはず」。そう思っていたら、営業時間が違ったり、存在しない資料を紹介されたりすることがあります。
生成AIは、文章を作ったり情報を整理したりするのは得意でも、その内容が現実と一致していると保証することは苦手です。 知らないことを推測で埋めたり、新しい情報を確認しないまま答えたりする場合があります。
この記事では、生成AIが苦手な4つのことを、身近な失敗例と確認方法で整理します。必要以上に怖がるのではなく、AIに任せる準備と、人が確かめる部分を分けることが目標です。
ざっくり言うと
| 生成AIが苦手なこと | 起こりやすい失敗 | どう補えばいい？ |
|---|---|---|
| 知らない事実を正しく見極める | 架空の営業時間・人名・引用を本当らしく答える | 公式ページや元の記録へ戻る |
| 今日変わった情報を把握する | 古い料金・運休前の時刻・在庫を案内する | 検索機能で調べ、日付と発表元を確認する |
| 資料にないことを勝手に決めない | 未定の予算や担当者を補ってしまう | 元資料を渡し、不明点は「未定」と書かせる |
| 作業の正確さと結果を保証する | 検索・集計の対象を取り違えたり、誤った結論を出す | 使用データ・計算式・出典を見直し、最終判断は人がする |
読みやすい答え＝正しい答え、ではありません。 この違いを知るだけで、生成AIを使うときの判断がかなり楽になります。
イメージ
1. もっともらしい間違いを作ることがある
「パン工房こむぎ堂は日曜日も午前9時から営業しています」。AIがそう答えたとしましょう。ここでの店名と営業時間は、説明のための架空の例です。
問題は、確かめる資料がないのに、具体的な時刻まで自然に答えてしまうことです。生成AIは、文章の流れに合う言葉を組み立てるため、知らない事実をそれらしく補う場合があります。
このような、事実と違う内容や根拠のない内容をもっともらしく生成する現象を「ハルシネーション」と呼びます。
- 存在しない本や論文の題名を答える
- 実際とは違う日付や人名を示す
- 架空の引用文を、実在する人の発言として紹介する
- 元の資料に書かれていない数字を補う
OpenAIも、ハルシネーションが現在の言語モデルに残る課題だと説明しています。2025年の研究解説では、分からないと認めるより推測した答えが評価されやすい仕組みを、その一因として挙げています。
自信のある口調や、細かい数字は証拠になりません。 固有名詞、数字、引用が重要なら、一次情報（発表元の案内や元の記録）で確認しましょう。
正確には
2. 最新の出来事は、検索しないと分からない場合がある
「今日の営業時間」「明日の運休」「いまの在庫」「今年変更された申込条件」は、時間とともに内容が変わります。
生成AIが学習済みの知識だけで回答している場合、学習後に起きた変更をそのまま知ることはできません。 ただし、Web検索などの機能が使える環境では、新しい公開情報を取りに行けます。「AIは最新情報を一切調べられない」という意味ではありません。
それでも、検索すれば必ず正しいわけではありません。
- 店舗の古い案内や、別の支店の営業時間を拾う
- 開催日が去年のイベント記事を引用する
- 在庫や空席など、Webに掲載されていない変更を把握できない
- 正しいページを見つけても、注意書きや条件を読み落とす
たとえば電車の運休を知りたいなら、検索結果を手がかりにして、鉄道会社の公式運行情報を開き、対象の路線・日付・更新時刻を確かめます。
重要なのは「検索したか」だけでなく、「どこの、いつの、何についての情報か」です。
3. 渡していない事実や、まだ決めていないことは分からない
家族のメモに「新幹線で東京から名古屋へ帰省する。候補日は8月10日か11日」とだけ書いてあるとします。
このメモから、AIは相談用の文章を作れます。しかし、次のことは分かりません。
- 出発日を10日と11日のどちらに決めたか
- 何時の列車を使うか
- 誰が予約するか、予算はいくらか
AIがそれらを決めたように書けば、メモにないことを勝手に補ったことになります。
こんなときは「書かれていない情報は推測せず、未定としてください」と頼みましょう。必要な資料が別にあるなら、それも渡します。
| メモにある情報 | AIにしてもらうこと |
|---|---|
| 東京から名古屋へ帰省する | 決定済みの項目として整理する |
| 候補日は8月10日または11日 | どちらにするか相談する質問を作る |
| 時間帯・予約者・予算は記載なし | 「未定」と書く。決定事項にしない |
資料の中身を読めるAIでも、渡されていない資料に書かれた事実までは自動で知りません。 ファイルを渡したときも、どのページ・どの行を根拠にしたのか確認してください。
4. 「検索した」「計算した」という説明だけでは確認済みにならない
生成AIには、Web検索やコード実行、ファイル分析を使えるものもあります。これらは情報収集や正確な計算に役立ちますが、機能を使ったという言葉だけでは、結果の正しさは保証されません。
| AIの説明 | 何を確認する？ |
|---|---|
| 「公式サイトで検索しました」 | リンクを開き、発表元・対象・日付・本文が一致するか |
| 「出典によると○○です」 | 出典が実在し、その文章が本当に書かれているか |
| 「コードで計算しました」 | 入力値・計算式・集計範囲・実行結果が一致するか |
| 「添付した表を分析しました」 | 正しいシート・列・期間・単位を使っているか |
たとえば、1月から3月の売上合計を頼んだのに、AIが4月も含めて集計していたら、計算自体が正確でも結論は間違います。
OpenAIのデータ分析ヘルプも、コード・結果・前提条件を確認するよう案内しています。ツールの実行履歴や集計結果を確認できる場合は、それを見て判断しましょう。表示されない場合は、実行済みと決めつけず、計算方法や検証可能な元データを確認します。
5. 「本当ですか？」と聞き直すだけでは裏取りにならない
AIから「日曜日は9時開店」と返ってきたあとに、「本当に9時ですか？」と尋ねると、同じ答えが返ったり、別の時刻に訂正されたりします。
でも、それだけでは独立した事実確認になっていません。 同じ会話の中で、推測を言い直しただけかもしれないからです。
確認したいときは、次の順番にしましょう。
- 何が事実として必要かを決める（例：今週日曜日の開店時間）。
- 情報の発表元を探す（例：その店の公式案内や店舗への確認）。
- AIの回答と元情報を照らし、確認できないことは保留にする。
「公式ページのURLと、営業時間の記載箇所を示して」と頼むのは役に立ちます。ただし、そのURLが存在しても、書かれた内容と回答が一致するかは自分で確認してください。
6. 最後の決定や責任を、AIに任せきりにしない
AIは選択肢を並べたり、条件の比較表を作ったりするのに便利です。一方、実際に申し込む・契約する・お金を払う・個人情報を渡すといった決定は、人が内容を確認して行う必要があります。
特に注意が必要なのは、次のような場面です。
- お金：料金・手数料・キャンセル条件を確認する
- 契約・法律：条文や公的な手続きの原文、必要なら専門家を確認する
- 健康・医療：AIの説明だけで診断や治療を決めない
- 仕事の資料：社外秘や顧客情報を入力する前に、利用ルールと共有範囲を確認する
「AIがすすめたから」という理由だけでは、間違いが起きたときの対応はできません。
AIに下書き・整理・比較を任せることと、重要な条件を確認して採用することを分けましょう。これが、便利さを失わずに使う基本です。
7. 苦手なことを補う、すぐ使える依頼文
先ほどの帰省メモを整理するときは、こんな依頼が使えます。以下の家族構成や日付は練習用の架空例です。
次の情報だけを使って、家族で帰省日を決めるための相談メモを作ってください。
【分かっていること】
・東京から名古屋へ新幹線で帰省する
・参加者は大人2人、子ども1人
・候補日は8月10日または11日
・集合場所は東京駅の丸の内南口
【まだ決まっていないこと】
・出発日、出発時間帯、予約する人、予算
【守ってほしいこと】
・与えた情報以外の時刻、料金、列車名、担当者は作らない
・決まっていない項目は「未定」と書く
・見出しを「決定済み」「未定」「次に確認すること」に分ける
・家族で話し合うための質問を4問付ける
返答が出たら、「未定」の4項目が勝手に決定済みに変わっていないか確かめましょう。うまく整理できていれば、家族の相談で決める順番が見えます。
実際に予約へ進むときは、その時点の鉄道会社の公式情報で運行時刻・空席・料金・変更条件を確認してください。
これは「AIを使わない方がよい」という例ではありません。AIに相談の準備を任せ、最新情報の確認と決定は家族が行う使い方です。
8. 迷ったら「知っている？・確かめた？・誰が決める？」の3点を見る
生成AIの答えを受け取ったとき、毎回すべてを疑う必要はありません。ただし、重要な情報については次の3点を見ます。
- 知っている？ 元資料や必要な事実が、AIに渡されているか。
- 確かめた？ 新しい情報なら、公式の発表元・対象・日付まで確認したか。
- 誰が決める？ 契約・予約・支払いなど、実行前の最終確認者は誰か。
たとえば、案内文の言い換えなら文章を見直せば十分なことが多いでしょう。しかし、予約日・金額・健康に関する内容なら、その内容を左右する元情報まで確認する必要があります。
AIに任せる作業を増やすほど、どこを確認するかを明確にする。その考え方が大切です。
よくある質問
やってみよう
判断クイズ
第1問
AIが「近所のパン屋は日曜日の9時に開店します」と答えました。今日の営業を確かめるには？
- A. 同じAIに「間違いありませんか？」と聞く
- B. 店舗の公式案内や店舗への確認で、今日の営業時間を調べる
第2問
家族の帰省メモには候補日だけが書かれています。AIが「予約担当はお父さん、予算は5万円」と補いました。どうする？
- A. よくある設定なので採用する
- B. 元メモにないため「未定」に戻し、家族へ確認する
第3問
AIが「売上表をコードで集計しました」と説明しました。結果を使う前に確認するのは？
- A. 使った列・集計期間・計算結果が元の表と一致しているか
- B. 説明が自信に満ちているか
あわせて読みたい
締めに
まとめ
生成AIが苦手なのは、知らない事実を必ず見極めること、今日変わった情報を確実に知ること、作業結果の正しさを保証すること、そして現実の判断に責任を負うことです。
「分からないことは未定にする」「重要な情報は元の資料や公式情報へ戻る」「最終判断は人がする」。この3つを意識すれば、AIに準備を任せながら、間違った決定を避けやすくなります。
AIは答えをすべて保証する道具ではありません。それでも、次に確認することを整理し、人が判断する材料をそろえる頼もしい補助役になります。