本文へスキップ
なのはAI教室

ファクトチェックって何?

この記事は約6分で読めます

ざっくり言うと

ファクトチェックとは、AIの答えのうち確かめられる部分を抜き出して、その話に答えられる資料と突き合わせる作業です。ふだんの言葉でいう裏取りのことです。

AIは、事実と違う内容も自信ありげに書きます。この、もっともらしい間違いをハルシネーションと呼びます。ファクトチェックはその大事な備えですが、これひとつで安心とはいきません。検索との連携、評価テスト、使う場面をしぼること、人が最後に承認することなど、ほかの手立てと組み合わせて使います。

AIが書いたものは、まだ誰も確かめていない下書きです。確かめて、はじめて自分の名前で出せる文章になります。

イメージ

正確には

公的機関は、どう言っているのか

ファクトチェックの必要性は、公的機関の資料でも指摘されています。

機関資料言っていること
総務省令和6年版 情報通信白書生成AIの広まりで、偽・誤情報を作ることも広めることも簡単になったと整理。そのまま発信すると、誤情報を広げる側に回ってしまうおそれがある
文部科学省ガイドラインVer.2.0生成AIの出力を「あくまでも参考の一つ」であり「最適解とは限らない」と位置づける。最後は人が判断し、できあがったものに責任を持つという考え方。発達段階に応じて真偽を確かめる方法を学ぶことが望ましいとも述べる
NIST生成AIリスク管理プロファイルAIが誤った内容を自信を持って示す現象を「Confabulation」と整理。出力に出てくる情報源や引用を、続けて検証することをすすめる

3つに共通しているのは、AIもそう言っていた、では根拠にならないということです。大切なのは、主張と証拠を直接つき合わせたかどうかです。

AIの答えのうち、確かめるのはどこか

答えの全部が確認の対象になるわけではありません。まず探すのは、正しいか間違っているかがはっきり決まる部分です。

  • 数字（売上、人口、年号）
  • 固有名詞（会社名、人名、製品名、法律名）
  • 日付・期間（施行日、リリース日）
  • 法律・規約の条文

反対に、比喩や意見そのものは、真偽の判定になじまないことがあります。ただし、その意見の裏づけとして事実を挙げているなら、そこは確かめてください。一般論の中に混ざっていても同じです。

続けるコツは、確かめる場所を先に決めておくことです。印をつけるのは、数字・日付・会社名や人名・法律名の4つ。印のところだけ元の資料を開けば、手間はぐっと減ります。

どの資料なら、根拠になるのか

裏取りの確かさは、どの資料で確かめたかで決まります。この教科書では、資料の強さを3段階に分けて呼んでいます。

Tierどんな資料？ファクトチェックでの使い方
Tier 1公式ドキュメント、官公庁の資料、法令、規格、原著論文最初に当たる。ただし、その発行者が答えられる範囲の話に使う
Tier 2信頼できる報道、専門家の解説、分野をまとめた論文背景をつかむ、別の角度から照らし合わせる。できれば元の資料まで戻る
Tier 3個人ブログ、まとめサイト、SNS、出典の分からない記事手がかりにはなるが、大事な話の決め手にはしない

探すときは、AIの文章をそのまま検索窓に入れないでください。確かめたい名詞だけに絞り、「サービス名 料金 公式」「法律名 条文」「統計名 官公庁」のように発表元へ近づく言葉を足しましょう。開いたページの日付や改訂の履歴も一緒に見ておくと、古い情報をつかみにくくなります。

使う場面

どこまで確かめるかは、場面で変わります

場面ごとの目安をまとめました。

使う場面どこまで確かめる？
ブレスト・アイデア出しほぼ不要（確かめられる事実がほとんど出てこない）
文章のたたき台・要約使う目的に響く事実だけ確認
法律・税務・医療・契約の話一次資料まで戻り、必要なら有資格者や専門家に確認
製品の仕様・料金・モデル名公式サイトで今の表記を確認（すぐ変わるため）
歴史・統計・固有名詞の入った解説元の統計、公的資料、原著の研究で確認

迷ったら、この内容をお客さんや上司、SNSに出しても大丈夫か、と考えてみてください。自分だけのメモなら軽くて構いません。外に出す文章なら、確認を一段厚くします。

優先順位に迷ったときのものさしは、間違っていたときに誰かが困るかどうかです。

関連用語

  • ハルシネーション — 事実と違う内容を、AIが自然な文章で書いてしまう現象。ファクトチェックが必要になる大もとの理由
  • Web検索 — 最新情報をAIに取りに行かせる機能。裏取りの一部を任せられますが、一次資料を開くのは結局のところ人です
  • RAG（検索拡張生成） — 信頼できる文書から答えを引き出させる技術。ファクトチェックの手間を仕組みで減らすやり方

やってみよう

確かめる手順やプロンプト例、チェックリストは、別記事のファクトチェックの基本でくわしく扱っています。

よくある質問

Q. ファクトチェックとは何ですか?
A. AIの答えのうち確かめられる部分を抜き出して、その話に答えられる資料と突き合わせる作業です。ふだんの言葉でいう裏取りにあたります。
Q. AIの答えのうち、どこを確かめればいいですか?
A. 正しいか間違っているかがはっきり決まる部分です。数字、会社名や人名などの固有名詞、日付や期間、法律や規約の条文に印をつけておくと、確認の手間がぐっと減ります。
Q. どんな資料なら根拠になりますか?
A. 公式ドキュメント、官公庁の資料、法令、原著論文が最初に当たる資料です。ただし、その発行者が答えられる範囲の話に使います。個人ブログやまとめサイトは、大事な話の決め手にはしません。
Q. 毎回すべて確かめないといけませんか?
A. 場面で変わります。アイデア出しならほぼ不要で、法律や税務、料金や仕様のように間違うと誰かが困る話ほど確認を厚くします。外に出す文章は、一段ていねいに確かめてください。

公開: 更新: ✓ 公式情報と照合:

参考ソース

判断クイズ

AIが書いた文章のどこに印をつけて、どこまで裏を取るか決められますか？

3問です。答えるとその場で解説が出ます。全問終えたら、「回答を記録する」で学習の記録に残せます。

問1. AIが書いた紹介文を公開前に確認します。まずどこを見ますか？
問2. AIが書いてきたサービスの料金は、どこで確かめますか？
問3. 社内メモ用の要約と、お客さんに出す提案書。確認の厚さは同じですか？

全問に答えると、回答を記録できます。

残るのは「答えたかどうか」だけで、正解数は保存されません。この端末の中だけに残り、別の端末には引き継がれません。

この教科書は無料で全文公開しています。仕事で使えるところまで進みたい方は、実習と資料がそろった生徒プランをどうぞ。

生徒プランを見る(14日間無料)

あわせて読みたい