ざっくり言うと
イメージ
正確には
公式ガイドの考え方を5つにまとめる
OpenAI、Anthropic、Googleの公式ガイドが案内している考え方を、はじめての方でも使える形で5つにまとめました。
| # | コツ | やること | 期待できること |
|---|---|---|---|
| 1 | 出典を頼む | 「出典のURLも併記して」と最初に伝える | 根拠を自分で確かめやすくなる |
| 2 | 観点を伝える | 「契約書を見る観点で」「税務の注意点として」と、見る角度を指定する | 答えの範囲を絞りやすくなる |
| 3 | 手順に分ける | 大きな依頼を小さな段階に分ける | 途中の抜けや誤りを確認しやすくなる |
| 4 | 答え方を決める | 「確証がなければ確認できないと答えて」と書き添える | 知らないことを作り話で埋めにくくなる |
| 5 | 引用と根拠を照らす | 資料から根拠を先に抜き出させ、答えたあとに主張と突き合わせさせる | 根拠のない断定を見つけやすくなる |
Anthropicの公式ガイド「Reduce hallucinations」は、次のような対策を挙げています。
- 分からないときは「分かりません」と答えていい、と許可する（原文では "I don't know"）
- 資料から直接引用を抜き出してから、答えてもらう
- 答えに付いた引用が、その主張を支えているかを検証してもらう
OpenAIは、必要な材料と指示をはっきり伝える方法を案内しています。Googleはそれに加えて、複雑な作業を分ける方法もすすめています。
使う場面
コツ1： 出典もいっしょに書いてもらう
もとの頼み方：
個人事業主の経費に計上できるものを教えて
直したあとの頼み方：
個人事業主の経費に計上できるものを教えてください。根拠となる公的サイトのURL（国税庁など）を併記してください。確認できない情報は「出典不明」と明記してください。
「出典不明」と書くルールを決めておくと、確かめていない情報がひと目で分かります。
ただし、AIは存在しないURLを書いてくることもあります。示されたページは自分で開いて、本文まで確かめてください。
コツ2： どの観点で見てほしいかを伝える
もとの頼み方：
契約書の文面、これでいい？
直したあとの頼み方：
中小企業の取引契約で確認されやすい観点に沿って、私が貼り付ける文面の注意点を3つまで指摘してください。
どんな立場で、どこを見てほしいのかを伝えると、AIは使う言葉とチェックの方向を絞れます。おかげで、話の脱線や、それっぽいだけの一般論が減ります。
ただし、資格の名前を出しても、AIが本物の専門家になるわけではありません。契約・税務・医療などの最終判断は、専門家や一次情報に戻してください。
コツ3： 大きな依頼は、手順に分けて頼む
もとの頼み方：
新サービスのLPの構成案を作って、キャッチコピーも考えて、料金プランも提案して
直したあとの頼み方：
以下を1ステップずつ進めてください。各ステップ終了後、私が「次へ」と言うまで止まってください。
- ターゲット顧客の整理
- LPの構成案（セクション見出しのみ）
- 各セクションの本文
- キャッチコピー候補3つ
- 料金プラン案
一度にまとめて頼むと、途中の失敗に気づけません。
小さく分けておけば、段階ごとに抜けや誤りを確認できます。完成品をいきなり求めるより、途中で直すほうがずっと楽です。
コツ4：分からないときの答え方を決めておく
もとの頼み方：
2024年の○○の制度改正について教えて
直したあとの頼み方：
2024年の○○の制度改正について教えてください。確証がない情報は答えず、「確認できませんでした」と回答してください。出典が出せる範囲だけで結構です。
「分からないと言っていい」とはっきり許可すると、作り話で埋めた答えが減ります。
Anthropicの公式ガイドも、AIに逃げ道を与えることを独立した項目として挙げています（原文の見出しは「Give Claude an "out"」）。
コツ5： 引用を先に出させて、あとで突き合わせる
もとの頼み方：
添付した調査報告書を読んで、重要な傾向をまとめて
直したあとの頼み方：
添付した調査報告書だけを使ってください。まず、重要な主張を支える箇所を原文のまま引用し、ページ番号や見出しを添えてください。次に、その引用だけを根拠として要点をまとめてください。回答後、主張ごとに引用が根拠になっているか再確認し、根拠がないものは「確認できない」と明記してください。
先に引用を出してもらうと、答えが資料のどこに基づいているのかを確かめやすくなります。
答えたあとの照合まで頼めば、「引用はあるけれど、その主張までは支えていない」というズレにも気づけます。
とはいえ、引用そのものが正しいとはかぎりません。大事なところは原文を開いて、自分の目で見てください。
Temperatureを下げても、正しくはなりません
Temperatureは、対応しているモデルで、答えの再現性や言葉選びのばらつきを調整する設定です。低くすると似た答えが出やすくなりますが、事実が正しくなるわけではありません。
GoogleはGemini 3系について、既定値のまま使うことをすすめています。値を下げると、かえって思わぬ動きになる場合があると案内しています。
また、Claude Sonnet 5のように、既定以外のtemperatureを受け付けないモデルもあります。指定すると400エラーです。設定を変えるときは、使うモデルの公式仕様を確かめてください。
つまり、この設定はハルシネーション対策の代わりにはなりません。まずは5つのコツと、人の目による確認を優先しましょう。
Web検索が使えるなら、いっしょに使う
使っているサービスにWeb検索の機能があれば、事実を確かめたい依頼で併用できます。画面の表記や使える条件は変わるため、使う時点の公式案内を見てください。
事実確認が必要なときは、「Webを検索して、根拠URLを併記して回答してください」と一文添えてみましょう。AIの中の記憶だけに頼らず、検索した時点の情報をもとに答えてもらいやすくなります。
ただし、URLや引用の中身が間違っていることもあります。大事な情報は、リンク先を自分で開いて確かめてください。
注意点
やってみよう
次は、AIの答えそのものを確かめる記事「ファクトチェックの基本」へ進むのがおすすめです。