ハルシネーションを減らす5つのコツ

ざっくり言うと

イメージ

正確には

公式ガイドの考え方を5つにまとめる

OpenAI、Anthropic、Googleの公式ガイドが案内している考え方を、はじめての方でも使える形で5つにまとめました。

Anthropicの公式ガイド「Reduce hallucinations」は、次のような対策を挙げています。

• 分からないときは「分かりません」と答えていい、と許可する（原文では "I don't know"）
• 資料から直接引用を抜き出してから、答えてもらう
• 答えに付いた引用が、その主張を支えているかを検証してもらう

OpenAIは、必要な材料と指示をはっきり伝える方法を案内しています。Googleはそれに加えて、複雑な作業を分ける方法もすすめています。

使う場面

コツ1： 出典もいっしょに書いてもらう

もとの頼み方：

個人事業主の経費に計上できるものを教えて

直したあとの頼み方：

個人事業主の経費に計上できるものを教えてください。根拠となる公的サイトのURL（国税庁など）を併記してください。確認できない情報は「出典不明」と明記してください。

「出典不明」と書くルールを決めておくと、確かめていない情報がひと目で分かります。

ただし、AIは存在しないURLを書いてくることもあります。示されたページは自分で開いて、本文まで確かめてください。

コツ2： どの観点で見てほしいかを伝える

もとの頼み方：

契約書の文面、これでいい？

直したあとの頼み方：

中小企業の取引契約で確認されやすい観点に沿って、私が貼り付ける文面の注意点を3つまで指摘してください。

どんな立場で、どこを見てほしいのかを伝えると、AIは使う言葉とチェックの方向を絞れます。おかげで、話の脱線や、それっぽいだけの一般論が減ります。

ただし、資格の名前を出しても、AIが本物の専門家になるわけではありません。契約・税務・医療などの最終判断は、専門家や一次情報に戻してください。

コツ3： 大きな依頼は、手順に分けて頼む

もとの頼み方：

新サービスのLPの構成案を作って、キャッチコピーも考えて、料金プランも提案して

直したあとの頼み方：

以下を1ステップずつ進めてください。各ステップ終了後、私が「次へ」と言うまで止まってください。

1. ターゲット顧客の整理
2. LPの構成案（セクション見出しのみ）
3. 各セクションの本文
4. キャッチコピー候補3つ
5. 料金プラン案

一度にまとめて頼むと、途中の失敗に気づけません。

小さく分けておけば、段階ごとに抜けや誤りを確認できます。完成品をいきなり求めるより、途中で直すほうがずっと楽です。

コツ4：分からないときの答え方を決めておく

もとの頼み方：

2024年の○○の制度改正について教えて

直したあとの頼み方：

2024年の○○の制度改正について教えてください。確証がない情報は答えず、「確認できませんでした」と回答してください。出典が出せる範囲だけで結構です。

「分からないと言っていい」とはっきり許可すると、作り話で埋めた答えが減ります。

Anthropicの公式ガイドも、AIに逃げ道を与えることを独立した項目として挙げています（原文の見出しは「Give Claude an "out"」）。

コツ5： 引用を先に出させて、あとで突き合わせる

もとの頼み方：

添付した調査報告書を読んで、重要な傾向をまとめて

直したあとの頼み方：

添付した調査報告書だけを使ってください。まず、重要な主張を支える箇所を原文のまま引用し、ページ番号や見出しを添えてください。次に、その引用だけを根拠として要点をまとめてください。回答後、主張ごとに引用が根拠になっているか再確認し、根拠がないものは「確認できない」と明記してください。

先に引用を出してもらうと、答えが資料のどこに基づいているのかを確かめやすくなります。

答えたあとの照合まで頼めば、「引用はあるけれど、その主張までは支えていない」というズレにも気づけます。

とはいえ、引用そのものが正しいとはかぎりません。大事なところは原文を開いて、自分の目で見てください。

Temperatureを下げても、正しくはなりません

Temperatureは、対応しているモデルで、答えの再現性や言葉選びのばらつきを調整する設定です。低くすると似た答えが出やすくなりますが、事実が正しくなるわけではありません。

GoogleはGemini 3系について、既定値のまま使うことをすすめています。値を下げると、かえって思わぬ動きになる場合があると案内しています。

また、Claude Sonnet 5のように、既定以外のtemperatureを受け付けないモデルもあります。指定すると400エラーです。設定を変えるときは、使うモデルの公式仕様を確かめてください。

つまり、この設定はハルシネーション対策の代わりにはなりません。まずは5つのコツと、人の目による確認を優先しましょう。

Web検索が使えるなら、いっしょに使う

使っているサービスにWeb検索の機能があれば、事実を確かめたい依頼で併用できます。画面の表記や使える条件は変わるため、使う時点の公式案内を見てください。

事実確認が必要なときは、「Webを検索して、根拠URLを併記して回答してください」と一文添えてみましょう。AIの中の記憶だけに頼らず、検索した時点の情報をもとに答えてもらいやすくなります。

ただし、URLや引用の中身が間違っていることもあります。大事な情報は、リンク先を自分で開いて確かめてください。

注意点

やってみよう

次は、AIの答えそのものを確かめる記事「ファクトチェックの基本」へ進むのがおすすめです。