ハルシネーション（Hallucination）とは、AIが事実に基づかない情報を、あたかも正しいかのようにもっともらしく生成してしまう現象です。「幻覚」を意味する英単語から名付けられました。
ChatGPTやGeminiなどの生成AIを使っていると、存在しない論文を引用したり、架空の人物のプロフィールを語ったりすることがあります。出力が自然な文章であるため、誤りに気づきにくいのが厄介な点です。
この記事では、ハルシネーションが発生する原因、具体的な事例、実践的な対策・防止方法を解説します。
ハルシネーションの具体例
ハルシネーションには、以下のようなパターンがあります。
- 存在しない論文・書籍の引用：実在しない著者名・タイトル・出版年をもっともらしく提示する
- 架空の統計データの提示：「〇〇の調査によると△△%」など、存在しない調査結果を生成する
- 事実の混同：複数の人物や出来事の情報を混ぜ合わせて、事実と異なる回答をする
- 古い情報の提示：すでに変更・廃止されたサービスや制度を、現在も有効であるかのように回答する
- 架空のURLの生成：存在しないWebページのURLを出典として提示する
特に注意が必要なのは、ハルシネーションの回答が流暢で自然な文章で返ってくるため、一見すると正しい情報に見えてしまう点です。
裏を返すと、AIが「どういう仕組みで文章を作っているのか」を知っている人ほど、怪しい箇所に気づけます。生成AIの得意・不得意を体系的にまとめた入門書は、こうした感覚を身につけたい方の参考になります。
ハルシネーションが発生する原因
1. 学習データの限界
LLM（大規模言語モデル）は、インターネット上の大量のテキストデータから学習しています。しかし学習データには誤情報も含まれており、モデルが誤った情報を「正しい」と学習してしまうケースがあります。
また、学習データに含まれる情報が偏っている場合、特定の分野について不正確な知識を持ったモデルになってしまいます。たとえば英語のデータが多い傾向があるため、日本固有の制度や文化に関する知識は薄くなることがあります。
2. 確率的な文章生成の仕組み
LLMは「次に来る可能性が高い単語」を確率的に選んで文章を生成します。正確さではなく「もっともらしさ」を基準に生成するため、事実と異なる内容でも自然な文章として出力されてしまいます。
言い換えると、LLMは「真実を語る」のではなく「自然な文章を作る」ことを最適化されたモデルです。この根本的な設計が、ハルシネーションの本質的な原因です。
3. 学習データのカットオフ
LLMの学習データには時点（カットオフ）があり、それ以降の出来事や変更を知りません。最新の情報について質問されると、古い情報をもとに回答したり、推測で補ったりしてハルシネーションにつながります。
4. 知識の不足領域
学習データに含まれる情報が少ないニッチな分野では、モデルが「知らない」と答える代わりに、関連する知識から推測して回答を生成してしまいます。
5. 「わかりません」と言えない性質
LLMは質問に対して何かしらの回答を生成しようとする傾向があります。「知らない」「わからない」と答えるよりも、それらしい回答を生成してしまう場合があります。
ハルシネーションが引き起こすリスク
ハルシネーションは単なる「AIの間違い」では済まないケースがあります。
- 法的リスク：架空の法律や判例を根拠に法的アドバイスをしてしまう
- 医療リスク：誤った医療情報を提示し、健康被害につながる
- 信用リスク：企業の公式チャットボットが誤情報を提供し、信頼を失う
- 経済的リスク：誤った金融情報（金利・料金・為替レート等）で損害が発生する
- 教育リスク：学生がハルシネーションの情報をそのまま論文やレポートに使用する
ハルシネーションの対策・防止方法
ハルシネーションを完全にゼロにすることは現時点の技術では難しいですが、複数の対策を組み合わせることで発生を減らすことは可能です。
対策1：出典の確認を徹底する
AIが生成した情報は、必ず一次ソース（公式サイト・論文・公的統計）で裏取りしてください。特に数値データ・人名・日付・URL は要注意です。URLが存在するかどうかは、実際にブラウザでアクセスして確認しましょう。
この裏取り作業は、AIの画面と検索結果を行き来する回数が多いほど面倒になります。画面をもう1枚足して左右に並べられるようにしておくと、ウィンドウの切り替えが減って確認しやすくなります。
対策2：RAG（検索拡張生成）を導入する
AIに回答させる前に、信頼できるデータソースから関連情報を検索させるRAGの仕組みを導入することで、根拠のある回答を生成しやすくなります。社内システムへの導入で使われる方法です。RAGと並んでよく名前が挙がる、モデルに追加学習させる手法については、以下の記事で解説しています。
対策3：プロンプトで制約をかける
ハルシネーションを減らすためのプロンプト例
- 「わからないことは『わかりません』と答えてください」
- 「回答に使った情報の出典を明記してください」
- 「推測で補わないでください。確認できる事実のみ回答してください」
- 「数値やデータを提示する場合は、出典も一緒に提示してください」
- 「確信度が低い情報には『推測ですが』と前置きしてください」
対策4：温度パラメータ（Temperature）を下げる
APIを使う場合、Temperature（温度）パラメータを低く設定することで、AIの回答がより保守的になり、創造的な（つまり事実から逸脱した）回答が出にくくなります。正確性が求められる用途では低めの値に設定する方法があります。ただし、最近の一部のモデルではTemperatureを変更できない場合もあるため、使うモデルのAPIドキュメントで確認してください。
対策5：複数のAIで相互チェックする
1つのAIの回答を別のAIに検証させるクロスチェック手法もあります。異なるモデルで同じ質問に回答させ、矛盾がないか確認することで、誤りに気づきやすくなります（両方のAIが同じ誤りをすることもあるため、一次ソースでの確認は必要です）。
対策6：用途に応じてモデルを使い分ける
重要度の高い業務ではより保守的な設定で、アイデア出しなどの用途ではやや創造性を上げるなど、ユースケースごとに設定を変える方法があります。
ビジネスでの実践的なリスク管理
AIの出力を「下書き」として扱う
AIの出力を最終成果物ではなく、人間がレビュー・修正する前の下書きとして位置づけましょう。特に外部に公開する文書やお客様への回答では、必ず人間のチェックを挟むフローを設計してください。
利用ガイドラインを整備する
企業でAIを活用する際は、「AIの回答を鵜呑みにしない」「重要な情報は必ず一次ソースで確認する」「数値データは公式発表で裏取りする」などのガイドラインを策定し、社内に周知することが重要です。参考：総務省 AI利活用ガイドライン（国の指針は更新されることがあるため、最新版を確認してください）
ガイドラインをゼロから書き起こすのは負担が大きいため、他社の運用ルールや失敗事例がまとまった書籍をたたき台にする方法もあります。社内向けの説明資料を作るときにも使えます。
免責表示を掲載する
AIを活用した社内システムや顧客向けサービスには、「AIが生成した情報には誤りが含まれる場合があります」といった免責表示を掲載しておきましょう。
定期的な品質モニタリング
AIの回答品質を定期的にサンプリングして検証する仕組みを設けましょう。ハルシネーションの発生パターンを把握し、プロンプトやRAGの改善に活かすことが継続的な品質向上に役立ちます。
ハルシネーションが起きやすいジャンル
以下のジャンルはハルシネーションの影響が大きくなりやすいため、注意が必要です。
| ジャンル | リスクの理由 | 対策 |
|---|---|---|
| 医療・健康 | 学習データに古い医学情報が含まれる | 必ず医療専門家のレビューを入れる |
| 法律・制度 | 法改正の反映が遅れる | 最新の法令データベースで確認 |
| 料金・価格 | 価格改定が頻繁 | 公式サイトで最新料金を確認 |
| 人物情報 | 複数人物の情報が混同される | 公式プロフィールで裏取り |
| 統計・数値 | 出典不明の数値が生成される | 公的統計の原典で確認 |
よくある質問（Q&A）
Q. 最新の高性能モデルでもハルシネーションは起きますか？
はい、ChatGPT・Claude・Geminiなどの最新モデルでもハルシネーションは発生します。各社はモデルの改善を続けていますが、ゼロにはなっていません。
Q. ハルシネーションを検出するツールはありますか？
ファクトチェック用のAIツールや、出典検証システムが開発されています。ただし、すべてを確実に検出できるツールはまだ確立されていないため、人間による確認を省くことはできません。参考：AI総合研究所 ハルシネーション解説
Q. ハルシネーションは将来的に解消されますか？
LLMの仕組み上、完全にゼロにすることは難しいと考えられています。ただし、RAGの進化、モデルの改善、ファクトチェック技術の発展により、発生を減らす取り組みが進んでいます。「ゼロにする」のではなく「管理可能なレベルまで下げる」というアプローチが現実的です。
ハルシネーションへの備えとして、AIの出力を自分の目で確かめる力を基礎から養うという方法もあります。デイトラは、AI活用とそれを支える現場の知識をセットで学ぶことを掲げているオンラインスクールです。公式サイトでは40講座以上が学び放題の対象と案内され、20以上の無料公開レッスンも用意されています。詳しくは公式サイトで確認できます。
まとめ
ハルシネーションは、AIの仕組み上避けられない課題ですが、RAGの導入・プロンプト設計・人間によるレビューなど、複数の対策を組み合わせることでリスクを減らせます。
AIの出力を「答え」ではなく「たたき台」として捉え、重要な情報は必ず裏取りする習慣をつけましょう。AIとうまく付き合うためのリテラシーを持つことが、これからますます大切になります。
