title: "AIハルシネーション対策｜生成AIの誤情報を防ぐ実践的な方法"
slug: "hubspot-ai/ai-governance/ai-hallucination-prevention"
metaDescription: "生成AIのハルシネーション（幻覚・誤情報生成）の原因と対策を解説。RAG、ファクトチェック、プロンプト設計など、企業が実践できる具体的な防止策を紹介します。"
featuredImage: "https://www.start-link.jp/hubfs/blog-featured-images/ai.webp"
blogAuthorId: "166212808307"
contentGroupId: "166203508570"
keywords: ["ハルシネーション 対策", "AI 幻覚", "生成AI 誤情報"]
category: "BF_ai-governance"
生成AIが「もっともらしいが事実ではない情報」を生成する現象――ハルシネーション（Hallucination）は、企業のAI活用における最大の課題の1つです。
弁護士がChatGPTを使って作成した準備書面に実在しない判例が含まれていたニューヨークの事例（2023年6月）は、ハルシネーションのリスクを世界に知らしめました。ビジネスシーンでも、顧客への誤った製品情報の提供、存在しない統計データの引用、架空の企業事例の記載など、放置すれば信用毀損につながるリスクがあります。
| 原因 | 説明 |
|---|---|
| 学習データの限界 | LLMは確率的にトークンを生成するため、学習データに含まれない情報は「それらしく」でっち上げる |
| 情報の時間的ギャップ | 学習データのカットオフ以降の情報を正確に回答できない |
| 指示の曖昧さ | プロンプトが曖昧だと、AIが推測で情報を補完する |
| 自信過剰な応答 | LLMは「わからない」と答えるより、何らかの回答を生成するよう学習されている |
| 長文生成時の逸脱 | 長い文章を生成する途中で、文脈から逸脱した情報を挿入する |
社内のドキュメントやナレッジベースから関連情報を検索し、LLMの入力に追加する仕組みです。LLMが「知らないこと」を推測で回答する代わりに、正確な情報源を参照して回答できるようになります。
RAGの効果は検索精度に依存するため、ドキュメントのチャンキング、エンベディングモデルの選定、ハイブリッド検索の実装が重要です。
プロンプトに「回答の根拠となる情報源を明示してください。情報源が不明な場合はその旨を伝えてください」と追加します。出典が明示されれば、人間が検証可能になります。
「回答の確信度を1〜5段階で示してください。確信度が3以下の項目は明示してください」とプロンプトに追加します。AIの自己評価は完璧ではありませんが、不確実な部分を特定するヒントになります。
AIの出力に含まれる事実（数値、企業名、製品名、法律名、統計データ）を人間が必ず検証するプロセスを組織的に導入します。
| 出力の種類 | ファクトチェックレベル |
|---|---|
| 社外向け文書（提案書、ブログ、広告） | 全項目の事実確認必須 |
| 社内レポート | 数値・固有名詞の確認 |
| アイデア出し・ブレスト | チェック不要 |
ハルシネーションの発生率はモデルによって異なります。高精度が求められるタスクではAnthropicのClaudeやGPT-4oなど最新の大規模モデルを使い、コスト効率重視のタスクでは小型モデルを使う――タスクの重要度に応じた使い分けが有効です。
重要な回答は、複数のAIモデル（GPT-4o、Claude、Gemini）に同じ質問を投げ、回答が一致するかを確認します。回答が大きく異なる場合は、ハルシネーションの疑いがあるためより慎重な確認が必要です。
AIの出力に対してルールベースのフィルタリングを適用します。
| ツール | 特徴 | 用途 |
|---|---|---|
| Vectara HHEM | ハルシネーション評価モデル。RAG回答の整合性を検証 | RAG品質管理 |
| Galileo | LLMの出力品質モニタリング。本番環境での監視 | 運用監視 |
| Guardrails AI | 出力のバリデーション。構造化ルールで品質担保 | ガードレール実装 |
| DeepEval | LLMの回答精度をテスト。CI/CDに組み込み可能 | テスト自動化 |
みずほは、社内のAI利用において「Triple Check」体制を導入。AIの出力→担当者チェック→上長承認の3段階プロセスで、ハルシネーションによる誤情報の外部流出を防止しています。特にIR関連資料や顧客向け文書では、AI出力の全数確認を義務化しています。
富士フイルムBIは、社内ナレッジ検索AIにRAGを導入し、出典表示を必須化。回答とともに参照元ドキュメントのリンクを表示し、ユーザーが容易に原典を確認できる仕組みを構築しています。
CRMを中心とした業務データがAIの情報源として活用される場面が増えるほど、データの正確性・最新性が重要になります。CRMに蓄積された情報が正確であれば、RAGを通じてAIが参照するデータの信頼性も担保され、結果としてハルシネーションのリスクが低減します。ハルシネーション対策は、技術的な仕組みだけでなく、データガバナンスの整備から始まります。