ハルシネーションとは、AI が事実と違うことを、いかにも本当らしく書いてしまう現象です。実在しない論文を引用する、存在しない関数を解説する、起きていない出来事を語る——しかも文章は流暢で自信ありげなので、人は気づかずに信じてしまいます。本稿では「なぜ起こるのか」をモデルの仕組みから説明し、その上で「どう減らすか」を実務の手順として整理します。
Under the Hood
01原理：AI は「真実」ではなく「もっともらしさ」を選んでいる
大規模言語モデル（LLM）の動作は、煎じ詰めると「これまでの文章の続きとして、次に来る確率が最も高い単語」を一語ずつ選ぶことです。学習しているのは言葉の並びの統計であって、「それが真実かどうか」ではありません。つまりモデルが最大化しているのはもっともらしさ（plausibility）であって、真実（truth）ではない——ここがすべての出発点です。
では、もっともらしさを追うと、なぜ正しい答えも出れば嘘も出るのか。鍵は根拠が文脈に十分あるかどうかです。質問が明確で、答えを支える事実がモデルの中にしっかりある場合、「もっともらしい続き」と「真実」は一致します。しかし質問が曖昧だったり、学習データに薄い話題だったりすると、両者がずれ、モデルは「それらしく聞こえる作り話」で空白を埋めます。同じ予測の仕組みが、根拠の有無で正解にも捏造にも分岐するのです。
FIG.1 同じ予測エンジンが、根拠の有無という一点で「事実」と「捏造」に分岐する
02原因を 5 つに分解する
原理（もっともらしさの最大化）を出発点にすると、現場で見るハルシネーションは次の 5 つに整理できます。
真偽を直接学んでいない
次単語予測は「正しいか」ではなく「自然か」を学ぶ。流暢さと正確さは別物なので、滑らかな文章ほど誤りが紛れても気づきにくい。
知識の鮮度と網羅性の限界
学習はある時点（カットオフ）で止まる。最新の出来事や、ニッチで学習量の薄い話題では、空白を推測で埋めてしまう。
圧縮による細部の劣化
膨大な文章を限られたパラメータに圧縮しているため、固有名詞・数値・引用といった細部は「だいたい合っている」近似に化けやすい。
曖昧なプロンプトの過剰補完
「Aさんの経歴は？」のように対象が一意に定まらないと、モデルは確認せず、それらしい設定を勝手に補って答えてしまう。
「言い切る」よう仕向ける評価設計
後述するが、これは個々のモデルの欠陥というより、業界の評価のしかたが生む構造的な原因。最も見落とされがちな根っこ。
03なぜ消えないのか：評価が「自信ある推測」を褒めてきた
2025 年 9 月、OpenAI の研究（Kalai・Nachum「Why Language Models Hallucinate」）が、長年消えない理由に新しい説明を与えました。要点は「ハルシネーションはモデルの不具合というより、評価のしかたが生むインセンティブの問題だ」というものです。
多くのベンチマークは、正解なら加点、不正解なら 0 点、そして「分かりません」と答えても 0 点という採点をしてきました。この採点では、自信がないときでも当てずっぽうで言い切るほうが期待スコアが上がる。テストで分からない問題を空欄にせず、とりあえず埋める受験生と同じ構図です。こうしてモデルは「正直に黙る」より「堂々と推測する」よう最適化されてきた——これが、賢くなっても幻覚が残り続ける理由だと論文は指摘します。
FIG.2 棄権が 0 点だと、たまに当たる「言い切り」が常に有利になる（OpenAI 2025）
幻覚は「賢さが足りない」のではなく、「黙るより当てる」を褒めてきた採点の副産物でもある。
裏を返せば打ち手も見えます。自信のある誤りを、棄権よりも重く減点する——そして適切に「分かりません」と言えたら部分点を与える。こうした較正（キャリブレーション）を重んじる評価へ各社が移れば、モデルは「正直に不確かさを表明する」方向に学べる、というのがこの研究の提言です。2026 年に各社が「分からないと言えるモデル」を競っているのは、この流れの上にあります。
04緩和策：単発ではなく「多層フィルタ」で減らす
原因が複数ある以上、特効薬は存在しません。2026 年の実務では、独立した対策を重ねて通すほど誤りが減る「多層防御」が定石です。報告ベースでは、検索拡張・不確実性推定・自己整合・ガードレールを組み合わせると、幻覚をおおむね 4 割から、運用環境では最大 9 割超まで抑えた例があります（数字は条件依存。完全な除去は構造上できません）。
FIG.3 幻覚は「漏斗」のように、独立した層を通すほど絞り込まれる
① 根拠を外から与える
- RAG（検索拡張生成）：質問に関連する信頼できる文書を検索し、それを根拠にして答えさせる。学習データの境界を越えた知識を補い、出典付きで答えられるのが最大の利点。最も効果が大きく、まず検討すべき対策。
- ツール呼び出し（Tool Use）：計算は計算器、最新情報は検索 API、社内データは SQL に投げる。不得意分野を外部に委託して、モデルが記憶から「思い出そう」とする場面そのものを減らす。
② モデル自身に検証させる
- 推論（reasoning）系の活用：「順を追って考えて」と促す、あるいは思考過程を持つ推論モデルを使うと、途中の矛盾を自分で見つけやすくなる。
- 自己整合（Self-Consistency）：同じ問いを複数回サンプリングし、答えが揃うかを見る。揺らぐ＝不確かのサインとして扱える。
- 自己検証 / 検証モデル：いったん出した答えを文ごとに分け、根拠と照合する（chain-of-verification）。さらに専用の検証モデルに「確認済み／一部確認／未確認」を判定させる構成も実用化が進む。
③ 不確かさを表に出し、人が締める
- 「分からない」を許す指示：「根拠がなければ推測せず不明と答えて」と明示する。前章の通り、これは原理に直結した最も素直な対策。
- ガードレール：出力を別の仕組みで事実確認・整合チェックし、危ういものを止める。
- 人間レビュー：高リスク用途では最終確認は必ず人間。AI は下書きまで、判断は人間、を原則にする。
05プロンプトで効かせる：根拠の渡し方が品質を決める
RAG を入れても、取った文書をただ貼るだけでは、モデルは都合よく補完します。次の 3 点を指示に組み込むと、同じモデルでも誤りが目に見えて減ります。
- 根拠以外で断定させない（根拠になければ「不明」と返させる）
- 引用を必須にする（どの文書のどの部分を根拠にしたか明示させる）
- 足りなければ聞き返させる（曖昧な質問は確認質問を返させ、過剰補完を止める）
指示の例（方針部分）
あなたは提示された「根拠」だけに基づいて回答するアシスタントです。根拠にない事柄は推測せず「不明」と答えてください。回答には必ず根拠の引用（文書名・該当箇所）を含めてください。根拠が不足する場合は、不足している情報と確認したい質問を返してください。
06用途別：許容できる誤りの量で対策を決める
すべての用途に最大の対策を入れる必要はありません。誤りが出たときの被害の大きさで、かける対策の厚みを変えるのが現実的です。
| 用途と許容度 | 必要な対策の目安 |
|---|---|
| ブレスト・下書き（許容度 高） | 軽い人間チェックで十分 |
| マーケ記事・社内文書（中） | 事実確認＋ブランド/整合レビュー |
| カスタマーサポート（低） | RAG＋出典提示＋監視＋エスカレーション |
| 医療・法務・金融（極低） | RAG＋ツール＋人間の最終承認＋監査ログ |
07典型的な失敗パターン
原理を踏まえると、「どこで嘘が出やすいか」が予測できます。代表例を挙げます。
- 最新情報を尋ねる：カットオフ後の出来事を聞くと、起きていないニュースを生成しがち（原因②）。
- 架空の対象を要約させる：存在しない論文タイトルを渡すと、もっともらしい架空の要約を返す（原因①・④）。
- 細部の固有名・数値・引用：存在しない関数や条文、実在しない判例を「ありそうな形」で生成する（原因③）。実際に海外では、AI が作った架空判例を提出した弁護士が処分を受けた例がある。
いずれも根拠を外から与える（RAG・ツール）＋引用を強制するだけで大きく抑えられる、という点が共通しています。
The Takeaway
「信頼するな」ではなく「限界を設計に織り込む」
ハルシネーションは、もっともらしさを最大化するという LLM の仕組みそのものに根ざした特性であり、完全には消えません。だからこそ実務の答えは「AI を信じない」ことではなく、根拠を与え・検証を重ね・人が締める多層の仕組みを、用途の重大さに応じて組み込むことです。
仕上げに、評価のしかたが幻覚を生んできたという 2026 年の視点を思い出してください。私たち利用者の側も、断言の量ではなく「根拠を示し、分からないときは分からないと言えるか」でAIを評価する。その姿勢が、結局いちばん幻覚に強い使い方になります。
