ChatGPTなどの生成AIを使っていると、ときどき、もっともらしい間違いに出会います。
知らないなら「分かりません」と答えればよさそうなのに、存在しない本や論文、間違った日付、実在しない制度まで、まるで事実であるかのように説明することがあります。
こうした現象は一般にハルシネーション（hallucination）と呼ばれます。
でも、AIはなぜ単に間違えるだけでなく、それらしく間違えるのでしょうか。
理由をたどっていくと、生成AIが文章を作る仕組みと、「自然な文章」と「正しい事実」が必ずしも同じではないことが見えてきます。
ハルシネーションとは、事実と異なる内容をもっともらしく生成すること
ハルシネーションは、生成AIが事実と異なる内容を、もっともらしい文章として生成してしまう現象です。
たとえば、
- 実在しない本や論文を紹介する
- 人物の経歴や日付を取り違える
- 存在しない制度や法律を説明する
- 架空のURLや参考文献を挙げる
- 複数の出来事を混ぜて一つの事実のように説明する
といったことがあります。
米国立標準技術研究所（NIST）は、生成AIが誤った、または虚偽の内容を自信ありげに提示する現象をconfabulation（コンファビュレーション）として整理しています。これは一般にhallucinationやfabricationとも呼ばれます。
ここで重要なのは、AIが人間のように「間違ったことを本当だと信じている」わけではないことです。
文章が自信ありげに見えることと、その内容が確かであることは別です。
では、なぜそんなことが起きるのでしょうか。
生成AIは、常に正解を検索してから答えているわけではない
ハルシネーションを理解するうえで、大切なのが生成AIの基本的な仕組みです。
ChatGPTなどの大規模言語モデルは、大量の文章から言葉の関係を学び、文脈に応じて「次にどのトークンが続く可能性が高いか」を予測しながら文章を生成します。
たとえば、
日本の首都は
という文章があれば、その続きとして「東京」が非常に自然です。
ただし、
次に続きそうな言葉と、現実世界で正しい事実は、必ずしも一致しません。
たとえば、
○○大学の山田教授が2021年に発表した研究では……
という文章そのものは、とても自然に作れます。
「大学」「教授」「研究」「発表」といった言葉には、文章上の強い結びつきがあるからです。
しかし、その教授や研究が本当に存在するかどうかは別の問題です。
生成AIは、文脈に合った自然な文章を組み立てることに優れています。しかし、文章を生成していること自体が、その内容を外部の現実と照合していることを意味するわけではありません。
ここに、もっともらしい間違いが生まれる余地があります。
「東京」は答えやすくても、知られていない人の誕生日は難しい
では、生成AIが正確に答えられる質問も多いのはなぜでしょうか。
情報によって、モデルが比較的安定して答えやすいものと、そうでないものがあるからです。
たとえば、
- 日本の首都は東京
- 富士山は日本で最も標高が高い山
といった情報は、多くの文書で繰り返し扱われ、周囲の文脈にも多くの手がかりがあります。
一方で、
- あまり知られていない人物の誕生日
- マイナーな論文の正式タイトル
- 小規模な会社の過去の役員
- 特定イベントの細かな開催日
などは、文章のパターンだけから正確に推測することが難しくなります。
OpenAIが2025年9月5日に公開した「Why language models hallucinate」では、スペルのように規則性のあるものと、個人の誕生日のように規則性から推測しにくい事実が対比されています。
名前を見ても、その人の誕生日を導く法則はありません。
つまり、AIが文章のパターンを学ぶ能力を高めても、パターンだけでは決められない事実は残るということです。
ただし、よく登場する情報なら必ず正しく答えられるわけでもありません。
学習データに誤りや矛盾が含まれていたり、質問の仕方が曖昧だったり、複雑な推論が必要だったりすれば、身近なテーマでも間違えることがあります。
分からないなら「分かりません」と言えばいいのでは？
ここで最初の疑問に戻ります。
正確に分からないことがあるのなら、「分かりません」と答えればハルシネーションは減りそうです。
ところが、AIの評価方法によってはそう単純ではありません。
OpenAIは、ハルシネーションが残る一因として、不確かなので回答を控えるよりも、推測して答える行動の方が評価上有利になる場合があると指摘しています。
100問のテストを考えてみましょう。
分からない問題で、
A：分かりませんと答える
B：何か答えてみる
という2つの方法があるとします。
正解数だけで評価するなら、Aはその問題では必ず0点です。
しかしBなら、たまたま正解する可能性があります。
すると大量の問題を解いたとき、「分かりません」と答えるモデルより、積極的に推測するモデルのほうが正答率だけは高くなることがあります。
その代わり、誤答も増えます。
つまり、
たくさん正解することと、間違ったことを断定しないことは、同じ目標ではありません。
もちろん、これはハルシネーションの唯一の原因ではありません。
学習データの不足や誤り、質問の曖昧さ、長い文脈での取り違え、検索ツールを使った際の引用ミスなど、複数の要因が関係します。
なぜ間違っているのに「自信満々」に見えるのか
ハルシネーションで特に厄介なのは、間違いそのものより、文章だけでは間違いだと気づきにくいことかもしれません。
人間なら、
「たしか……」
「記憶が曖昧ですが」
「自信はありませんが」
といった話し方から、不確かさが伝わることがあります。
ところが生成AIでは、文章の流暢さと事実の確かさは必ずしも連動しません。
たとえば、
この制度は2018年4月1日に施行されました。
という文章は、正しい日付でも間違った日付でも、日本語として自然です。
AIにとって「自然な文章を作れること」と「2018年4月1日が本当に正しいと確認できていること」は別問題なのです。
だから、
文章がきれいだから正しい
説明が詳しいから調査済み
断定しているから確実
とは限りません。
AIを使ううえでは、この感覚を持っておくことがかなり重要です。
検索できるAIならハルシネーションはなくなる？
最近の生成AIは、必要に応じてWeb検索や外部データベースを使えるようになっています。
これはハルシネーションを減らすうえで有効です。
AI内部の知識だけで回答するのではなく、
質問 → 情報を検索 → 資料を参照 → 回答を作る
という流れにすることで、参照資料に基づいた回答を作りやすくなるからです。
ただし、検索機能があれば絶対に正しくなるわけではありません。
検索結果を読み違えたり、古い情報を使ったり、別々の資料を混同したりすることがあります。
引用元は正しくても、そこからAIが導いた結論が間違っていることもあります。
そのため、AIに任せやすいことと、確認した方がよいことを分けて考えると分かりやすくなります。
| AIに任せやすいこと | 確認した方がよいこと |
|---|---|
| アイデア出し | 日付 |
| 文章の整理 | 人名・役職 |
| 言い換え | 金額・統計 |
| 構成案 | 法律・制度 |
| 考え方の比較 | 引用・論文 |
| 長い文章の要約 | 最新情報 |
検索機能付きAIを使った場合でも、重要な情報なら次の3点は確認しておきたいところです。
- 引用元を実際に開き、本当にその内容が書かれているか
- 公開日や改定日を見て、現在も有効な情報か
- 法律・統計・研究などでは、できるだけ一次資料まで戻る
AIが出典を付けたことと、その主張が出典によって裏付けられていることも、同じではありません。
ハルシネーションは一つの原因だけで起こるわけではない
ハルシネーションという言葉からは、AIが突然おかしくなる特殊なバグのような印象も受けます。
しかし実際には、もっと複雑です。
生成AIは、大量の文章からパターンを学び、文脈に合った出力を作ることで、人間のような文章生成や要約、翻訳、分析などを実現しています。
その一方で、
- 学習した情報が不十分・古い・矛盾している
- 個別の事実をパターンだけでは導けない
- 不確実でも何か答えようとする
- 質問や文脈を取り違える
- 検索結果や資料の内容を統合するときに誤る
といったことが起こります。
つまり、
「もっともらしい文章を作れる能力」と「現実世界の事実を正しく確認する能力」には、まだ隙間があります。
その隙間に現れるのが、ハルシネーションだと考えると分かりやすいでしょう。
だから生成AIについて、「全部信用する」か「間違うから使えない」かの二択で考える必要はありません。
アイデアを広げる。文章を整理する。複雑な話を理解する。複数の見方を比較する。
そうしたことには積極的に使いつつ、重要な事実は元の資料に戻って確認する。
AIが便利になるほど、最後に「これは本当だろうか」と一度確かめることの価値も、むしろ大きくなっているのかもしれません。
参考文献
- OpenAI「Why language models hallucinate」（2025年9月5日公開）
https://openai.com/index/why-language-models-hallucinate/ - National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile（NIST AI 600-1）
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf - OpenAI Help Center「Does ChatGPT tell the truth?」
https://help.openai.com/en/articles/8313428
