AIがまちがいを本当のように言うのはなぜ?

コハク
コハクAIが、ありもしないことを自信たっぷりに答えることがありますの。どうしてでしょう?
30秒でわかる答え
コハクもとになるのは、次のことばを予想するしくみと、テストの点のつけ方ですのよ。

AIのチャットは、次に続きそうなことばを選んで文を作るので、答えの手がかりが少ない質問でも、それらしい文ができてしまいます。さらに、正解の数だけで点をつける試験では「分かりません」は0点のため、推測で答える方が成績が良く見え、その答え方が残りやすいとOpenAIは説明しています。

コハク
コハクそれでは、くわしく解説していきますわね。
暑い日の道路の先が、水たまりのように光って見える逃げ水
暑い日の道路に見える「逃げ水」。本当はない水が、あるように見えます。写真:Michael from Calgary, AB, Canada / CC BY 2.0 / ウィキメディア・コモンズ

もっともらしいまちがいは「ハルシネーション」

AIの会社OpenAIは、AIが自信ありげに作る、もっともらしいけれど正しくない文を「ハルシネーション」と呼んでいます。たとえば、広く使われているチャットに、ある研究者の博士論文の題名を聞くと、3つの違う題名が返ってきて、どれも正しくありませんでした。誕生日を聞いた時も、3つの違う日付が返り、すべてまちがっていました。

めったに出てこない事実ほど、まちがいやすい

AIのもとになるモデルは、大量の文章で次のことばを予想する練習(事前学習)をします。この文章には「正しい」「まちがい」の札は付いていません。つづりやかっこの閉じ方のように決まった型があるものは、学習が進むとまちがいが消えていきます。いっぽう、ペットの誕生日のように、めったに出てこず型から予想できない事実は、まちがいが起きやすいと説明されています。

図:まちがいが消えるもの、残るもの
道がはっきりした地図と、途中で切れた道の先にことばのカードで道を作ってしまう地図、試験の答案の比べ
  1. 1手がかりの多い質問(道がはっきりした地図)
  2. 2手がかりの少ない質問(途中で道が切れた地図)
  3. 3それらしいことばを並べて作られた、ないはずの道
  4. 4空欄だと点がなく、推測で埋めると点が入ることもある試験

テストでは、推測した方が点が高く見える

OpenAIは、選択式のテストにたとえています。分からなくても当てずっぽうで答えれば当たるかもしれませんが、空欄は必ず0点です。誕生日を聞かれて「9月10日」と答えれば、365分の1の確率で当たります。正しい答えの割合だけで比べる評価が多いため、推測するモデルの方が成績が良く見えてしまいます。SimpleQAという質問のテストでは、gpt-5-thinking-miniは52%の質問で答えを控え、正解は22%、まちがいは26%でした。o4-miniは控えたのが1%で、正解は24%と少し多いものの、まちがいは75%でした。

図:答えを控えるか、推測するか
gpt-5-thinking-mini答えを控えた52%正しい答え22%まちがった答え26%o4-mini答えを控えた1%正しい答え24%まちがった答え75%

OpenAIが示したSimpleQAのテストの結果より。

コハク
コハク空欄は0点、当てずっぽうなら当たるかも。テストの悩みは、AIにもありますのね。

採点の見直しと、使う側の確かめ

そこでOpenAIは、自信のあるまちがいを「分かりません」より重く減点し、不確かだと伝えた答えに部分点をあげる採点に変えるべきだと提案しています。マサチューセッツ工科大学(MIT)の資料も、生成AIは高度な予測変換のように働き、目的はもっともらしい文を作ることで、正しさを確かめることではないと説明しています。大事なことは、専門家に聞いたり論文などと照らし合わせたりして、必ず確かめましょう。

もっと知りたい

  • Anthropicの研究では、AIのClaudeの中に「情報が足りないので答えられない」と返す働きが初めからオンになっていて、よく知られた名前の時にそれが抑えられて答えるしくみが見つかっています。
  • マオリ語をまったく学んでいない小さなモデルは、マオリ語の質問に「分かりません」と返せばすみますが、少し学んだモデルは、どれくらい確かかを見積もる必要があるとOpenAIは説明しています。
  • MITの資料によると、答えのばらつきを決める「温度」という設定を0〜0.3と低くすると、まとまった事実寄りの答えになりやすいとされています。
コハク
コハクもっともらしい文ほど、ひと呼吸おいて確かめる。それがAIと上手に付き合うこつですわ。

3択クイズで確かめよう

コハク読んだことを思い出して、ひとつ挑戦してみてくださいませ。

AIが推測で答えやすくなる理由は?

答えを見る
  1. 人をだますよう作られた
  2. 正解の数だけで点をつける
  3. ネットが全部まちがい

正解の数だけで点をつける 正解の数だけで点をつけると「分かりません」は0点です。推測で答える方が成績が良く見えるため、その答え方が残りやすいのです。

参考資料
  1. Why language models hallucinateOpenAI(英語)
  2. When AI Gets It Wrong: Addressing AI Hallucinations and BiasMIT Sloan Teaching & Learning Technologies(英語)
  3. Tracing the thoughts of a large language modelAnthropic(英語)

内容は 2026-10-03 時点で上の資料を確認して書いています。研究が進んで説明が変わることもあります。写真のクレジットは各写真の下にあります。

次の雑学 ▶

テクノロジー動画アプリはどうやって「おすすめ」を選ぶの?動画アプリを開くと、見たくなる動画が並んでいますわね。どうやって選んでいるのでしょう?
NANI?! どうぶつ図鑑
好奇心の森の本、Amazonで発売中NANI?! どうぶつ図鑑

びっくりネタ40こを、大きな写真と短い文で。子どもと一緒に読める雑学図鑑です。Kindle Unlimitedなら読み放題で読めます。

Amazonで見る