AIのチャットはどうやって答えを作るの?

実は、ことばを1つずつ選んで、つなげていますのよ。AIのチャットは、質問の文を受け取ると、「次に続きそうなことば」を1つ選んで足す、という作業をくり返して答えの文を作っています。そのために、大量の文章で次のことばを予想する学習をしたあと、人が良いと選んだ答えに近づくよう調整されています。


文章を小さな「トークン」に分ける
チャットに入力した文章は、まず「トークン」という小さな単位に分けられます。トークンは、1つの単語のこともあれば、単語の一部や1文字のこともあります。AIの中では、文章はこのトークンの並びとして計算されます。
次のことばを予想する練習と、仕上げの調整
Anthropic(AIのClaudeを作る会社)の説明によると、もとになるモデルは、大量の文章を使い、前に書かれた文から次のことばを予想するように学習します。これを「事前学習」といいます。ただ、この段階では、質問に答えたり指示に従ったりするのは得意ではありません。そこで、追加の学習や、人が2つ以上の答えを比べて順位をつけ、上の答えに近いものを出しやすくする方法(RLHF)で、使いやすいアシスタントに調整されます。
1つずつ選んで、つなげていく
答えを作る時は、質問の文と、それまでに書いた答えの文を手がかりに、次のトークンを1つ選んで足します。これを何度もくり返して、答えの文ができあがります。同じ質問でも答えが毎回少し変わるのは、選び方にゆらぎ(ランダムさ)を持たせる設定があるためです。

- 1学習に使う大量の文章
- 2これまでの文を表すことばの列
- 3次に続きそうなことばの候補
- 4選ばれたことば
- 5選んで足すことをくり返す流れ

中で起きていることは、まだ研究中
モデルは人がルールを1つずつ書きこんで作るのではなく、学習の中で、問題を解くやり方ができあがっていきます。そのため、作った会社でも、中で何が起きているのかの多くはまだ分かっておらず、研究が続いています。2025年の研究では、詩を書く時に、行の終わりで韻をふむ言葉の候補を先に用意してから行を書いていく働きが見つかりました。また、答えに必要な情報がないのに「見覚えがある」という反応が働くと、もっともらしいけれど正しくない文が作られることがあると分かりました。大事なことは、ほかの資料でも確かめましょう。
もっと知りたい
- Claudeの以前のモデルでは、トークン1つは英語でおよそ3.5文字分にあたるとされています。
- 答えを作る時に読み返せる文章の量には上限があり、「コンテキストウィンドウ」と呼ばれます。大きいほど、長い文章を扱いやすくなります。
- 足し算の研究では、おおよその答えを出す道すじと、一の位を正確に出す道すじが、同時に働いていることが見つかっています。

3択クイズで確かめよう
読んだことを思い出して、ひとつ挑戦してみてくださいませ。AIのチャットは答えの文をどう作る?
答えを見る
- 次のことばを1つずつ選ぶ
- ネットの答えをそのまま写す
- 決まった答えの表から探す
次のことばを1つずつ選ぶ 質問の文とそれまでに書いた文を手がかりに、次のトークンを1つ選んで足すことをくり返して、答えの文を作ります。
質問の文とそれまでに書いた文を手がかりに、次のトークンを1つ選んで足すことをくり返して、答えの文を作ります。
次のクイズへ ›参考資料
- GlossaryAnthropic(Claude の開発者向け資料)(英語)
- Tracing the thoughts of a large language modelAnthropic(英語)
内容は 2026-10-03 時点で上の資料を確認して書いています。研究が進んで説明が変わることもあります。写真のクレジットは各写真の下にあります。
次の雑学 ▶
テクノロジースマホの画面はどうやって指を感じるの?スマホの画面は、指でそっとふれるだけで反応しますわね。いったい、指の何を感じているのでしょう?
びっくりネタ40こを、大きな写真と短い文で。子どもと一緒に読める雑学図鑑です。Kindle Unlimitedなら読み放題で読めます。
Amazonで見る

