AI 챗봇은 어떻게 답을 만들까요?

코하쿠
코하쿠질문하면 술술 돌아오는 AI의 답. 그 글은 어떻게 만들어지는 걸까요?
30초 만에 알아보는 답
코하쿠사실은 말을 하나씩 골라서 이어 붙이고 있어요.

AI 챗봇은 질문을 받으면 '다음에 올 것 같은 말'을 하나 골라 덧붙이는 일을 되풀이해서 답을 만들어요. 이를 위해 먼저 아주 많은 글로 다음 말을 예측하는 학습을 하고, 그다음 사람들이 더 좋다고 고른 답에 가까워지도록 조정돼요.

코하쿠
코하쿠그럼 이제 자세히 설명해 드릴게요.
데이터 센터에 줄지어 선 서버 랙
데이터 센터에 늘어선 서버(많은 계산을 하는 컴퓨터) 랙이에요.사진: PiDatacenters / CC BY-SA 4.0 / 위키미디어 공용

글을 작은 '토큰'으로 나눠요

챗봇에 입력한 글은 먼저 '토큰'이라는 작은 단위로 나뉘어요. 토큰은 단어 하나일 수도 있고, 단어의 일부나 글자 하나일 수도 있어요. AI 안에서 글은 이 토큰들의 줄로 계산돼요.

다음 말을 예측하는 연습과 마무리 조정

Anthropic(AI 'Claude'를 만드는 회사)의 설명에 따르면, 기본이 되는 모델은 아주 많은 글을 써서 앞의 글로부터 다음 말을 예측하도록 학습해요. 이것을 '사전 학습'이라고 해요. 하지만 이 단계에서는 질문에 답하거나 지시를 따르는 일을 잘하지 못해요. 그래서 추가 학습과 RLHF라는 방법으로 조정해요. 사람이 2개 이상의 답을 비교해 순위를 매기면, 모델이 순위가 높은 답과 비슷한 답을 더 잘 내도록 하는 방법이에요. 이렇게 쓸모 있는 어시스턴트가 돼요.

그림: AI 챗봇이 만들어지기까지
사전 학습다음 말을 예측해요조정 (RLHF 등)사람이 답에 순위를 매기고높은 답에 가까워져요쓸모 있는 어시스턴트로

하나씩 골라서 이어 붙여요

답을 쓸 때는 질문과 지금까지 쓴 답을 바탕으로 다음 토큰을 하나 골라 덧붙여요. 이것을 여러 번 되풀이하면 답이 완성돼요. 같은 질문에도 답이 매번 조금씩 다른 것은, 다음 말을 고를 때 무작위성을 주는 설정이 있기 때문이에요.

그림: 답이 만들어지기까지
많은 글로 학습한 AI가 후보 중에서 다음 낱말을 하나 골라 덧붙이기를 되풀이하는 그림
  1. 1학습에 쓰는 엄청난 양의 글
  2. 2지금까지의 문장을 나타내는 낱말 줄
  3. 3다음에 올 만한 낱말 후보
  4. 4선택된 낱말
  5. 5골라서 덧붙이기를 되풀이하는 흐름
코하쿠
코하쿠만든 사람들도 아직 모르는 게 많다니, 신기한 도구 아닌가요?

안에서 일어나는 일은 아직 연구 중

이런 모델은 사람이 규칙을 하나하나 써서 만드는 것이 아니라, 학습하는 과정에서 문제를 푸는 방식이 만들어져요. 그래서 만든 회사도 안에서 무슨 일이 일어나는지 아직 모르는 부분이 많고, 연구가 계속되고 있어요. 2025년 연구에서는 시를 쓸 때 줄 끝에 올 운율 단어 후보를 먼저 준비한 뒤 그 줄을 써 나가는 작용이 발견됐어요. 또 필요한 정보가 없는데도 '본 적 있다'는 반응이 켜지면, 그럴듯하지만 사실이 아닌 글이 만들어질 수 있다는 것도 밝혀졌어요. 중요한 일은 다른 자료로도 꼭 확인해요.

더 알고 싶다면

  • Claude의 이전 모델에서는 토큰 1개가 영어로 약 3.5글자 정도라고 해요.
  • 답을 만들 때 다시 볼 수 있는 글의 양에는 한계가 있는데, 이것을 '컨텍스트 윈도우'라고 해요. 클수록 긴 글을 다루기 쉬워요.
  • 덧셈에 관한 연구에서는 대략적인 답을 내는 경로와 일의 자리를 정확히 내는 경로가 동시에 작동한다는 것이 발견됐어요.
코하쿠
코하쿠다음 말을 하나씩 골라 답을 만들어요. 이것이 AI 챗봇의 원리예요. 중요한 일은 다른 자료로도 확인해 주세요.

3지선다 퀴즈로 확인해 보세요

코하쿠방금 읽은 내용, 기억나세요? 도전해 보세요!

AI 챗봇은 답을 어떻게 만들까요?

정답 보기
  1. 다음 말을 하나씩 고른다
  2. 인터넷의 답을 그대로 베낀다
  3. 정해진 답 목록에서 찾는다

다음 말을 하나씩 고른다 질문과 지금까지 쓴 글을 바탕으로 다음 토큰을 하나 골라 덧붙이는 일을 되풀이해서 답을 만들어요.

참고 자료
  1. GlossaryAnthropic(Claude の開発者向け資料) (영어)
  2. Tracing the thoughts of a large language modelAnthropic (영어)

이 글은 2026-10-03 기준으로 위 자료를 확인하고 썼습니다. 연구가 진행되면 설명이 바뀔 수도 있습니다. 사진 출처는 각 사진 아래에 있습니다.

다음 잡학 ▶

기술스마트폰 화면은 어떻게 손가락을 느낄까요?스마트폰 화면은 손가락으로 살짝만 닿아도 반응하지요. 손가락의 무엇을 느끼는 걸까요?