짱봇
짱툴 - 계산기·변환기LLM 작동 원리는? 챗GPT가 답을 만드는 방식 쉽게 정리
🤖 AI·코인 · 10월 31일 정리 · 생성형 AI(LLM) 작동 원리 일반 정리 기준(2026년 8월)
핵심 3줄
- LLM은 학습한 방대한 텍스트를 바탕으로 다음에 올 가장 그럴듯한 단어를 한 단어씩 예측해 답을 만들어요.
- 대화를 기억하는 게 아니라, 메시지를 보낼 때마다 지금까지의 대화 전체를 다시 읽어요.
- 사실이 아니라 그럴듯한 문장을 만들기 때문에, 모르는 것도 매끄럽게 말하는 환각이 생겨요.
📋 한눈에 보기
| 기본 원리 | 다음 단어(토큰) 예측을 반복 |
|---|---|
| 토큰 | 영어 단어 1개 ≈ 1토큰 · 한국어 글자 1개 ≈ 1~2토큰 |
| 컨텍스트 윈도우 | 한 번에 볼 수 있는 최대 분량(질문·앞 대화·첨부·지침) |
| 대화 기억 | 기억 X · 매번 전체 대화를 다시 읽음 |
| 온도(temperature) | 낮으면 일관 · 높으면 다양 |
| 추론 모델 | 답 전에 생각 과정을 길게 전개 · 느리고 비쌈 |
| API 요금 | 토큰 단위로 매김 |
✅ 체크할 것
- 대화가 길어져 답이 이상해지면 새 창을 열고 필요한 내용만 정리해 다시 시작하세요.
- 간단한 질문엔 추론 모델이 낭비일 수 있어요. 복잡한 계산·논리 문제에 쓰세요.
- 같은 질문에 답이 조금씩 다른 건 오류가 아니라 무작위성 때문이에요.
❓ 자주 묻는 질문
Q. 챗GPT 답변은 왜 글자가 흘러나오듯 표시되나요?
답을 통째로 만든 뒤 보여주는 게 아니라, 실제로 한 단어씩 예측하며 만들고 있기 때문이에요.
Q. 같은 내용인데 한국어가 토큰을 더 쓰나요?
네. 영어는 단어 하나가 약 1토큰이지만 한국어는 글자 하나가 1~2토큰이라 더 많이 써요.
Q. 대화가 길어지면 왜 앞 내용을 잊나요?
컨텍스트 윈도우라는 한 번에 볼 수 있는 분량을 넘어서면 앞부분이 밀려나기 때문이에요.
단계별 화면·사진과 더 자세한 설명은 원문에 있어요.
원문에서 자세히 보기 ↗