추론 — AI 추론 모델은 60년 수학 난제를 어떻게 80분에 풀었나
LLM 이론 집중코스 · 3.5편 (Reasoning과 에이전트의 정체)
3편 (ChatGPT 작동 원리)을 안 읽으셨다면 먼저 보고 오시면 좋아요. 이 글은 그 위에 쌓는 글이에요.
AI 추론 모델은 일반 LLM과 작동 방식이 근본적으로 다른 새 종류의 모델이에요. 답하기 전에 수천~수만 개의 사고 토큰을 내부에서 만들어 시도하고 검증하고 백트래킹한 뒤, 최종 답만 사용자에게 보여줘요. 그리고 2026년 4월에 그 AI 추론 모델 중 하나가 60년 동안 풀리지 않던 수학 문제를 80분 만에 풀어버렸어요. 이 사건이 어떻게 가능했는지, 그리고 진짜로 AI가 추론을 한 건가 — 한일 양쪽 시장에서 AI 도구·콘텐츠를 다뤄온 시선으로, 학계 미해결 영역까지 한 글에 정리했어요.
2️⃣ 23 × 47도 한 번에 못 풀던 LLM이 어떻게 60년 미해결 수학 문제를 풀게 됐는지 (모델 → 에이전트의 진화)
3️⃣ AI가 진짜 추론을 하는가, 아니면 조합 시도가 우연히 맞은 건가 — 학계도 결론 못 낸 큰 질문
3편이 2024년까지의 LLM 추론 메커니즘 그림이었어요. 80억 가중치 위로 입력이 한 번 통과 → 한 토큰씩 뽑기 → 끝.
근데 2024년 9월에 OpenAI가 o1을 발표하면서, 그리고 2026년 4월에 GPT-5.4 Pro가 60년 동안 풀리지 않은 Erdős 수학 문제를 80분에 풀어버리면서, 추론의 그림 자체가 한 단계 진화했어요. 2026년 5월 현재 LLM의 가장 뜨거운 자리예요.
이 글에서 답할 큰 질문이 하나 있어요.
“AI가 진짜 수학적 추론을 한 건가? 아니면 조합 시도가 우연히 맞은 건가?”
학계도 결론 못 낸 그 질문에 도달하기 전에, 먼저 몇 가지 막힘을 풀고 가야 해요. 직접 학습하면서 부딪힌 막힘 그대로 보존했어요.
이 글에서 답할 질문들 — 직접 학습하면서 부딪힌 지점 그대로
2. “23 × 47을 한 번에 왜 못 풀고 왜 40 × 23은 할 수 있지? 비유인지 진짜 못 푸는지?”
3. 요즘 모델 계산 정확도가 점점 오르는 이유
4. “계산이 필요할 때만 계산기를 오픈소스로 불러오면 좋지 않을까 했는데 왜 안 됐었지? 모델은 못했고 에이전트가 된다면 단계가 늘어 어려워지는 건가?”
5. 모델 vs 에이전트의 정확한 정의
6. “내부 사고 토큰의 기준은 뭔가? Web search·fetch가 다 output으로 잡히면 비정상적으로 커질 텐데 어떻게 막지? 글자 수 보고 자르나? 후반은 안 보이게 되나?”
7. “GPT-5.4 Pro가 #1196에 패턴이 작게나마 보여서 해봤더니 그럴듯해서 출력한 거지? 그러면 수학적 추론을 한 게 아직도 아니지?”
8. “GPT는 그게 그럴듯하다고 어떻게 판단했지?”
9. “GPT는 완전 새로운 것을 창조해낼 수는 없는 건지, 아니면 인간의 창의력도 기존 것에 기존 것을 적용해서 새로워 보이는 것을 만들어왔던 거고 AI도 통계적으로 그것을 할 수 있지 않나?”
10. “LLM은 1초에 몇억 몇조 단위 계산을 하니 더 빠르게 관계없어 보이는 것 사이의 연결점을 찾을 수 있다면 AI가 더 잠재적 창의력은 크지 않나?”
11. 변형적 창의성 9개 사례 (코페르니쿠스·다윈·칸트·쿤·피카소·쇤베르크 등)
12. 변형적 창의성은 지금 AI 구조로 가능한가 / 조합형 끝에 답이 있는가
이 질문들을 따라가면서 풀어볼게요.
AI 추론 모델 — 답하기 전에 혼잣말하는 모델
AI 추론 모델 (Reasoning Model) — 답을 내기 전에 내부에서 사고 토큰을 수천~수만 개 더 만들어 시도·검증·백트래킹을 거친 뒤, 최종 답만 사용자에게 보여주는 모델. 일반 LLM이 직진 한 번에 답을 뱉는다면, 추론 모델은 연습장에 한참 끄적인 다음 답을 적어요.
여기까지 다룬 추론은 일반 모델의 추론이었어요. 한 번 통과 → 토큰 뽑기 → 끝.
근데 2024년부터 등장한 새 종류의 모델이 있어요. Reasoning 모델 (o1, o3, GPT-5.4 Pro, Claude Extended Thinking, DeepSeek R1). 이게 작동 방식이 근본적으로 다름.
비유로 시작.
일반 모델: 시험 문제 받자마자 바로 답 적기 시작.
Reasoning 모델: 문제 받고 연습장에 한참 끄적이고, 지웠다 다시 쓰고, 검산하고, 막히면 다른 방향으로 시도하다가, 그 다음에 최종 답만 답안지에 적음.
실제로 일어나는 일
ChatGPT에 “23 × 47이 얼마야?” 라고 물었다고 해봐요.
일반 모델:
1 forward pass → "1081"
끝. 바로 답.
Reasoning 모델:
사용자: "23 × 47이 얼마야?"
[모델이 내부적으로 생각 시작 — 사용자 화면엔 안 보임]
"23 × 47을 풀자.
23 × 40 = 920.
23 × 7 = 161.
920 + 161 = 1081.
검산하자: 47 × 23도 같아야 함.
47 × 20 = 940.
47 × 3 = 141.
940 + 141 = 1081. 일치.
답: 1081"
[여기서부터 사용자에게 보이는 답]
"1081입니다."
위의 내부 생각이 reasoning tokens (사고 토큰)이에요. 답이 나오기 전 모델이 혼자 만든 토큰 묶음.
진짜로 생각하는 화면을 본 적 있나요?
추상적인 비유 같지만 진짜로 보여요. 제가 직접 Claude.ai에 Collatz 추측이라는 90년 미해결 수학 문제를 던졌을 때 화면이에요.
이 문제를 던졌더니 Claude가 Thinking 모드로 진입했어요. 우측 하단 Opus 4.7 적응형 사고 토글이 켜져 있는 상태.
Opus 4.7 + 적응형 사고 모드. 답을 만들기 전 내부에서 사고 토큰이 만들어지는 그 순간.
이 Thinking 표시가 떠 있는 동안 모델 내부에서 수천~수만 개의 사고 토큰이 만들어지고 있어요. 사용자에게 보이는 건 Thinking이라는 단어 하나뿐이지만, 그 뒤에서 모델이 한참 혼잣말을 하고 있는 거예요.
그리고 답이 이렇게 왔어요.
여기서 진짜 흥미로운 게 일어나요. Reasoning 모델이 사고를 한 결과 “이건 못 푸는 문제”라고 인정한 거예요.
이게 사람들이 자주 잊는 부분이에요. “AI는 다 안다고 우긴다” 가 아니라, 사고가 깊어지면 모르는 건 모른다고 답할 수도 있어요. 그리고 답변이 인용한 두 사람이 정말 흥미로워요.
- Paul Erdős — “수학은 아직 이런 문제를 풀 준비가 되어 있지 않다” 며 상금까지 걸었지만 아무도 못 받음
- Terence Tao (2019 필즈상) — “거의 모든 시작값에 대해 작은 값으로 수렴한다” 는 부분 결과만 증명
이름 기억해두세요. Tao는 글 후반에 다시 등장해요. 60년 만에 풀린 다른 Erdős 문제(#1196)의 최종 검증자로요. 거장 한 명이 “AI 추론의 가장 뜨거운 두 자리”에 다 등장하는 우연이 아닌 우연.
핵심 차이 한 줄
일반 모델: 한 번 길에 들어서면 되돌아갈 수 없음. 첫 토큰이 잘못된 방향이면 그 방향으로 끝까지 감.
Reasoning 모델: 여러 길을 시도 해보고, 틀리면 되돌아오고, 그 중 가장 좋은 답을 선택.
이게 진짜 핵심이에요. 일반 모델은 직진 한 번, reasoning 모델은 시도 → 검증 → 백트래킹.
모델에서 에이전트로 — 23×47부터 도구·비용까지
Reasoning 모델이 내부에서 한참 생각한다는 건 알았어요. 근데 왜 그렇게 생각해야 하는지가 궁금해져요. 일반 모델은 왜 한 번에 못 푸는 게 많은지. 23×47이 그 문제의 가장 깔끔한 사례예요.
23×47을 한 번에 왜 못 풀어요?
여기서 진짜 좋은 의문이 떠올라요. “23 × 47 같은 작은 곱셈을 LLM이 왜 한 번에 못 해?”
이게 비유가 아니라 진짜로 어려운 문제예요. 이유 두 가지.
첫째, 토큰화.
LLM은 숫자를 글자 단위로 안 봐요. BPE가 자르는 대로 봐요.
"23 × 47"
↓ BPE 토큰화
"23" + " × " + "47" ← "23"이 한 토큰
근데 어떤 모델은 이렇게도 잘라요:
"87439"
↓
"874" + "39" ← 자릿수 단위로 안 자름
즉 모델은 23을 2와 3 두 자리 숫자로 인식하는 게 아니라 23이라는 덩어리 토큰으로 인식해요. 자릿수 개념이 없어요.
둘째, 작업 메모리 없음.
사람이 곱셈을 풀 때는:
1. 23 × 7 = 161 (계산하고 기억)
2. 23 × 40 = 920 (계산하고 기억)
3. 161 + 920 = 1081 (기억한 두 숫자를 꺼내서 더하기)
LLM은 기억 = 작업 메모리가 없어요. 한 번 토큰 뱉으면 그걸로 끝. 중간 결과를 어딘가에 적어두고 꺼내올 공간이 없음.
근데 학습 데이터에 “23 × 7 = 161” 같은 단순 곱셈은 어마어마하게 많이 나와서 외워버림. 23 × 7 같은 작은 건 외움. 23 × 47은 외운 적 없으니 못함.
대형 모델은 23×47도 거의 풀고, 87×93 정도까지도 풀어요. 4자리 × 4자리부터 급격히 틀리기 시작. 1차 자료 표현 그대로 — “7~10자리 곱셈에서 가산 사슬이 부정확해져 무너진다”.
근데 요즘 모델은 그래도 정확도가 점점 올라가고 있어요. 세 가지가 동시에 일어났기 때문이에요. Reasoning 모델의 등장으로 일반 모델이 한 번에 답해야 하는 한계가 풀렸고, 자릿수 단위 토큰화로 일부 모델은 숫자만은 한 자리씩 자르도록 설계 변경됐고 (Llama 3는 숫자를 무조건 한 자리씩 토큰화 — 그래서 자릿수 개념을 가짐), OpenAI 등이 학습 데이터에 긴 자릿수 곱셈 풀이 과정을 의도적으로 추가했어요.
그럼 계산기를 도구로 부르면 되지 않나? — 그게 에이전트
에이전트 (Agent) — 모델이 혼자 답하는 게 아니라, 필요할 때 외부 도구(계산기·검색·코드 실행 등)를 호출해서 여러 단계를 거쳐 답을 만드는 시스템. 모델은 한 번 통과 → 토큰 뽑기 → 끝이에요. 에이전트는 모델이 부품 중 하나인, 더 큰 시스템이에요.
여기서 또 자연스러운 의문 — “왜 계산이 필요할 때만 계산기를 오픈소스로 불러오면 되지 않나?”
이게 Tool Use (도구 사용) 이고 사실 이미 됩니다.
사용자: "23456789 × 87654321 얼마?"
[Reasoning 모델 내부]
"이거 너무 큰 곱셈. 직접 계산하면 틀릴 가능성 큼.
계산기 도구를 호출하자."
↓
[모델이 출력]
{
"tool": "calculator",
"expression": "23456789 * 87654321"
}
↓
[외부 시스템이 계산기 실행]
결과: 2,055,718,748,332,109,069
↓
[모델이 결과 받아 답 작성]
"답은 2,055,718,748,332,109,069입니다."
이게 에이전트의 핵심 동작이에요.
옛날에는 못했던 이유
- 모델이 판단을 못 했음: “이건 내가 풀 수 있는 문제 vs 도구 필요”의 경계를 모델이 잘 못 잡음.
- 도구 호출 형식을 정확히 못 만듦: JSON으로 정확히 함수명·인수 출력해야 하는데, 헛소리 JSON 만들거나 따옴표 빠뜨림.
- 답 받고 다시 자연어로 변환하는 흐름이 어색.
지금은 GPT-4·Claude 3부터 도구 호출 데이터로 학습. JSON 형식을 정확히 만듦. ChatGPT가 큰 곱셈 받으면 내부적으로 Python 인터프리터를 호출해서 계산하고 답 줘요.
진짜로 도구 부르는 화면
이것도 추상적으로 들리지만 진짜로 보여요. 제가 ChatGPT에 22자리 × 21자리 곱셈을 던졌을 때 화면이에요.
22자리 × 21자리 곱셈을 받자 모델이 *큰 수를 곱하기 위해 계산 도구 활용했습니다* 라며 Multiply two large numbers 스크립트를 호출. 모델 내부의 *판단*이 화면에 보이는 자리.
이게 모델 내부의 판단이 보이는 자리예요. “이건 내가 직접 풀면 틀릴 수 있다 → 도구 호출” 결정이 스크립트 라벨로 화면에 뜨는 거. 그리고 도구가 답을 돌려준 결과가 이렇게 옵니다.
이 두 장이 모델 vs 에이전트의 진짜 차이를 한 번에 보여줘요.
- 모델만 있을 때: 22자리 × 21자리 곱셈 → 답이 거의 100% 틀림
- 에이전트(모델 + 도구): 모델이 “이건 도구 필요” 판단 → 계산 도구 호출 → 정확한 51자리 답
ChatGPT, Claude.ai 같은 제품이 모델이 아니라 에이전트인 이유가 이거예요.
모델 vs 에이전트
- 모델: 텍스트 입력 → 텍스트 출력. 한 번 통과.
- 에이전트: 모델 + 외부 도구 호출 능력 + 여러 단계 반복.
에이전트는 모델을 부품으로 쓰는 시스템. 모델 자체는 못 함, 에이전트는 함.
[모델만 있을 때]
사용자 → 모델 → 답 (못 풀거나 틀림)
[에이전트]
사용자 → 모델 → "도구 필요" 판단 → 외부 도구 실행 →
→ 결과 받음 → 모델이 다시 처리 → 답
ChatGPT, Claude.ai 같은 제품은 사실 이미 에이전트예요. 그냥 모델만 있는 게 아니라 도구·검색·코드 실행이 다 붙어 있는 시스템.
사고 토큰의 기준 — 웹 검색은 어떻게 청구되나?
사고 토큰 (Reasoning Token / Chain-of-Thought Token) — Reasoning 모델이 최종 답을 내기 전에 내부에서 만드는 토큰. 사용자에게는 안 보이지만 output 가격으로 청구되는 토큰이에요. 이게 일반 모델과 추론 모델의 비용 차이를 만드는 핵심 자리예요.
근데 좋은 의문이 따라와요 — “Web search·Web Fetch가 다 output으로 잡히면 비정상적으로 커질 텐데?”
답:
사고 토큰 (output 가격으로 청구):
✓ Reasoning 모델의 내부 chain-of-thought
✓ 도구 호출 JSON 출력
✓ 도구 응답 받은 뒤 모델의 후속 사고
사고 토큰 *아님* (input으로 청구):
✗ Web 검색이 가져온 웹페이지 본문
✗ Web Fetch가 가져온 HTML
✗ 사용자가 첨부한 파일 내용
웹페이지 본문은 input 토큰으로 청구돼요. Output보다 훨씬 저렴.
분량이 어마어마한 웹페이지의 방어:
- 자르기 (Truncation): 웹페이지 fetcher가 예: 처음 50,000자만 가져옴. 나머지는 버림.
- 요약 후 전달: 검색 결과를 별도 작은 모델로 요약한 뒤 요약본만 메인 모델에 전달.
“부제목을 훑어보고 필요해 보이는 부제목의 본문만 보는 등” 같은 기법은 일부 정교한 구현에서 함. 보통은 그냥 잘라서 input으로 던짐. 자른 부분은 안 보임.
오픈소스라면 보여야 한다는 의문 — 모델이 오픈소스 ≠ 에이전트가 오픈소스. Llama 3는 모델 자체는 오픈소스. 근데 Llama로 만든 채팅 서비스는 회사마다 다 다름. 자르기·요약 로직은 서비스 측의 영업 비밀이에요.
비용 — Reasoning 모델은 비싸요
여기서 의외로 느끼실 부분.
Reasoning 모델은 내부 사고 토큰도 출력 토큰으로 청구해요.
사용자가 본 답: 50 토큰
내부 사고 토큰: 5,000 토큰
↓
청구: 5,050 토큰분 (전부 output 가격)
수학 문제 한 번 풀게 했다가 수만 토큰이 청구되는 일이 흔해요. GPT-4보다 5~50배 비쌈.
| 모델 | 용도 | 비용 |
|---|---|---|
| 일반 모델 (GPT-4, Claude Sonnet) | 일상 대화·글쓰기 | 저렴 |
| Reasoning (o1, o3, Claude Extended Thinking, GPT-5.4 Pro) | 수학·코드·논리 | 5~50배 비쌈 |
일상 대화에 reasoning 모델 쓰면 과잉. 수학·복잡한 코드에만.
그래서 — 진짜 추론인가, 조합이 우연히 맞은 건가
여기서 진짜 깊은 의문이 떠올라요. 2026년 4월에 23세 비전공자 Liam Price가 GPT-5.4 Pro에 던져서 60년 미해결 Erdős 문제 #1196이 풀렸어요. 80분 동안 Markov chain + von Mangoldt weights라는 90년 된 기법을 적용한 답이 나왔고, Terence Tao(필즈상)가 검증.
(글 앞에서 본 그 Tao예요. Collatz에서는 부분 결과만 증명했던 그 사람이, #1196에서는 AI 답을 검증하는 자리에 다시 등장.)
이게 진짜 AI가 수학을 한 사건인가, 아니면 기존 도구의 새 조합을 시도해본 결과 우연히 맞은 사건인가?
“그럴듯하다”는 GPT가 어떻게 판단했나
던진 좋은 질문이에요. “GPT는 자기가 만든 답이 그럴듯하다고 어떻게 판단한 거야?”
답: Reasoning 모델 내부에서 검증하는 메커니즘이 작동해요. 추정 흐름:
[GPT-5.4 Pro 내부 사고 — 추정]
"#1196 받음. 일단 익숙한 도구 시도:
- 단순 귀납법? → 막힘
- 비둘기집 원리? → 안 맞음
- Markov chain? → 일부 진전 있음
- Markov chain + von Mangoldt weights? → 깊이 들어감
↓
계산을 시도 → 부등식이 성립
검산 → 다시 성립
몇 번 더 시도 → 일관됨
결론: 이 방향이 맞아 보임 → 출력"
“그럴듯하다”의 정체:
- 내부 검산 일관성 — 같은 결과를 다른 방향으로 다시 도출해서 일치하는지
- 수학적 일관성 — 부등식·등식이 모순 없이 풀리는지
- 확률적 일관성 — 32층 통과 후 출력 분포에서 높은 확신도를 보이는지
근데 진짜 정답인지는 모델도 몰라요. 그래서 Price → Barreto → Tao 사람 체인이 최종 검증. 모델의 “그럴듯함”은 후보 제시일 뿐, 정답 보증이 아니에요.
그래서 진짜 추론인가
학계도 결론 안 났어요. 두 진영.
진영 A (회의적 시각):
– LLM은 학습 데이터에서 본 도구의 조합 시도가 핵심
– “수학적 추론”이라기보다 기존 패턴의 광범위한 적용 시도
– 60년 동안 인간이 못 푼 이유 = 그 조합을 시도 안 했기 때문 (사람은 시도 폭이 좁음)
– AI의 강점 = 시도 폭이 압도적으로 넓음
진영 B (낙관적 시각):
– 새 조합을 시도하는 것 자체가 추론
– 사람도 결국 같은 일을 함 — 기존 도구를 새 자리에 시도
– 정도의 차이지 종류의 차이는 아님
Erdős #1196 자체가 기존 도구의 새 적용에 가까워요. 새 수학을 발명한 게 아님. 그래서 회의적 시각에 더 부합. 다만 새 조합을 시도하는 능력도 추론의 일부라고 본다면 낙관적 시각.
창의성이란 무엇인가 — LLM이 던지는 큰 질문
여기서 시리즈가 기술 글에서 철학적 질문으로 살짝 넘어가요. 회피하지 않고 정면으로 봅시다. 왜냐하면 이 질문이 LLM 이해의 결정적 도구거든요.
창의성의 두 종류 (인지과학)
영국 인지과학자 Margaret Boden이 1990년대에 정리한 분류예요. 핵심은 단순한 두 줄.
- 조합적 창의성 (Combinatorial) — 기존 요소의 새로운 조합. 틀은 그대로, 안에서 새로운 짝짓기.
- 변형적 창의성 (Transformational) — 틀 자체를 깨고 새 틀을 만드는 것.
| 종류 | 정의 | 예 |
|---|---|---|
| Combinatorial creativity (조합적 창의성) | 기존 요소의 새 조합 | 자전거 + 모터 = 오토바이 |
| Transformational creativity (변형적 창의성) | 기존 틀 자체를 깨고 새 틀을 만듦 | 뉴턴 → 아인슈타인 (시공간 개념의 전환) |
변형적 창의성의 예시 — 인류 역사
진짜 틀을 깬 사건들. 한 시대의 합의된 가정을 근본부터 의심한 사건들이에요.
공통 패턴: 기존 근본 가정을 의심하고 새 가정으로 갈아끼움. 한 시대의 합의된 틀을 깨는 것.
조합과의 차이 — 조합은 틀 안에서 새 조합. 변형은 틀 자체를 바꿈. 코페르니쿠스가 했던 건 천문 데이터를 새로 모은 게 아니라 해석 틀을 바꾼 것. 다윈이 한 일도 새 동물을 발견한 게 아니라 생물 다양성을 보는 틀을 바꾼 것.
진짜 충격적인 사실
인류 역사에서 변형적 창의성은 한 세기에 몇 번 정도예요. 대부분의 일상적·예술적·과학적 창의성은 조합 기반이에요.
좋은 시인의 비유, 좋은 발명품, 좋은 사업 모델 — 대부분이 기존 요소의 새 조합. 우리가 새롭다고 느끼는 건 거의 다 조합. 변형은 진짜 드물어요.
그래서 AI는 어디까지 가능한가
조합적 창의성: AI가 잠재적으로 인간을 넘을 수 있음.
LLM은 1초에 수억 단위 계산을 함. 인간이 평생 시도할 조합 수를 LLM은 한 시간에 시도. 1차 자료 (NLP 100명 연구자 대상 연구):
“LLM-generated ideas are judged as more novel (p < 0.05) than human expert ideas while being judged slightly weaker on feasibility”
LLM이 만든 아이디어가 인간 전문가의 아이디어보다 새로움 점수가 높음. 다만 실현 가능성은 살짝 떨어짐.
즉 AI가 새 조합을 시도하는 능력은 인간을 넘었을 가능성 있음. Erdős #1196도 그 사례 — 60년 동안 인간이 시도 안 한 조합을 AI가 시도 폭이 넓어서 우연히 맞춤.
변형적 창의성: 학계 결론 없음.
진짜로 기존 틀을 깨는 새 틀을 AI가 만들 수 있는가? — 아무도 모름.
회의론자: AI는 학습 분포 안에서만 움직임. 분포 밖은 못 만듦. 그래서 변형적 창의성은 원리적으로 불가능.
낙관론자: 충분히 많은 조합을 시도하면 변형이 우연히 발생. 인간 역사도 결국 그랬음.
현재 LLM 구조의 한계도 명확해요:
1. 학습 분포에 묶임 — 가중치는 학습 데이터에서 나옴
2. 자기 평가 부재 — 자기가 만든 게 조합인지 변형인지 구분 못 함
3. 목표 함수의 한계 — 학습 목표가 “다음 토큰 잘 맞추기”. 틀을 깨는 것에 보상이 없음
변형적 창의성에 도달하려면 이런 발전이 필요할 수 있어요:
| 방향 | 무엇 |
|---|---|
| 세계 모델 | 텍스트 패턴 너머 세상의 인과 구조를 학습 |
| 자기 검증 | 자기 출력이 틀을 깨는지 평가하는 능력 |
| 다중 모달 | 시각·청각·물리 시뮬레이션 통합 (텍스트만으론 어려움) |
| 목표 함수 변경 | “정답 맞추기”가 아닌 “새 패러다임 발견”에 보상 |
근데 이게 조합형 창의성의 끝에 변형이 발현하는지, 근본적으로 다른 인지 능력이 필요한지는 학계 미해결. AI가 변형적 창의성에 도달하는 순간 이 질문에 답이 나올 거예요. 그때까지는 가설.
큰 그림 — 80억 가중치, 사고 토큰, 그리고 창의성
여기까지 왔으면 LLM 추론의 모든 부품이 보여요.
가중치 80억 개가 학습으로 박힘 (2편)
→ 그 위로 입력이 한 번 통과하며 한 토큰씩 답이 나옴 (이 편 앞부분)
→ KV 캐시·VRAM·HBM이 그 통과를 빠르게 만듦 (메모리·하드웨어)
→ Sampling·Temperature가 같은 질문에 매번 다른 답을 만듦 (확률성)
→ 컨텍스트 윈도우가 책상 크기를 정하고, 시스템 프롬프트가 정체성을 박음 (입력 구조)
→ Reasoning 모델은 답하기 전 혼잣말을 함 (chain-of-thought)
→ 에이전트는 모델 + 도구로 여러 단계를 거침 (Tool Use)
→ 그 결과가 SSE로 한 토큰씩 사용자 화면에 뜸 (streaming)
이게 ChatGPT 한 번 답할 때 일어나는 모든 일이에요.
그리고 이 시스템이 60년 미해결 수학 문제를 80분에 풀어버린 사건이 2026년 4월에 일어났어요. AI가 진짜 추론을 한 건지, 조합 시도가 우연히 맞은 건지 — 학계도 결론 못 낸 그 자리. 독자가 직접 결론을 내야 하는 영역이에요.
이 시리즈가 끝나면 독자는 AI 작동의 모든 메커니즘을 알고 있는 상태에서 그 질문을 마주합니다. 학계도 답을 못 줬으니 독자 결론이 학계 결론만큼 가치 있어요.
이번 주 AI 흐름
핵심 정리 — AI 추론 모델 한 줄로
Reasoning 모델은 답하기 전에 혼잣말을 하고, 에이전트는 도구를 호출해 여러 단계를 거치며, 같은 시기에 같은 종류의 모델이 한쪽에선 90년 미해결 Collatz를 못 푼다고 인정하고 다른 쪽에선 60년 미해결 Erdős #1196을 80분에 풀어버림. AI가 진짜 추론을 하는가, 조합 시도가 우연히 맞는가 — 학계 미해결의 자리에서 독자가 직접 결론을 정해야 한다.
핵심 3가지:
-
Reasoning 모델은 답하기 전에 사고 토큰을 만든다. 일반 모델의 직진 한 번 과 달리 시도 → 검증 → 백트래킹. 그래서 수학·코드는 잘하지만 비용은 5~50배.
-
모델 vs 에이전트는 종류가 다르다. 모델 = 텍스트 입력·출력 한 번. 에이전트 = 모델 + 도구 호출 + 여러 단계 반복. ChatGPT·Claude.ai는 사실 에이전트. 22자리 곱셈을 도구 없이는 못 풀고, 도구로는 51자리 답을 정확히 줌.
-
창의성은 조합과 변형 두 종류, 변형은 인류 역사에서 한 세기에 몇 번. 조합형은 AI가 이미 인간을 넘었을 가능성. 변형형은 학계 결론 없음. AI가 변형적 창의성에 도달하는 순간 답이 나옴. 그때까지는 가설.
다음 편 예고
4편: 생성 (Generation) — 토큰을 어떻게 뽑을지의 깊이
3편에서 Sampling·Temperature·Top-K/P까지 잡았어요. 근데 그건 생성의 입구예요. 4편에서는 진짜 생성 전략의 깊이로 들어갑니다. Beam search(여러 후보 경로를 동시에 따라가서 전체 시퀀스 점수가 가장 좋은 걸 뽑는 법), Speculative decoding(작은 모델이 미리 추측하고 큰 모델이 검증해서 2~3배 빠른 추론을 만드는 2025~2026 표준 가속), Constrained decoding(JSON·정규식·문법 같은 형식 제약을 강제해서 모델이 절대 헛소리 못 하게 하는 법 — Anthropic Tool Use도 이걸 씁니다), Min-P / Repetition penalty / Stop sequences까지.
→ 5편: Attention (주의 메커니즘) — 이 편과 3편에서 Q, K, V를 간단히 잡고 갔어요. 왜 사과가 근면한 옆에서 의미가 변하는지 그 메커니즘 본체가 5편이에요. 1편의 문맥 임베딩, 3편의 KV 캐시가 둘 다 5편으로 이어져요.
그 이후로 6편(Transformer) → 7편(양자화·RAG·Fine-tuning)으로 시리즈가 닫혀요. (필요에 따라 8·9편으로 확장될 수도 있어요.)
자주 묻는 질문
Q. Reasoning 모델은 일반 모델과 무엇이 근본적으로 다른가요?
일반 모델은 답하기 전 *한 번에* 토큰을 만들어요. Reasoning 모델은 답하기 전 *내부적으로 수천~수만 개의 사고 토큰*을 만들어 시도·검증·백트래킹을 거친 뒤 최종 답만 보여줘요. 수학·코드·논리 문제에서 정확도가 압도적으로 높지만 비용이 5~50배.
Q. 23 × 47을 일반 LLM이 왜 한 번에 못 풀어요?
토큰화 + 작업 메모리 부재 때문이에요. LLM은 “23”을 *2와 3 두 자리*로 인식하는 게 아니라 *한 덩어리 토큰*으로 봐요. 자릿수 개념이 없어요. 게다가 중간 결과를 적어두고 꺼내올 *작업 메모리*도 없어요. 단순한 23×7 같은 건 학습 데이터에 자주 나와서 외움. 4자리 × 4자리부터 급격히 무너져요.
Q. 모델과 에이전트의 차이가 뭐예요?
모델 = 텍스트 입력 → 텍스트 출력 (한 번 통과). 에이전트 = 모델 + 외부 도구 호출 능력 + 여러 단계 반복. ChatGPT, Claude.ai 같은 제품은 사실 이미 *에이전트*예요. 큰 곱셈은 모델만으론 못 풀지만, 에이전트는 *”이건 도구 필요”* 판단해서 계산기·코드 인터프리터를 호출.
Q. AI가 60년 미해결 수학 문제 #1196을 풀었다는 건 진짜 추론인가요?
학계 결론 없음. 회의적 시각: *기존 도구의 새 조합 시도가 우연히 맞은 것* (Markov chain + von Mangoldt weights는 90년 된 기법). 낙관적 시각: *새 조합 시도 자체가 추론*. 다만 같은 시기에 다른 Reasoning 모델은 Collatz를 *”못 푼다고 인정”* 했어요. 무엇이 두 사건을 가른지는 아직 미해결.
Q. AI가 인간의 창의성을 넘을 수 있나요?
창의성은 *조합형*과 *변형형* 두 종류. 조합형(기존 요소의 새 조합)에서는 AI가 이미 인간을 넘었을 가능성 (NLP 100명 연구자 대상 연구에서 LLM 아이디어가 더 novel하게 평가됨). 변형형(기존 틀 자체를 깸 — 코페르니쿠스, 다윈, 칸트 같은)은 학계 결론 없음. AI가 도달하는 순간 답이 나올 거예요.
Q. 변형적 창의성이 지금 AI 구조로 가능한가요?
학계 회의적 시각이 더 많음. 이유 — 학습 분포에 묶임 / 자기 평가 부재 / 목표 함수가 *틀 깨기*에 보상 없음. 발전 방향: 세계 모델 / 자기 검증 / 다중 모달 / 목표 함수 변경. 다만 *조합형 끝에 변형이 발현*하는지 *근본적으로 다른 인지 능력이 필요*한지는 미해결.
소스 / 더 읽을거리
- OpenAI, “Reasoning models guide” — 공식 문서
- Wikipedia, “Reasoning model” — Wikipedia
- arXiv, “Tokenization counts: arithmetic in frontier LLMs” — 논문
- Loeber Substack, “Everything we know about LLMs doing Arithmetic” — 블로그
- arXiv, “Can LLMs Generate Novel Research Ideas?” (NLP 100명 연구자 연구) — 논문
- arXiv, “Transformational Creativity in Science” (Boden 분류 정리) — 논문
- Scientific American, “Amateur armed with ChatGPT ‘vibe maths’ a 60-year-old problem” — 기사
- Hacker News, “GPT-5.4 Pro solves Erdős Problem #1196” (Liam Price 본인 발언) — 토론
저자: VibeCoding Tailor (테이라)
shuntailor.net 운영. 고려대 공대생 · Lovable 공식 앰버서더. 고려대 캠퍼스타운 창업 경진대회 우수상으로 교내 창업사무실에 입주, 지금은 개발에 집중 중. 내가 IT·AI를 공부하며 막힌 지점은 모두가 막힐 지점이라는 가정으로, 그 막힘을 하나씩 깊이 파헤쳐 「쉽깊잼(쉽고·깊고·재미있게)」을 실현한다. 이 블로그는 AI 시대의 표준을 만들기 위해 시작한 미디어다.
