AI 학습 지도 — 오리엔테이션: 세부 이론 전에 전체 그림부터

1. 왜 이걸 배우는가

2022년 말 ChatGPT가 등장한 이후, AI는 더 이상 연구실의 이야기가 아니라 매일 쓰는 도구가 되었습니다. 회사에서는 “우리 서비스에 AI를 붙이자”, “사내 문서 Q&A 봇을 만들자” 같은 이야기가 일상적으로 오갑니다.

그런데 이런 대화에서 흔히 이런 일이 벌어집니다.

  • “RAG를 쓰면 환각이 없어지나요?” — 반은 맞고 반은 틀린 질문입니다.
  • “GPT-5는 파라미터가 더 많으니까 무조건 낫겠죠?” — 파라미터가 뭔지 모르면 판단할 수 없습니다.
  • “모델한테 우리 회사 규정을 학습시켜 주세요.” — ‘학습’이라는 단어가 여기서 세 가지 다른 뜻으로 쓰일 수 있습니다.

이 커리큘럼의 목표는 단순합니다. 수학을 중학교 과정까지 잊어버린 사람도, 이 문서 묶음만 읽으면 학부 AI 전공자 수준의 ‘개념 이해’에 도달하는 것입니다. 수식을 유도하는 능력이 아니라, 위와 같은 대화에서 무엇이 맞고 무엇이 틀렸는지 스스로 판단하는 능력을 기릅니다.

이 모듈 00은 여행 전에 지도를 펴는 시간입니다. 세부 지리는 몰라도, 어느 도시가 어디에 있고 어떤 길로 이어지는지를 먼저 봅니다.

한 줄 요약: 이 커리큘럼은 수식 유도가 아니라 “AI 대화에서 스스로 판단할 수 있는 개념 이해”를 목표로 하며, 모듈 00은 그 전체 지도를 보여 줍니다.


2. 비유로 먼저 — 처음 가 보는 대도시 여행

AI 공부는 처음 가 보는 거대한 도시를 여행하는 것과 비슷합니다.

  • 나쁜 여행: 공항에 내리자마자 골목(수식)부터 헤맵니다. 지금 내가 도시의 어디에 있는지 모르니 금방 지칩니다.
  • 좋은 여행: 먼저 전망대에 올라 도시 전체를 내려다봅니다. “강이 도시를 가르고, 북쪽이 구시가지, 남쪽이 신시가지구나.” 그다음 구역을 하나씩 걷습니다.

이 모듈이 바로 그 전망대입니다. 여기서 보는 것은 세 가지입니다.

  1. 지형 — AI, 머신러닝, 딥러닝, LLM이라는 용어들이 어떻게 포개져 있는지
  2. 물류의 흐름 — 요즘 AI 제품이 데이터에서 출발해 어떤 공정을 거쳐 여러분 손에 오는지
  3. 도시의 역사 — 이 도시가 어떻게 두 번 몰락했다가 지금처럼 번성했는지

전망대에서는 간판 글씨까지 읽을 필요가 없습니다. 이 모듈에서 “대충 이런 거구나” 정도로 넘어간 것들은 이후 모듈 01~36이 하나씩 확대해서 보여 줍니다.

한 줄 요약: 골목(세부 이론)에 들어가기 전에 전망대(전체 그림)부터 — 그것이 이 모듈의 역할입니다.


3. 용어 지형도: AI ⊃ 머신러닝 ⊃ 딥러닝 ⊃ LLM

뉴스에서는 AI, 머신러닝, 딥러닝, LLM이 거의 같은 말처럼 쓰이지만, 사실 이들은 러시아 인형(마트료시카)처럼 포개진 관계입니다.

AI, 머신러닝, 딥러닝, LLM의 포함 관계 벤다이어그램

각 층의 의미

용어한 줄 정의대표 예시주로 다루는 모듈
인공지능(AI)사람의 지적 활동을 흉내 내는 모든 기술규칙 기반 체스 프로그램, 내비게이션 경로 탐색이 모듈
머신러닝(Machine Learning)규칙을 사람이 짜지 않고 데이터에서 스스로 찾게 하는 방법스팸 필터, 상품 추천모듈 02
딥러닝(Deep Learning)인공 신경망(neural network)을 깊게 쌓은 머신러닝얼굴 인식, 음성 인식모듈 03
거대 언어 모델(LLM, Large Language Model)방대한 텍스트로 사전학습한 초대형 딥러닝 모델ChatGPT, Claude모듈 04~10
Diffusion 모델노이즈에서 이미지를 복원하는 방식의 딥러닝 모델Stable Diffusion, Midjourney모듈 16

핵심 포인트는 이것입니다.

  • AI라고 다 머신러닝은 아닙니다. 1980년대 전문가 시스템은 사람이 손으로 짠 수천 개의 if-then 규칙 덩어리였습니다. 학습이 없어도 AI입니다.
  • 머신러닝이라고 다 딥러닝은 아닙니다. 결정 트리(decision tree), 선형 회귀(linear regression) 같은 고전 기법은 신경망 없이도 데이터에서 배웁니다(→ 모듈 02).
  • ChatGPT는 이 인형의 가장 안쪽에 있습니다. ChatGPT를 이해하려면 바깥 인형(머신러닝, 딥러닝)부터 이해해야 하고, 그래서 이 커리큘럼이 모듈 02→03→…의 순서로 짜여 있습니다.

전통 프로그래밍 vs 머신러닝 — 가장 중요한 한 가지 차이

이 커리큘럼 전체를 관통하는 단 하나의 개념 전환이 있다면 이것입니다.

전통 프로그래밍머신러닝
사람이 주는 것규칙 + 입력입력 + 정답 사례(데이터)
컴퓨터가 내놓는 것출력규칙(모델)
예: 스팸 필터”무료라는 단어가 있으면 스팸” 규칙을 개발자가 직접 작성스팸/정상 메일 10만 통을 보여 주면 판별 기준을 스스로 찾음
규칙이 바뀌면개발자가 코드 수정새 데이터로 다시 학습

미니 예시로 감을 잡아 봅시다. 메일 3통이 있습니다.

메일”무료” 포함?느낌표 개수정답
A3개스팸
B0개스팸
C아니오0개정상

전통 방식이라면 개발자가 “무료가 있으면 스팸”이라고 코드를 짭니다. 머신러닝 방식은 이 표(데이터)만 주고 “규칙을 네가 찾아라”라고 합니다. 컴퓨터는 “‘무료’ 포함 여부가 정답과 딱 맞아떨어지는구나”라는 패턴을 스스로 발견합니다. 데이터가 3건이라 우스워 보이지만, 이걸 10만 건, 특징 수천 개로 키운 것이 실제 스팸 필터이고, 수조 단어로 키운 것이 LLM입니다. 정확히 어떻게 “스스로 발견”하는지가 모듈 02의 주제입니다.

한 줄 요약: AI ⊃ 머신러닝 ⊃ 딥러닝 ⊃ LLM의 포함 관계이며, 머신러닝의 본질은 “규칙을 사람이 아니라 데이터가 만든다”입니다.


4. 요즘 AI의 큰 그림: 데이터 → 사전학습 → 정렬 → 제품

ChatGPT 같은 제품은 하루아침에 만들어지지 않습니다. 크게 4단계의 공정을 거치며, 이 커리큘럼의 후반부 모듈들이 각 공정을 하나씩 담당합니다.

데이터에서 제품까지의 파이프라인 조감도

각 단계를 요리에 비유하면 이렇습니다.

  1. 데이터 수집 = 장보기. 웹 문서, 책, 코드 등 수조 개 단어 분량의 텍스트를 모읍니다. 재료가 나쁘면 요리도 나쁩니다.
  2. 사전학습(pretraining) = 기본기 수련. 모은 텍스트로 “다음 단어 맞히기”라는 단순한 문제를 수천억 번 풀게 합니다. 이 단순 반복만으로 문법, 상식, 추론의 재료가 모델 안에 쌓입니다(→ 모듈 07). 이 단계가 끝난 모델은 요리 지식은 많지만 손님 응대는 못 하는 주방 보조와 같습니다.
  3. 정렬(alignment) = 손님 응대 교육. “질문에는 답변으로 응하라”, “위험한 요청은 거절하라” 같은 태도를 가르칩니다. 사람의 선호를 반영하는 RLHF 같은 기법이 여기 들어갑니다(→ 모듈 08).
  4. 제품 계층 = 매장 운영. 완성된 모델을 감싸서 실제 서비스를 만듭니다. 회사 문서를 찾아 근거로 답하게 하는 RAG(→ 모듈 13), 계산기나 API를 대신 호출하게 하는 Tool Calling(→ 모듈 14), 여러 단계를 스스로 계획·실행하는 Agent(→ 모듈 15)가 모두 이 층의 이야기입니다.

각 공정이 이 커리큘럼의 어느 모듈과 이어지는지 흐름으로 보면 다음과 같습니다.

flowchart LR
    A[데이터 수집] --> B["사전학습 (모듈 07)"]
    B --> C["정렬 (모듈 08)"]
    C --> D[완성된 모델]
    D --> E["효율화·서빙 (모듈 10)"]
    E --> F["제품 계층 (모듈 11~15)"]
    F --> G[사용자]

한 가지 공정을 더 언급하자면, 완성된 모델과 제품 계층 사이에는 효율화·추론(inference) 공정이 있습니다. 수천억 개 다이얼을 가진 모델을 그대로 돌리면 너무 느리고 비싸기 때문에, 살을 빼고(양자화) 계산을 재활용하는(캐싱) 기술이 들어갑니다(→ 모듈 10). 여러분이 쓰는 API 가격과 응답 속도가 이 공정에서 결정됩니다.

여기서 실무에 바로 도움이 되는 통찰 하나: 여러분 회사가 “사내 문서 Q&A 봇”을 만든다면, 손대는 곳은 거의 항상 4단계(제품 계층)입니다. 13단계는 수백억 원대 비용이 드는 영역이라 OpenAI, Anthropic, Google 같은 회사가 담당하고, 대부분의 기업은 완성된 모델을 빌려 와 제품 계층을 설계합니다. 그래서 이 커리큘럼도 원리(모듈 0110)와 제품(모듈 11~15)을 모두 다룹니다.

한 줄 요약: 요즘 AI는 “데이터 → 사전학습 → 정렬 → 제품”의 4단계 공정으로 만들어지며, 대부분의 실무는 마지막 제품 계층에서 벌어집니다.


5. 질문 하나의 여정: ChatGPT 내부에서 일어나는 일

이제 완성된 제품에 질문 하나를 던져 봅시다. 내부에서는 대략 이런 일이 벌어집니다. (지금은 각 단계의 이름만 눈에 익히면 됩니다. 상세한 원리는 표시된 모듈에서 다룹니다.)

sequenceDiagram
    participant U as 사용자
    participant T as 토크나이저
    participant M as 모델 본체
    participant D as 디코딩
    U->>T: "고양이는 어디서 자?" 입력
    T->>M: 텍스트를 토큰 번호열로 변환 (모듈 04)
    M->>M: attention으로 문맥 파악 (모듈 05~06)
    M->>D: "다음 토큰" 확률 분포 출력
    D->>D: 확률에서 토큰 1개 선택 (모듈 09)
    D->>U: 선택된 토큰을 화면에 출력
    Note over T,D: 이 과정을 토큰 하나마다 반복

단계별로 풀어 보면 다음과 같습니다.

  1. 토큰화(tokenization). 모델은 글자를 직접 읽지 못합니다. 문장을 토큰(token)이라는 조각으로 자르고 각 조각을 번호로 바꿉니다. 예컨대 “고양이가 소파에서 잔다”는 [고양이, 가, 소파, 에서, 잔다]처럼 조각날 수 있습니다(→ 모듈 04).
  2. 임베딩(embedding). 각 토큰 번호를 숫자 목록(벡터)으로 바꿉니다. 이 숫자들이 단어의 “의미 좌표” 역할을 합니다(→ 모듈 04).
  3. Transformer 본체 통과. 수십 개의 층(layer)을 지나며, 각 층에서 attention이라는 장치가 “이 단어를 이해하려면 문장의 어느 단어를 참고해야 하는가”를 계산합니다(→ 모듈 05~06).
  4. 확률 분포 출력. 모델의 최종 출력은 문장이 아니라 “다음 토큰이 무엇일지에 대한 확률표” 입니다.
  5. 디코딩(decoding). 그 확률표에서 토큰 하나를 뽑습니다. 가장 확률 높은 것만 뽑을 수도, 약간의 무작위성을 섞을 수도 있습니다(→ 모듈 09).
  6. 반복. 뽑힌 토큰을 입력 끝에 붙이고 1~5를 다시 합니다. 답변이 한 글자씩 흘러나오듯 표시되는 이유가 바로 이것입니다 — 실제로 토큰 단위로 하나씩 생성되고 있기 때문입니다.

미니 예시: 입력이 “고양이가 소파에서”까지 왔다면, 모델의 출력은 이런 확률표입니다.

다음 토큰 후보확률
잔다0.62
뒹군다0.15
운다0.08
떨어졌다0.05
(그 외 수만 개)0.10

여기서 “잔다”가 뽑히면 문장은 “고양이가 소파에서 잔다”가 되고, 모델은 다시 그다음 토큰(예: 마침표)의 확률표를 냅니다. ChatGPT의 정체는 결국 “다음 토큰 확률 계산기 + 뽑기 기계”의 반복입니다. 이 단순한 정체에서 어떻게 그토록 그럴듯한 능력이 나오는지가 모듈 04~09에 걸친 미스터리 해결 과정입니다.

한 줄 요약: 질문 하나는 “토큰화 → 임베딩 → attention → 확률표 → 토큰 뽑기”의 반복으로 처리되며, 각 단계를 이후 모듈들이 하나씩 담당합니다.


6. AI 70년사: 두 번의 겨울과 한 번의 폭발

“AI는 갑자기 튀어나온 기술”이 아닙니다. 1950년부터 이어진 70년짜리 드라마이며, 지금이 몇 번째 시즌인지 알면 뉴스가 다르게 읽힙니다.

AI 역사 연대표 1950-현재

시기사건왜 중요한가
1950튜링, “기계가 생각할 수 있는가” 논문대화로 지능을 판별하자는 튜링 테스트 제안. AI라는 질문의 시작
1956다트머스 회의”인공지능(Artificial Intelligence)“이라는 이름이 탄생
1958퍼셉트론(perceptron)최초의 인공 뉴런. 오늘날 신경망의 조상(→ 모듈 03)
1970~80년대두 차례의 AI 겨울과장된 기대 → 성과 부진 → 투자 실종. 퍼셉트론의 한계 증명이 방아쇠
2012AlexNet딥러닝이 이미지 인식 대회를 압도적 격차로 우승. 딥러닝 부활의 신호탄
2017Transformer 논문현대 LLM 전부의 공통 설계도가 등장(→ 모듈 06)
2020GPT-3모델을 키우기만 해도 새로운 능력이 나타난다는 것을 실증(→ 모듈 07)
2022ChatGPTRLHF로 길들인 모델(→ 모듈 08)이 대중의 손에. 출시 2개월 만에 사용자 1억 명
현재멀티모달·Agent텍스트를 넘어 이미지·음성을 다루고(→ 모듈 16), 도구를 쥐고 행동하는 AI(→ 모듈 15)

두 번의 겨울 이야기

연대표의 “AI 겨울”을 조금만 더 들여다봅시다. 지금의 열기를 냉정하게 보는 데 도움이 됩니다.

첫 번째 겨울(1970년대). 1958년 퍼셉트론이 나오자 언론과 군은 “생각하는 기계가 눈앞”이라며 돈을 쏟아부었습니다. 그러나 1969년, 당대 최고 학자들이 “퍼셉트론 한 층으로는 아주 단순한 문제(두 조건이 서로 다를 때만 참, XOR)조차 못 푼다”는 것을 수학적으로 증명해 버립니다. 층을 여러 개 쌓으면 되지만, 당시엔 여러 층을 훈련시키는 방법도 컴퓨터 성능도 없었습니다. 자금이 끊기고 연구자들이 분야를 떠났습니다.

두 번째 겨울(1980년대 말~1990년대). 이번엔 사람이 규칙을 손으로 넣는 전문가 시스템(expert system)이 유행했습니다. 초기 성과는 좋았지만, 규칙이 수만 개로 불어나자 유지보수가 불가능해지고 예외 상황마다 무너졌습니다. “규칙을 사람이 다 쓸 수는 없다”는 교훈을 남기고 다시 투자가 얼어붙었습니다. 이 교훈이 바로 “규칙을 데이터에서 찾게 하자”는 머신러닝(→ 모듈 02)이 주류가 된 배경입니다.

두 겨울을 녹인 것이 2012년 AlexNet입니다. 이미지넷(ImageNet)이라는 대회에서 “사진 속 물체 맞히기” 오답률을 경쟁자들이 1~2%p 다툴 때 딥러닝 팀이 단숨에 10%p 가까이 낮춰 버렸고, 학계와 산업계 전체가 방향을 틀었습니다.

역사에서 꼭 챙길 교훈은 두 가지입니다.

첫째, AI 겨울은 “기술이 틀려서”가 아니라 “기대가 너무 앞서서” 왔습니다. 1958년 퍼셉트론이 나왔을 때 언론은 “곧 걷고 말하는 기계가 나온다”고 썼습니다. 60년 뒤에야 이뤄질 일이었죠. 아이디어(신경망)는 옳았지만 컴퓨터 성능과 데이터가 턱없이 부족했습니다.

둘째, 2012년 이후의 폭발은 세 가지 재료가 동시에 갖춰진 결과입니다. ① 인터넷이 쌓은 방대한 데이터, ② 게임용 그래픽 카드(GPU)가 제공한 값싼 대량 계산 능력, ③ 수십 년간 다듬어진 알고리즘. 셋 중 하나만 빠져도 지금의 AI는 없습니다.

한 줄 요약: AI는 70년간 기대와 겨울을 오간 끝에, 데이터·GPU·알고리즘 세 박자가 맞은 2012년 이후 폭발했고 2017년 Transformer가 현재의 판을 깔았습니다.


7. 학습 지도: 37개 모듈이 이어지는 길

이 커리큘럼은 두 겹입니다.

  • 핵심 트랙(00~18): LLM이 어떻게 만들어지고, 길들여지고, 제품으로 조립되고, 운영되는지를 하나의 이야기로 관통합니다.
  • 넓이 보충 트랙(19~36): LLM 중심 시야에서 빠지기 쉬운 고전 AI, 전통 ML, 비전, 음성, 로보틱스, MLOps, 보안, 거버넌스, 도메인 AI를 보강합니다.

먼저 핵심 트랙의 원리 흐름입니다.

flowchart TD
    M00[00 오리엔테이션] --> M01[01 최소 수학]
    M01 --> M02[02 머신러닝 기초]
    M02 --> M03[03 신경망]
    M03 --> M04[04 토큰과 임베딩]
    M04 --> M05[05 시퀀스 모델과 attention]
    M05 --> M06[06 Transformer 완전 해부]
    M06 --> M07[07 LLM 만들기]
    M07 --> M08["08 모델 길들이기 RLHF"]
    M08 --> M09[09 생성의 원리]
    M09 --> M10[10 효율화와 추론]

원리 트랙은 벽돌을 쌓듯 진행됩니다. 벡터라는 최소한의 수학(01)이 있어야 머신러닝(02)이 보이고, 머신러닝이 있어야 신경망(03)이 보이고, 그렇게 한 층씩 올라가 모듈 06에서 Transformer라는 정상에 도달한 뒤, 07~10에서 그것을 LLM으로 키우고 길들이고 굴리는 법을 봅니다.

이어서 제품 트랙입니다.

flowchart TD
    M10[10 효율화와 추론] --> M11[11 AI 제품 아키텍처]
    M11 --> M12[12 벡터 검색]
    M12 --> M13[13 RAG]
    M13 --> M14[14 Tool calling]
    M14 --> M15[15 Agent]
    M11 --> M16[16 Diffusion과 멀티모달]
    M15 --> M17[17 평가와 운영]
    M16 --> M17
    M17 --> M18[18 Coding Agent Harness]

제품 트랙은 “완성된 모델로 무엇을 만들 것인가”의 이야기입니다. 제품 전체 구조(11)를 보고, 검색 인프라(12)를 깔고, 그 위에 RAG(13) → Tool calling(14) → Agent(15)로 능력을 확장한 뒤, 이미지 생성과 멀티모달(16)을 곁들이고, “만든 것이 잘 작동하는지 어떻게 아는가”(17)를 배웁니다. 모듈 18은 그 연장선에서 코딩 에이전트 하네스를 직접 설계하는 피날레 실습입니다.

마지막으로 넓이 보충 트랙입니다.

flowchart TD
    M19[19 Classical AI Problem Solving] --> M20[20 Knowledge Representation]
    M20 --> M21[21 Probabilistic Reasoning and Causality]
    M21 --> M22[22 Planning and Reinforcement Learning]
    M22 --> M23[23 Classical Machine Learning Zoo]
    M23 --> M24[24 Data-Centric AI]
    M24 --> M25[25 NLP Beyond LLMs]
    M25 --> M26[26 Computer Vision]
    M26 --> M27[27 Speech and Audio AI]
    M27 --> M28[28 Recommender Search Ranking]
    M28 --> M29[29 Robotics and Embodied AI]
    M29 --> M30[30 ML Systems and MLOps]
    M30 --> M31[31 Scalable AI Infrastructure]
    M31 --> M32[32 AI Security Privacy Safety]
    M32 --> M33[33 Responsible AI Governance]
    M33 --> M34[34 Human-Centered AI]
    M34 --> M35[35 AI by Domain]
    M35 --> M36[36 Research Literacy]

여기서 중요한 점은 번호 순서가 “유일한 학문적 선수과목 순서”라는 뜻은 아니라는 것입니다. 0018은 LLM 시스템을 빠르게 이해하기 위한 기본 루트이고, 1936은 그 뒤에 AI 분야의 폭을 보강하는 루트입니다. 학문적 넓이를 먼저 잡고 싶다면 0003 이후에 1924를 먼저 읽고, 그다음 0418과 2536으로 가도 됩니다.

예상 학습 시간

구간모듈모듈당 예상 시간비고
워밍업002~2.5시간이 모듈
원리 트랙01~104~6시간01(최소 수학)은 이후 전부의 토대이므로 서두르지 말 것
제품 트랙11~183~6시간실무와 직결. 18은 코딩 에이전트 하네스 피날레
넓이 보충19~362~4시간분야 지도를 넓히는 압축 모듈

0018만 주 2모듈 페이스로 가면 약 23개월 과정입니다. 1936까지 포함하면 약 45개월을 잡는 편이 현실적입니다. 순서를 건너뛰고 싶은 유혹(예: “RAG만 빨리 보고 싶다”)이 들 수 있지만, 원리 트랙 없이 제품 트랙만 읽으면 “동작은 따라 하는데 왜 그런지는 모르는” 상태가 됩니다. 급하다면 최소한 01~04는 거치고 가기를 권합니다.

상황별 추천 코스

코스경로이런 분께
핵심 정석 코스00 → 18 전부 순서대로LLM 시스템과 제품 구조를 탄탄하게 잡고 싶은 분
전체 넓이 코스00 → 36 전부 순서대로LLM 이후 AI 분야 전체 지도를 넓히고 싶은 분
학문적 넓이 우선 코스00 → 01 → 02 → 03 → 19 → 20 → 21 → 23 → 24 → 22 → 0418 → 2536고전 AI와 전통 ML의 위치를 먼저 잡고 싶은 분
실무 속성 코스00 → 01 → 02 → 04 → 11 → 12 → 13 → 14 → 15 → 17 → 18당장 “사내 문서 Q&A 봇”이나 코딩 에이전트류 제품을 설계해야 하는 분
원리 집중 코스00 → 01 ~ 10”Transformer가 도대체 뭔지”가 궁금해서 온 분

속성 코스를 택하더라도, 여유가 생기면 건너뛴 모듈(특히 03, 05, 06)로 돌아오세요. attention을 모른 채 RAG를 만드는 것과 알고 만드는 것은 컨텍스트 설계의 질이 다릅니다.

한 줄 요약: 0110에서 원리의 벽돌을 쌓고, 1118에서 LLM 제품을 짓고, 19~36에서 AI 전체 분야의 넓이를 보강하는 구조입니다.


8. 공부하는 방법: 각 모듈을 이렇게 도세요

각 모듈은 하나의 완결된 Markdown 본문입니다. 권장 학습 루프는 다음과 같습니다.

flowchart LR
    A[README에서 핵심 질문 확인] --> B[본문 정독]
    B --> C[핵심 요약만 보고 스스로 설명]
    C --> D{막히는 개념이 적은가}
    D -->|예| E[다음 모듈로]
    D -->|아니오| F[막힌 섹션만 재독]
    F --> C

구체적인 팁입니다.

  • README의 핵심 질문을 먼저 읽으세요. “이 질문들에 답하게 되는 것”이 모듈의 목표입니다. 본문을 읽다가 길을 잃으면 핵심 질문으로 돌아오세요.
  • 핵심 요약을 자기 말로 다시 말하세요. 문제집이 없어도 인출 연습은 가능합니다. 요약 표의 각 줄을 보고 “이게 무슨 뜻이지?”를 소리 내어 설명해 보세요.
  • 손계산 미니 예시는 직접 따라 하세요. 본문 곳곳에 숫자 2~3개짜리 작은 예시가 나옵니다. 눈으로만 읽으면 5분 뒤 증발하지만, 종이에 한 번 따라 쓰면 남습니다.
  • 비유는 출발점이지 종착점이 아닙니다. 모든 비유는 어딘가에서 부정확해집니다. 본문에서 “이 비유가 깨지는 지점”을 언급하면 그 부분을 특히 주의 깊게 보세요.
  • 막히면 일단 전진도 괜찮습니다. 뒤 모듈을 읽다가 앞 개념이 갑자기 이해되는 일이 자주 일어납니다. 한 섹션에서 30분 이상 막히면 표시만 해 두고 넘어가세요.

한 줄 요약: “핵심 질문 확인 → 본문 정독 → 핵심 요약을 자기 말로 설명 → 막힌 섹션 재독”의 루프로 도세요.


9. 용어 오해 바로잡기: “학습한다”, “안다”, “파라미터”

AI 대화에서 가장 많은 혼란을 일으키는 세 가지 표현을 미리 짚습니다. 여기서는 맛보기이고, 정확한 이해는 모듈 02~03에서 완성됩니다.

”AI가 학습한다” — 공부가 아니라 다이얼 조정입니다

사람의 학습을 떠올리면 안 됩니다. 기계의 ‘학습(training)‘은 다음 루프의 반복입니다.

flowchart TD
    A[문제를 낸다 - 다음 단어는?] --> B[모델이 답을 찍는다]
    B --> C[정답과 비교해 틀린 정도를 잰다]
    C --> D[틀림이 줄어드는 방향으로 파라미터를 아주 조금 조정]
    D --> A

라디오 주파수 다이얼을 돌리며 잡음이 줄어드는 쪽을 찾는 것과 같습니다. 다른 점은 다이얼이 2~3개가 아니라 수천억 개이고, 조정을 수천억 번 반복한다는 것뿐입니다. “틀린 정도를 잰다”가 손실 함수(loss function), “줄어드는 방향으로 조정한다”가 경사 하강법(gradient descent)이라는 이름으로 모듈 02에서 등장합니다.

또 하나 중요한 사실: 여러분이 ChatGPT와 대화할 때 모델은 학습하지 않습니다. 다이얼은 훈련 공정에서 이미 고정되었고, 대화 중에는 읽기 전용으로 계산만 합니다. 어제 알려 준 내용을 오늘 새 대화에서 기억하지 못하는 이유입니다. (대화 내용을 다음 훈련의 재료로 쓸 수는 있지만, 그것은 별도의 공정입니다.)

”모델이 안다” — 데이터베이스가 아니라 패턴 뭉치입니다

모델 안에는 문장이나 문서가 저장되어 있지 않습니다. 검색해서 꺼내 오는 데이터베이스가 아니라, 훈련 텍스트에서 증류된 통계적 패턴의 뭉치입니다. “프랑스의 수도는 파리”라고 답하는 것은 그 문장이 어딘가 저장되어 있어서가 아니라, “프랑스의 수도는” 다음에 “파리”가 올 확률이 압도적으로 높도록 다이얼들이 맞춰져 있기 때문입니다.

이 사실에서 두 가지 실무적 결론이 나옵니다.

  • 패턴이 약한 영역(희귀한 사실, 훈련 이후의 사건)에서는 그럴듯하지만 틀린 문장을 태연히 만들어 냅니다. 이것이 환각(hallucination)이며, 결함이라기보다 “확률적 문장 생성기”라는 본질의 자연스러운 부작용입니다.
  • 그래서 최신·사내 정보가 필요하면 모델 밖에서 문서를 찾아 건네주는 RAG(→ 모듈 13) 같은 제품 계층 설계가 필요합니다. “사내 문서 Q&A 봇”이 단순히 모델만으로 안 되는 이유입니다.

”파라미터 1,750억 개” — 다이얼의 개수입니다

파라미터(parameter)는 위에서 말한 조정 가능한 다이얼 하나하나입니다. 실체는 숫자 하나(예: 0.0231)이고, “GPT-3는 파라미터 1,750억 개”라는 말은 이런 숫자가 1,750억 개 있다는 뜻입니다. 뉴런 2개짜리 미니 신경망이라면 파라미터는 대략 “입력에 곱하는 수 2개 + 기본값 2개 = 4개” 수준입니다. 그 구조가 모듈 03에서 손계산으로 등장합니다.

파라미터가 많을수록 담을 수 있는 패턴이 많아 대체로 능력이 오르지만, 비례해서 좋아지는 것은 아닙니다. 데이터의 양과 질, 훈련 방법이 함께 맞아야 하고(→ 모듈 07), 요즘은 작은 모델이 더 좋은 데이터와 기법으로 큰 모델을 이기는 사례도 흔합니다. “파라미터 수 = 성능 등급”으로 읽는 습관은 오늘 버리세요.

덤: “회사 규정을 학습시켜 주세요”의 세 가지 해석

1절에서 예고한 문장을 이제 분해할 수 있습니다. 실무에서 이 요청은 보통 셋 중 하나를 뜻하며, 비용과 난이도가 하늘과 땅 차이입니다.

해석실제 작업비유다루는 모듈
프롬프트에 넣기대화 입력에 규정 전문을 함께 넣어 줌시험장에 오픈북 반입모듈 11
RAG질문과 관련된 규정 조각만 검색해서 넣어 줌필요한 페이지만 찾아 주는 사서모듈 12~13
파인튜닝(fine-tuning)회사 데이터로 다이얼을 실제로 추가 조정직원을 다시 연수원에 보냄모듈 08

대부분의 “학습시켜 주세요”는 첫 번째나 두 번째로 충분하며, 진짜 훈련(세 번째)이 필요한 경우는 생각보다 드뭅니다. 이 구분만 명확히 해도 회의 시간이 절반으로 줄어듭니다.

흔한 표현연상되는 오해실제 의미
”AI가 학습한다”사람처럼 이해하며 공부한다틀림이 줄어드는 방향으로 수천억 개 다이얼을 반복 조정한다
”모델이 안다”사실이 데이터베이스처럼 저장돼 있다다음 토큰 확률 패턴으로 압축돼 있다 (그래서 환각이 생긴다)
“파라미터 N개”클수록 무조건 똑똑하다조정 가능한 숫자가 N개라는 뜻. 데이터·기법이 함께 중요

한 줄 요약: 학습은 다이얼 조정, 지식은 확률 패턴, 파라미터는 다이얼 개수 — 세 표현 모두 사람의 인지와는 다른 기계적 실체를 가리킵니다.


10. 흔한 오해

오해 1: “ChatGPT는 인터넷을 실시간으로 검색해서 답한다.” 기본적으로 아닙니다. 답변은 훈련 시점까지의 데이터에서 형성된 패턴으로 생성됩니다. 웹 검색이 되는 것처럼 보이는 제품은 모델 밖의 검색 도구를 붙인 것(→ 모듈 14 Tool calling)이며, 이는 모델 자체의 능력이 아니라 제품 계층의 설계입니다.

오해 2: “AI가 스스로 발전하고 있다.” 현재의 모델은 배포된 뒤 스스로 변하지 않습니다. 성능이 좋아졌다면 회사가 새 버전을 훈련해 교체한 것입니다. “어제보다 답이 좋아졌다”고 느꼈다면 버전 교체, 프롬프트 차이, 또는 우연(확률적 생성)입니다.

오해 3: “환각은 버그라서 곧 완전히 고쳐질 것이다.” 환각은 코드 오류가 아니라 “확률로 다음 토큰을 뽑는다”는 작동 원리의 그림자입니다. RAG(→ 모듈 13)나 평가 체계(→ 모듈 17)로 크게 줄일 수는 있지만, 원리가 바뀌지 않는 한 0이 되기는 어렵습니다. 그래서 “줄이는 설계”가 실무의 핵심 기술이 됩니다.

오해 4: “AI가 ‘죄송합니다’라고 하니 미안함을 느끼는 것이다.” 그 문장 역시 “이 상황에서 확률 높은 다음 토큰”일 뿐입니다. 감정 어휘의 출력과 감정의 존재는 별개입니다. 모델이 정중한 이유는 정렬 단계(→ 모듈 08)에서 그런 응답이 선호되도록 조정되었기 때문입니다.

오해 5: “딥러닝이 나오면서 옛날 머신러닝은 쓸모없어졌다.” 아닙니다. 표 형태 데이터(대출 심사, 이탈 예측 등)에서는 지금도 결정 트리 계열이 딥러닝을 이기는 일이 흔하며, 빠르고 싸고 설명하기 쉽습니다(→ 모듈 02). 문제에 맞는 도구를 고르는 눈이 이 커리큘럼의 목표 중 하나입니다.

한 줄 요약: 실시간 검색·자가 발전·감정은 없고, 환각은 원리의 그림자이며, 고전 머신러닝은 여전히 현역입니다.


11. 전체 그림에서 이 모듈의 위치

  • 이전 모듈: 없습니다. 여기가 출발점입니다.
  • 이 모듈: 전망대에서 지형(용어 관계), 공정(파이프라인), 역사(연대표), 여행 계획(학습 지도)을 봤습니다.
  • 다음 모듈 (→ 모듈 01 최소 수학): 이제 첫 번째 골목으로 내려갑니다. 벡터, 행렬, 확률, 함수 — 이후 모든 모듈에서 쓸 최소한의 수학 도구를 “계산 훈련 없이 개념만” 장착합니다. 이 모듈에서 맛본 임베딩(숫자 목록), 확률표, 다이얼 조정 같은 개념이 모두 모듈 01의 언어로 다시 등장합니다.

이 모듈에서 이름만 스친 개념들의 본편 예고입니다.

이 모듈에서 스친 개념본편
토큰, 임베딩모듈 04
attention모듈 05~06
다음 단어 맞히기 훈련모듈 07
RLHF, 정렬모듈 08
확률표에서 토큰 뽑기모듈 09
RAG, Tool calling, Agent모듈 13~15

한 줄 요약: 모듈 00은 전체 여행의 전망대였고, 다음 정거장은 모든 모듈의 공용어인 최소 수학(모듈 01)입니다.


12. 핵심 요약

  1. 이 커리큘럼의 목표: 수학을 잊은 사람도 학부 AI 전공 수준의 개념 이해에 도달하기.
  2. 용어 관계: AI ⊃ 머신러닝 ⊃ 딥러닝 ⊃ (LLM, Diffusion). ChatGPT는 가장 안쪽.
  3. 머신러닝의 본질: 규칙을 사람이 짜지 않고 데이터에서 컴퓨터가 찾게 한다.
  4. 요즘 AI의 공정: 데이터 → 사전학습 → 정렬 → 제품(RAG/Tool/Agent). 실무 대부분은 제품 계층.
  5. ChatGPT의 정체: “다음 토큰 확률 계산 + 뽑기”를 토큰마다 반복하는 기계.
  6. 역사: 두 번의 AI 겨울 후, 데이터·GPU·알고리즘 삼박자로 2012년 부활, 2017년 Transformer가 현재의 판.
  7. 학습(training) = 틀림을 줄이는 방향의 다이얼(파라미터) 반복 조정. 대화 중에는 학습하지 않음.
  8. 모델의 지식 = 저장된 문서가 아니라 확률 패턴. 환각은 이 본질의 부작용.
  9. 학습법: 핵심 질문 확인 → 본문 정독 → 핵심 요약을 자기 말로 설명 → 막힌 섹션 재독. 모듈당 2~6시간.
  10. 경로: 원리 트랙(0110)으로 벽돌을 쌓고, 제품 트랙(1118)으로 건물을 짓고, 보충 트랙(19~36)으로 AI 전체 지도를 넓힌다.

13. 더 깊이 가고 싶다면 (선택 사항)

아래 자료는 읽지 않아도 커리큘럼 진행에 전혀 지장이 없습니다. 본문이 자기완결적이도록 썼습니다.

  • Alan Turing, “Computing Machinery and Intelligence” (1950) — 튜링 테스트의 원전. 철학 에세이에 가까워 수식 없이 읽힙니다.
  • Vaswani et al., “Attention Is All You Need” (2017) — Transformer 원 논문. 지금 읽기보다는 모듈 06을 마친 뒤 “아는 내용 확인용”으로 권합니다.
  • Andrej Karpathy의 “Intro to Large Language Models” 강연 영상 — 이 모듈의 5절(질문 하나의 여정)을 1시간짜리 영상으로 확장한 느낌의 입문 강연입니다.

자주 묻는 질문

AI를 배우려면 수학을 잘해야 하나요?

수식을 유도하는 능력은 필요 없습니다. 개념을 판단할 수준의 직관이면 충분하며, 이 커리큘럼은 그 직관을 목표로 합니다.

AI·머신러닝·딥러닝·LLM은 어떻게 다른가요?

AI가 가장 넓고, 그 안에 머신러닝, 그 안에 딥러닝, 그 일부로 LLM이 포개진 포함 관계입니다.

AI 공부는 어디서부터 시작해야 하나요?

세부 이론보다 전체 지형(용어 관계·제품 공정·역사)을 먼저 잡고 들어가는 것이 효율적입니다.

Warren Shin

AI 시스템과 에이전틱 코딩을 다루는 개발자. LLM 기반 도구를 실무에 적용하며 배운 것을 기록한다.