AI 입문 & 로드맵를 실무 흐름으로 이해하기
AI를 처음 시작하는 분을 위한 출발점입니다. AI·머신러닝·딥러닝·생성형 AI가 무엇이고 어떻게 연결되는지, AI 서비스를 이루는 기술 스택 전체 지도, 필요한 수학·프로그래밍 수준, 직무별 진로, 그리고 0단계부터 실전 배포까지 이어지는 단계별 학습 로드맵을 한 번에 정리합니다. 이 가이드는 개념을 나열하기보다, 실제 프로젝트에서 판단해야 하는 순서대로 내용을 따라갈 수 있게 구성했습니다.
AI 입문자를 위한 첫 가이드
AI 입문 & 로드맵 완전 가이드
AI를 처음 시작하는 분을 위한 출발점입니다. AI·머신러닝·딥러닝·생성형 AI가 무엇이고 어떻게 연결되는지, AI 서비스를 이루는 기술 스택 전체 지도, 필요한 수학·프로그래밍 수준, 직무별 진로, 그리고 0단계부터 실전 배포까지 이어지는 단계별 학습 로드맵을 한 번에 정리합니다.
목차 17개 섹션
가이드 사용법
AI / LLM 시스템
모델과 프롬프트만 보지 않고, 데이터 흐름, 평가, 배포 이후의 운영 지표까지 한 번에 연결해서 봅니다.
구조 다이어그램
글로 읽은 내용을 머릿속에 오래 남기려면 먼저 흐름을 그림으로 잡는 편이 좋습니다. 아래 두 그림은 AI 입문 & 로드맵를 학습할 때 계속 되돌아볼 수 있는 기준 지도입니다.
학습 흐름
다이어그램 렌더링 중…
아키텍처 관점
다이어그램 렌더링 중…
AI란 무엇인가: 네 개의 동심원
AI 입문 & 로드맵를 처음 펼칠 때는 세부 명령보다 큰 그림이 먼저입니다. 이 섹션에서는 앞으로 배울 개념들이 어떤 문제를 풀기 위해 등장했는지부터 잡아봅니다.
인공지능(AI)은 "사람처럼 보고, 듣고, 판단하고, 만들어내는 시스템"을 만들려는 분야 전체를 가리킵니다. 요즘 뉴스에서 말하는 AI는 대부분 그 안의 머신러닝(ML), 그중에서도 딥러닝(DL), 그리고 딥러닝으로 글·이미지·코드를 만들어내는 생성형 AI(Generative AI)를 뜻합니다. ChatGPT, Claude, Gemini 같은 LLM(거대 언어모델)은 생성형 AI의 대표 주자입니다.
핵심 차이는 "규칙을 누가 만드느냐"입니다. 전통적인 프로그램은 사람이
핵심 차이는 "규칙을 누가 만드느냐"입니다. 전통적인 프로그램은 사람이
if 조건 then 동작 규칙을 직접 작성합니다. 머신러닝은 사람이 데이터와 정답을 주면 컴퓨터가 규칙을 스스로 찾아냅니다. 스팸 메일 규칙을 1,000개 손으로 쓰는 대신, 스팸/정상 메일 10만 개를 보여주고 구분법을 배우게 하는 것이죠.| 계층 | 한 줄 정의 | 대표 예시 |
|---|---|---|
| AI (인공지능) | 사람처럼 인식·판단·행동하는 시스템 전체 | 체스 엔진, 내비게이션 경로 탐색, 음성 비서 |
| ML (머신러닝) | 데이터로부터 규칙을 학습하는 AI의 방법론 | 스팸 필터, 신용 점수, 상품 추천 |
| DL (딥러닝) | 여러 층의 신경망으로 복잡한 패턴을 학습하는 ML | 얼굴 인식, 음성 인식, 자율주행 인지 |
| 생성형 AI / LLM | 새로운 글·이미지·코드·음성을 만들어내는 딥러닝 모델 | ChatGPT, Claude, Gemini, Stable Diffusion |
AI 발전사 한눈에: 70년의 흐름
AI 발전사 한눈에: 70년의 흐름은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
AI는 갑자기 등장한 기술이 아닙니다. "규칙 기반 → 데이터 기반 → 대규모 딥러닝 → 생성형·Agent"로 패러다임이 세 번 크게 바뀌었고, 각 전환은 데이터 양, 컴퓨팅 성능(GPU), 알고리즘 세 가지가 동시에 성숙했을 때 일어났습니다.
| 시기 | 이정표 | 의미 |
|---|---|---|
| 1950년대 | 튜링 테스트 제안, 다트머스 회의에서 "AI" 용어 탄생 | AI라는 학문의 출발 |
| 1970~80년대 | 전문가 시스템(규칙 기반 AI), 두 차례의 "AI 겨울" | 사람이 규칙을 다 써야 하는 한계에 부딪힘 |
| 1990~2000년대 | SVM·랜덤 포레스트 등 통계적 머신러닝 확산 | 데이터로 규칙을 배우는 방식이 주류가 됨 |
| 2012년 | AlexNet이 이미지 인식 대회에서 압도적 성능 | GPU + 딥러닝 시대 개막 |
| 2016년 | AlphaGo가 이세돌 9단에게 승리 | 강화학습의 대중적 각인 |
| 2017년 | Transformer 논문 "Attention Is All You Need" | 현대 LLM의 기반 구조 등장 |
| 2022년 말 | ChatGPT 공개 | 생성형 AI의 대중화 |
| 2024년~ | 멀티모달 모델, 추론(Reasoning) 모델, AI Agent 확산 | AI가 대답을 넘어 도구를 쓰고 작업을 수행하는 단계 |
AI는 어떻게 배우나: 데이터 → 학습 → 추론
여기서는 AI는 어떻게 배우나: 데이터 → 학습 → 추론을 실제 코드와 함께 확인합니다. 예제를 그대로 따라 하기보다, 입력과 출력, 그리고 바뀌기 쉬운 부분이 어디인지 보면서 읽어보세요.
모든 머신러닝 모델은 같은 뼈대를 가집니다. ① 데이터(입력과 정답)를 준비하고, ② 모델(조절 가능한 숫자, 즉 파라미터를 가진 함수)을 정하고, ③ 학습(예측과 정답의 차이인 "손실"을 줄이도록 파라미터를 조금씩 고치는 과정)을 반복한 뒤, ④ 추론(처음 보는 입력에 대해 예측)을 합니다.
비유하자면 학습은 "문제집을 풀고 채점하며 오답을 고치는 과정", 추론은 "실제 시험"입니다. 문제집 답만 외운 학생이 시험에서 망하는 것처럼, 학습 데이터만 외운 모델은 새 데이터에서 성능이 떨어지는데 이를 과적합(overfitting)이라고 합니다. 그래서 데이터를 학습용과 평가용으로 반드시 나눕니다.
비유하자면 학습은 "문제집을 풀고 채점하며 오답을 고치는 과정", 추론은 "실제 시험"입니다. 문제집 답만 외운 학생이 시험에서 망하는 것처럼, 학습 데이터만 외운 모델은 새 데이터에서 성능이 떨어지는데 이를 과적합(overfitting)이라고 합니다. 그래서 데이터를 학습용과 평가용으로 반드시 나눕니다.
first_model.pyPYTHON
# pip install scikit-learn
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.metrics import accuracy_score
# ① 데이터: 붓꽃 150송이의 꽃잎/꽃받침 크기(입력)와 품종(정답)
X, y = load_iris(return_X_y=True)
# 학습용 80% / 평가용 20%로 분리 (평가용은 학습에 절대 사용하지 않음)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# ② 모델 선택
model = DecisionTreeClassifier(max_depth=3)
# ③ 학습: 데이터로부터 규칙을 스스로 찾음
model.fit(X_train, y_train)
# ④ 추론 & 평가: 처음 보는 데이터로 시험
pred = model.predict(X_test)
print(f"정확도: {accuracy_score(y_test, pred):.2%}") # 약 100%
# 새 꽃 한 송이 예측
print(model.predict([[5.1, 3.5, 1.4, 0.2]])) # [0] → setosa 품종AI 기술 분야 지도: 무엇을 다루느냐에 따라
AI 기술 분야 지도: 무엇을 다루느냐에 따라은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
AI는 다루는 데이터의 종류에 따라 여러 분야로 나뉩니다. 최근에는 하나의 모델이 텍스트·이미지·음성을 함께 다루는 멀티모달이 늘면서 경계가 흐려지고 있지만, 분야별 핵심 문제와 기술을 알아두면 뉴스와 논문, 채용 공고를 읽을 때 훨씬 수월합니다.
| 분야 | 다루는 데이터 | 대표 과제 | 핵심 기술 |
|---|---|---|---|
| 자연어 처리 (NLP) | 텍스트 | 번역, 요약, 챗봇, 감성 분석, 검색 | Transformer, LLM, 임베딩 |
| 컴퓨터 비전 (CV) | 이미지·영상 | 객체 탐지, 얼굴 인식, 의료 영상 판독 | CNN, ViT, YOLO, Diffusion |
| 음성 (Speech) | 오디오 | 음성 인식(STT), 음성 합성(TTS) | Whisper, 음성 Transformer |
| 추천 시스템 | 사용자 행동 로그 | 상품·콘텐츠 추천, 개인화 | 협업 필터링, 임베딩, 랭킹 모델 |
| 정형 데이터 분석 | 표(엑셀·DB) 데이터 | 수요 예측, 이상 거래 탐지, 이탈 예측 | XGBoost, LightGBM, 회귀 |
| 강화학습 (RL) | 환경과의 상호작용 | 게임 AI, 로봇 제어, LLM 정렬(RLHF) | PPO, DQN, 보상 모델 |
| 생성형 AI | 텍스트·이미지·코드·음성 | 글쓰기, 이미지 생성, 코드 생성, AI Agent | LLM, Diffusion, RAG, Tool Use |
생성형 AI와 LLM: 꼭 알아야 할 10가지 개념
생성형 AI와 LLM: 꼭 알아야 할 10가지 개념은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
LLM은 인터넷 규모의 텍스트로 "다음에 올 단어(토큰) 맞히기"를 엄청나게 반복 학습한 모델입니다. 단순한 과제 같지만, 수조 개의 토큰을 학습하는 과정에서 문법·지식·추론 패턴까지 익히게 됩니다. 개발자 입장에서는 LLM을 직접 만들기보다 API로 호출하고, 내 데이터와 도구를 연결해 서비스로 만드는 일이 대부분입니다. 아래 10개 용어는 LLM 관련 문서라면 어디에나 나옵니다.
| 개념 | 쉽게 말하면 | 왜 중요한가 |
|---|---|---|
| 토큰 (Token) | LLM이 글을 읽고 쓰는 최소 단위(단어 조각) | 요금과 입력 길이 제한이 모두 토큰 단위로 계산됨 |
| 프롬프트 (Prompt) | LLM에게 주는 지시문과 입력 | 같은 모델도 프롬프트에 따라 결과 품질이 크게 달라짐 |
| 컨텍스트 윈도우 | 한 번에 읽을 수 있는 최대 토큰 양 | 긴 문서를 다룰 때 무엇을 넣고 뺄지 설계해야 함 |
| Temperature | 답변의 무작위성(창의성) 조절 값 | 정확한 답엔 낮게, 아이디어 발상엔 높게 |
| 환각 (Hallucination) | 그럴듯하지만 사실이 아닌 답을 만드는 현상 | LLM 서비스에서 가장 먼저 대비해야 할 위험 |
| 임베딩 (Embedding) | 문장의 의미를 숫자 벡터로 바꾼 것 | 의미 기반 검색·추천·분류의 기반 |
| RAG | 질문과 관련된 문서를 검색해 프롬프트에 넣어주는 기법 | 사내 문서·최신 정보로 답하게 하고 환각을 줄임 |
| 파인튜닝 (Fine-tuning) | 기존 모델을 내 데이터로 추가 학습 | 특정 말투·형식·도메인에 특화할 때 사용 |
| Tool Use / Function Calling | LLM이 외부 함수·API를 호출하도록 하는 기능 | 검색, DB 조회, 계산 등 LLM 혼자 못 하는 일을 수행 |
| AI Agent | 목표를 받아 스스로 계획하고 도구를 반복 사용하는 LLM 시스템 | 단순 챗봇을 넘어 실제 업무를 자동화하는 단계 |
첫 LLM API 호출: 10줄로 AI 앱 만들기
여기서는 첫 LLM API 호출: 10줄로 AI 앱 만들기을 실제 코드와 함께 확인합니다. 예제를 그대로 따라 하기보다, 입력과 출력, 그리고 바뀌기 쉬운 부분이 어디인지 보면서 읽어보세요.
LLM 애플리케이션 개발의 첫걸음은 API 호출입니다. 모델 제공사(OpenAI, Anthropic, Google 등)에서 API 키를 발급받아 환경변수에 넣고, 메시지 목록을 보내면 답변이 돌아옵니다. system 메시지로 역할과 규칙을 정하고, user 메시지로 질문을 전달하는 구조는 거의 모든 LLM API가 동일합니다.
hello_llm.pyPYTHON
# pip install openai
# 터미널에서 먼저: export OPENAI_API_KEY="sk-..." (키는 코드에 직접 쓰지 않기!)
from openai import OpenAI
client = OpenAI() # 환경변수 OPENAI_API_KEY를 자동으로 읽음
response = client.chat.completions.create(
model="gpt-4o-mini",
temperature=0.3,
messages=[
{"role": "system", "content": "당신은 초보 개발자를 돕는 친절한 AI 튜터입니다. 3문장 이내로 답하세요."},
{"role": "user", "content": "머신러닝과 딥러닝의 차이를 설명해줘."},
],
)
print(response.choices[0].message.content)
print("사용 토큰:", response.usage.total_tokens) # 비용 확인 습관 들이기AI 서비스 기술 스택: 6개의 층
AI 서비스 기술 스택: 6개의 층은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
실제 AI 서비스는 모델 하나로 끝나지 않습니다. 아래에서 위로 쌓이는 6개의 층이 함께 동작해야 사용자에게 안정적인 서비스가 됩니다. 이 지도를 머릿속에 두면 새로운 도구나 프레임워크를 만났을 때 "이건 어느 층의 도구인가"를 바로 분류할 수 있습니다.
| 층 | 역할 | 대표 기술 | 관련 가이드 |
|---|---|---|---|
| 6. 운영 (Ops) | 배포, 모니터링, 비용·품질 추적 | Docker, Kubernetes, Prometheus, LangSmith | LLMOps, Docker |
| 5. 애플리케이션 | 사용자가 만나는 API·화면 | FastAPI, Next.js, Streamlit | FastAPI |
| 4. 오케스트레이션 | 프롬프트·RAG·Agent 흐름 조립 | LangChain, LangGraph, LlamaIndex, MCP | LangChain, LangGraph, MCP |
| 3. 데이터 & 검색 | 문서 저장, 임베딩, 유사도 검색 | 벡터 DB(Chroma, pgvector, Pinecone) | 벡터 DB |
| 2. 모델 | 학습된 AI 모델 자체 (API 또는 오픈소스) | GPT, Claude, Gemini, Llama, Qwen | LLM Fundamentals, Hugging Face |
| 1. 프레임워크 & 인프라 | 모델 학습·추론 엔진과 하드웨어 | PyTorch, TensorFlow, JAX, CUDA, GPU | PyTorch, TensorFlow |
AI 직무 지도: 어떤 일을 하고 싶은가
AI 직무 지도: 어떤 일을 하고 싶은가은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
"AI 개발자"라는 말 안에는 성격이 꽤 다른 직무들이 섞여 있습니다. 목표 직무에 따라 필요한 수학의 깊이, 주로 쓰는 도구, 학습 순서가 달라지므로 대략적인 방향을 먼저 정해두면 학습 효율이 크게 올라갑니다.
| 직무 | 주요 업무 | 핵심 역량 | 수학 요구 수준 |
|---|---|---|---|
| AI 애플리케이션 / Agent 엔지니어 | LLM API로 챗봇·RAG·Agent 서비스 구현 | Python, 프롬프트, RAG, LangChain/LangGraph, API 설계 | 낮음~중간 |
| ML 엔지니어 | 모델 학습·최적화·서빙 파이프라인 구축 | PyTorch, 데이터 파이프라인, 모델 서빙, GPU | 중간~높음 |
| MLOps / LLMOps 엔지니어 | 모델 배포 자동화, 모니터링, 비용·품질 관리 | Docker, Kubernetes, CI/CD, 관측성 | 낮음~중간 |
| 데이터 사이언티스트 | 데이터 분석, 예측 모델, 비즈니스 인사이트 도출 | 통계, Pandas, scikit-learn, 시각화 | 중간~높음 |
| 데이터 엔지니어 | 데이터 수집·정제·저장 파이프라인 구축 | SQL, Spark, Airflow, 클라우드 | 낮음 |
| AI 리서처 | 새로운 모델 구조·학습 방법 연구 | 선형대수·확률·최적화, 논문 구현 | 매우 높음 |
시작 전 준비물: 수학, 프로그래밍, 개발 환경
시작 전 준비물: 수학, 프로그래밍, 개발 환경은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
"수학을 잘해야 AI를 할 수 있나요?"는 입문자가 가장 많이 묻는 질문입니다. 답은 목표에 따라 다르다입니다. LLM을 활용한 서비스 개발은 고등학교 수준 수학으로도 충분히 시작할 수 있고, 필요한 개념은 막힐 때마다 채워 넣으면 됩니다. 반면 모델을 직접 설계·연구하려면 선형대수와 확률은 필수입니다.
| 영역 | 무엇을 | 어느 정도 | 언제 필요한가 |
|---|---|---|---|
| 프로그래밍 | Python 문법, 함수, 클래스, 패키지 관리 | 필수 — 가장 먼저 | 모든 AI 작업의 기본 언어 |
| 데이터 다루기 | NumPy, Pandas, JSON, SQL 기초 | 필수 | 데이터 전처리, 결과 분석 |
| 선형대수 | 벡터, 행렬 곱, 내적 | 개념 이해 수준 | 임베딩·신경망 구조를 이해할 때 |
| 확률·통계 | 평균, 분산, 확률 분포, 조건부 확률 | 개념 이해 수준 | 모델 평가, 샘플링(temperature) 이해 |
| 미분 | 기울기(gradient)의 의미 | 직관 수준 | 경사하강법으로 모델이 학습되는 원리 이해 |
| 개발 도구 | Git, 터미널, VS Code, Jupyter/Colab | 필수 | 실습과 프로젝트 관리 |
단계별 학습 로드맵: 0단계부터 실전 배포까지
단계별 학습 로드맵: 0단계부터 실전 배포까지은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
아래 로드맵은 완전 입문자가 LLM 기반 AI 서비스를 직접 만들고 배포할 수 있는 수준까지 가는 순서입니다. 각 단계는 이전 단계를 기반으로 하므로 순서대로 진행하는 것을 권장하지만, 이미 아는 단계는 체크 항목만 확인하고 넘어가도 됩니다. 각 단계의 링크를 따라가면 이 사이트의 상세 가이드로 이어집니다.
| 단계 | 목표 | 학습 내용 | 가이드 | 완료 체크 |
|---|---|---|---|---|
| 0. 준비 | 개발 환경과 Python 기초 | Python 문법, 가상환경, Git, Jupyter | Python 기본, Linux | 간단한 파일 처리 스크립트를 혼자 작성 |
| 1. 개념 | AI·ML의 원리 이해 | 학습 방식, 알고리즘, 신경망, 평가지표, 과적합 | ML Fundamentals | scikit-learn으로 분류 모델 학습·평가 |
| 2. LLM 이해 | LLM이 동작하는 방식 이해 | Transformer, 토큰, 임베딩, 프롬프트, 환각 | LLM Fundamentals | 프롬프트를 바꿔가며 결과 차이를 설명 |
| 3. LLM 활용 개발 | API로 AI 기능 구현 | 비동기 호출, 구조화 출력, 스트리밍 | Python AI, FastAPI | LLM을 호출하는 REST API 서버 구현 |
| 4. RAG | 내 데이터로 답하는 AI | 문서 분할, 임베딩, 벡터 검색, 체인 구성 | LangChain, LlamaIndex, 벡터 DB | PDF 문서 기반 Q&A 챗봇 완성 |
| 5. Agent | 도구를 쓰는 AI | Tool Use, 상태 그래프, MCP, 멀티 에이전트 | LangGraph, MCP, Multi-Agent | 검색·계산 도구를 쓰는 Agent 구현 |
| 6. 평가 & 운영 | 신뢰할 수 있는 서비스로 | 품질 평가, 배포, 모니터링, 비용 관리 | Agent Evaluation, Docker, LLMOps | Docker로 배포하고 품질 지표 추적 |
| 7. 심화 (선택) | 모델 자체를 다루기 | 딥러닝 프레임워크, 파인튜닝, 오픈소스 모델 | PyTorch, Hugging Face | 오픈소스 모델 LoRA 파인튜닝 |
12주 학습 플랜: 하루 1~2시간 기준
12주 학습 플랜: 하루 1~2시간 기준은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
직장인이나 학생이 하루 1~2시간씩 투자한다고 가정한 현실적인 일정입니다. 주차별로 "결과물"을 하나씩 남기는 것이 핵심입니다. 결과물을 GitHub에 올려두면 그대로 포트폴리오가 됩니다.
| 주차 | 주제 | 이번 주 결과물 |
|---|---|---|
| 1~2주 | Python 기초, Git, Jupyter/Colab 환경 | CSV 파일을 읽어 요약 통계를 출력하는 스크립트 |
| 3주 | NumPy·Pandas로 데이터 다루기 | 공공데이터 하나를 정제하고 시각화한 노트북 |
| 4~5주 | 머신러닝 기초: 분류·회귀·평가지표 | scikit-learn 예측 모델 + 평가 리포트 |
| 6주 | LLM 원리: 토큰, 임베딩, 프롬프트 | 같은 과제에 프롬프트 5가지를 비교한 실험 노트 |
| 7주 | LLM API 활용과 구조화 출력 | JSON으로 결과를 반환하는 리뷰 분석기 |
| 8주 | FastAPI로 AI API 서버 만들기 | 스트리밍 응답을 지원하는 챗봇 API |
| 9~10주 | RAG: 임베딩, 벡터 DB, 검색 품질 | 내 문서(PDF·노트)에 답하는 Q&A 챗봇 |
| 11주 | Agent와 Tool Use | 웹 검색·계산기를 사용하는 간단한 Agent |
| 12주 | 평가, Docker 배포, 회고 | 배포된 서비스 URL + README + 개선점 정리 |
입문 프로젝트 아이디어: 난이도별
입문 프로젝트 아이디어: 난이도별은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
가장 좋은 학습은 "내가 실제로 쓰고 싶은 것"을 만드는 것입니다. 아래 아이디어 중 하나를 골라 작게 시작하고, 기능을 하나씩 붙여가며 키워보세요. 완성도보다 끝까지 동작하는 버전을 먼저 만드는 것이 중요합니다.
| 난이도 | 프로젝트 | 배우는 것 |
|---|---|---|
| ★☆☆ | 영화 리뷰 감성 분류기 (scikit-learn) | 데이터 분리, 텍스트 벡터화, 평가지표 |
| ★☆☆ | LLM 번역·요약 CLI 도구 | API 호출, 프롬프트 설계, 토큰 비용 |
| ★★☆ | 회의록 → 할 일 목록 자동 추출기 | 구조화 출력(JSON), 입력 검증 |
| ★★☆ | 내 블로그·노트 기반 Q&A 챗봇 | RAG, 임베딩, 벡터 DB, 출처 표시 |
| ★★★ | 업무 자동화 Agent (메일 요약 + 일정 등록) | Tool Use, 상태 관리, 오류 처리 |
| ★★★ | RAG 챗봇 품질 평가 대시보드 | 평가 데이터셋, 자동 채점, 모니터링 |
입문자가 자주 하는 실수 7가지
입문자가 자주 하는 실수 7가지은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
AI 학습은 범위가 넓고 변화가 빨라서 방향을 잃기 쉽습니다. 많은 입문자가 비슷한 지점에서 멈추는데, 미리 알고 있으면 대부분 피할 수 있습니다.
| 실수 | 왜 문제인가 | 대신 이렇게 |
|---|---|---|
| 수학·이론부터 완벽하게 끝내려 함 | 결과물 없이 지쳐서 포기하기 쉬움 | 코드로 먼저 돌려보고 원리는 필요할 때 채우기 |
| 강의만 보고 직접 코딩하지 않음 | "아는 것 같은 착각"만 남음 | 강의 1시간당 직접 코딩 2시간 비율 유지 |
| 최신 논문·도구를 모두 따라가려 함 | 매주 새 도구가 나와 끝이 없음 | 기본기(Python, API, RAG, 평가)에 집중 |
| 처음부터 모델을 직접 학습시키려 함 | GPU·데이터·시간 비용이 매우 큼 | 기존 모델 API·오픈소스 모델 활용부터 |
| LLM 답변을 그대로 신뢰함 | 환각으로 잘못된 정보가 서비스에 노출 | 출처 확인, 검증 로직, 평가 데이터셋 구축 |
| API 키를 코드에 하드코딩 | 유출 시 요금 폭탄과 보안 사고 | 환경변수·.env + .gitignore 사용 |
| 평가 없이 "잘 되는 것 같다"로 판단 | 개선 여부를 객관적으로 알 수 없음 | 작은 테스트 질문 세트로 매번 비교 |
책임 있는 AI 사용: 입문 단계부터 챙길 것
책임 있는 AI 사용: 입문 단계부터 챙길 것은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
AI는 강력한 만큼 잘못 쓰면 피해도 큽니다. 서비스를 만드는 개발자라면 기능 구현과 함께 아래 네 가지를 기본 체크리스트로 가져가야 합니다. 특히 한국에서는 개인정보보호법과 AI 관련 법·가이드라인이 계속 정비되고 있으므로, 실제 서비스 전에는 최신 규정을 확인하는 습관이 필요합니다.
| 항목 | 위험 | 기본 대응 |
|---|---|---|
| 개인정보 | 고객 정보가 외부 API로 전송·학습에 사용될 수 있음 | 민감 정보 마스킹, 데이터 사용 정책 확인, 최소 수집 |
| 편향 (Bias) | 학습 데이터의 편견이 결과에 그대로 반영 | 다양한 사용자 그룹으로 결과 검증 |
| 저작권 | 생성물이 기존 저작물과 유사할 수 있음 | 상업적 사용 전 라이선스·약관 확인 |
| 보안 | 프롬프트 인젝션으로 지시 우회, 데이터 유출 | 입력 검증, 도구 권한 최소화, 출력 필터링 |
핵심 용어 사전: 자주 만나는 30초 설명
핵심 용어 사전: 자주 만나는 30초 설명은 선택지가 갈리는 지점입니다. 표를 기준으로 각 방법의 쓰임새와 운영상의 차이를 비교해두면 이후 판단이 훨씬 쉬워집니다.
가이드와 문서를 읽다가 막히는 용어가 나오면 이 표로 돌아오세요. 각 용어는 이후 가이드에서 더 자세히 다룹니다.
| 용어 | 한 줄 설명 |
|---|---|
| 파라미터 (Parameter) | 모델이 학습으로 조정하는 내부 숫자. "7B 모델"은 파라미터 70억 개 |
| 하이퍼파라미터 | 사람이 학습 전에 정하는 설정값 (학습률, 층 수 등) |
| 손실 함수 (Loss) | 예측이 정답과 얼마나 다른지 나타내는 점수. 낮을수록 좋음 |
| 경사하강법 | 손실을 줄이는 방향으로 파라미터를 조금씩 고치는 학습 방법 |
| 에폭 (Epoch) | 전체 학습 데이터를 한 번 모두 학습하는 단위 |
| 과적합 (Overfitting) | 학습 데이터만 외워서 새 데이터에 약해지는 현상 |
| 추론 (Inference) | 학습이 끝난 모델로 새 입력에 대해 예측하는 과정 |
| 사전학습 (Pre-training) | 대규모 데이터로 범용 능력을 먼저 학습하는 단계 |
| RLHF | 사람의 선호 피드백으로 모델의 답변 스타일을 다듬는 학습 |
| 양자화 (Quantization) | 모델 숫자 정밀도를 낮춰 더 작고 빠르게 만드는 기법 |
| 멀티모달 (Multimodal) | 텍스트·이미지·음성 등 여러 형태의 데이터를 함께 다루는 모델 |
| 벡터 DB | 임베딩 벡터를 저장하고 의미가 비슷한 항목을 빠르게 찾는 데이터베이스 |
| MCP | LLM이 외부 도구·데이터에 연결되는 방식을 표준화한 프로토콜 |
| GPU | 대량의 행렬 연산을 병렬로 처리해 딥러닝 학습·추론을 가속하는 하드웨어 |