고급 LLM 엔지니어링·MLOps개념 중심콘텐츠 기준 2026.07
오픈소스 LLM 파인튜닝·서빙 실전
도메인 데이터로 소형 모델을 튜닝하고 vLLM으로 서빙해 비용을 실제로 내립니다.
이런 걸 얻어요
- 도메인 데이터를 학습 가능한 형태로 정제합니다
- LoRA·QLoRA로 소형 모델을 튜닝합니다
- 양자화 손상을 결정적 평가로 측정합니다
- vLLM으로 서빙하고 실제 비용을 계산합니다
이런 분께 추천해요
- API 비용을 자체 모델로 낮추려는 팀
- 도메인 특화 성능이 필요한 AI 엔지니어
선수 지식
- PyTorch 학습 스크립트 이해
- GPU 인스턴스 운용 경험
- Linux 셸 사용
강의 소개
이 강의가 끝나면
자체 데이터로 튜닝한 모델을 GPU 한 장에 올려 API로 제공할 수 있습니다.
다루는 범위
- 학습 데이터 정제와 분할
- LoRA·QLoRA 튜닝과 하이퍼파라미터
- 양자화 손상 측정과 정직한 벤치마크
- vLLM 서빙·배치·비용 계산
선수 지식
PyTorch 학습 스크립트를 읽고 수정할 수 있어야 합니다.
커리큘럼
전체 20개 레슨 · 총 5시간 56분
섹션 1. 자체 모델이 답인 경우4개 레슨 · 51분
- 영상 레슨오리엔테이션: API를 떠나야 하는 순간미리보기10분
- 영상 레슨비용·지연·주권으로 판단하기16분
- 영상 레슨모델 크기와 하드웨어 예산18분
- 텍스트 레슨수업 자료: 실습 환경 구성7분
섹션 2. 학습 데이터 정제4개 레슨 · 1시간 21분
- 영상 레슨도메인 데이터 수집과 정제21분
- 영상 레슨학습·검증 분할과 누수 방지19분
- 영상 레슨지시문 형식으로 변환하기17분
- 영상 레슨실습: 데이터셋 만들기24분
섹션 3. LoRA 튜닝4개 레슨 · 1시간 20분
- 영상 레슨LoRA와 QLoRA의 차이15분
- 영상 레슨하이퍼파라미터 정하기20분
- 영상 레슨학습 곡선 읽고 중단 시점 잡기18분
- 영상 레슨실습: 소형 모델 튜닝27분
섹션 4. 평가와 양자화4개 레슨 · 1시간 18분
- 영상 레슨결정적 평가로 노이즈 제거하기19분
- 영상 레슨양자화 손상 측정21분
- 영상 레슨벤치마크를 정직하게 보고하기15분
- 영상 레슨실습: 튜닝 전후 비교23분
섹션 5. vLLM 서빙과 비용4개 레슨 · 1시간 6분
- 영상 레슨vLLM 서빙 구성20분
- 영상 레슨배치와 동시성 튜닝18분
- 영상 레슨실제 비용 계산과 손익분기16분
- 영상 레슨마무리: 운영 전환 체크리스트12분
강사 소개
이도현수강생 57명 · 강의 3개
LangGraph 기반 업무 에이전트를 3년째 운영. 도구호출·상태복구·가드레일 설계와 오픈소스 LLM 파인튜닝·서빙(vLLM)을 함께 다룹니다.
수강평 5
- 별점 3.0 / 525% 수강 후 작성배성우 · 2026년 5월 26일
실습 저장소를 그대로 사내 환경에 올려 2주 만에 파일럿을 돌렸습니다. 설정값이 왜 그렇게 잡히는지까지 설명해 줘서 응용이 쉬웠습니다.
- 별점 4.0 / 542% 수강 후 작성문지아 · 2026년 5월 20일
설명이 짧고 코드가 바로 나와서 좋았습니다. 막히는 구간마다 로그를 어디서 봐야 하는지 알려 주는 점이 실무에 도움이 됐습니다.
강사 답글
실환경 제약으로 다르게 구현하신 부분, 사례로 정리해 공유해도 될지 문의드리겠습니다.
- 별점 4.0 / 559% 수강 후 작성서준영 · 2026년 5월 14일
감으로 조정하던 부분을 숫자로 보게 됐습니다. 비교 기준을 만드는 방법이 가장 큰 수확입니다.
- 별점 4.0 / 576% 수강 후 작성노은채 · 2026년 5월 8일
처음 두 섹션은 쉬웠는데 실습부터 난이도가 올라갑니다. 그래도 따라가면 결과물이 남습니다.
- 별점 5.0 / 593% 수강 후 작성홍민규 · 2026년 5월 2일
회사에서 쓰는 도구와 버전이 달라 한 번 막혔지만, 질문 남기니 이틀 안에 답을 받았습니다.
수강료
수강 신청하기₩239,000