chato

실전 LLM 활용

수업 목표:

LLM기반 서비스를 기획하고 개발하기 위한 End-to-End 기술 배우기

수업 대상:

1) LLM 기술을 시작하기 전 기초를 다지고 싶은 사람

2) LLM를 바탕으로 서비스를 시작하고 싶은 사람

수업 난이도:

1) 파이썬 활용 가능자 대상

2) ChatGPT 사용 경험자

[Step1] 수업을 위한 기초 다지기

LLM이 무엇인가요?

프롬프팅이 무엇인가요?

Chaining이 무엇인가요?

RAG가 무엇인가요?

[Step2] 언어모델 사용하기

언어모델의 여러 요소 이해하기

OpenAI GPT 활용하기

Antropic 사용하기

Ollama를 통한 호출 익히기

HuggingFace 언어모델 활용

Langchain을 통해 사용하기

[추가] RAY를 활용하여 대용량 API 호출하기

[Step3] 프롬프트 엔지니어링

1. 프롬프트 엔지니어링

서비스화 가능한 프롬프팅 대원칙

(대원칙1) 구체적인 역할부여

(대원칙2) 구조적 프롬프트 입력

(대원칙3) 구조적 결과 출력

(대원칙4) Few Shot 프롬프팅

(대원칙5) Hallucination 방지

2. 프롬프트 엔지니어링 실습

SQL 데이터 검색기 만들기

유튜브 요약 서비스 만들기

Character 챗봇 만들기

[Step4] Retrieval Augmented Generation

1. RAG 기초

RAG 기본 요소 익히기

Embedding 이해하기

Retriever 활용하기

Generation 활용하기

Langchain Runnable

2. RAG 실습하기

법률 질문봇 만들기

AWS Serverless Slackbot 만들기

[Step5] LLM 활용 심화 전략

Chaining 기술 설계 원리

비용 관리 및 절약하기

[Step6] LLM Fine-tuning

LLM 파인튜닝 전략

LlamaFactory 설치 및 활용

[실습] 데이터셋 준비하기

[실습] LoRA 파인튜닝하기

HuggingFace에 모델 업로드하기

Made with Slashpage