chato
Book
Share
Sign In
실전 LLM 활용
수업 목표:
LLM기반 서비스를 기획하고 개발하기 위한 End-to-End 기술 배우기
수업 대상:
1) LLM 기술을 시작하기 전 기초를 다지고 싶은 사람
2) LLM를 바탕으로 서비스를 시작하고 싶은 사람
수업 난이도:
1) 파이썬 활용 가능자 대상
2) ChatGPT 사용 경험자
[Step1] 수업을 위한 기초 다지기
LLM이 무엇인가요?
프롬프팅이 무엇인가요?
Chaining이 무엇인가요?
RAG가 무엇인가요?
[Step2] 언어모델 사용하기
언어모델의 여러 요소 이해하기
OpenAI GPT 활용하기
Antropic 사용하기
Ollama를 통한 호출 익히기
HuggingFace 언어모델 활용
Langchain을 통해 사용하기
[추가] RAY를 활용하여 대용량 API 호출하기
[Step3] 프롬프트 엔지니어링
1. 프롬프트 엔지니어링
서비스화 가능한 프롬프팅 대원칙
(대원칙1) 구체적인 역할부여
(대원칙2) 구조적 프롬프트 입력
(대원칙3) 구조적 결과 출력
(대원칙4) Few Shot 프롬프팅
(대원칙5) Hallucination 방지
2. 프롬프트 엔지니어링 실습
SQL 데이터 검색기 만들기
유튜브 요약 서비스 만들기
Character 챗봇 만들기
[Step4] Retrieval Augmented Generation
1. RAG 기초
RAG 기본 요소 익히기
Embedding 이해하기
Retriever 활용하기
Generation 활용하기
Langchain Runnable
2. RAG 실습하기
법률 질문봇 만들기
AWS Serverless Slackbot 만들기
[Step5] LLM 활용 심화 전략
Chaining 기술 설계 원리
비용 관리 및 절약하기
A/B 테스트
[Step6] LLM Fine-tuning
LLM 파인튜닝 전략
LlamaFactory 설치 및 활용
[실습] 데이터셋 준비하기
[실습] LoRA 파인튜닝하기
HuggingFace에 모델 업로드하기
Made with SlashPage