해봄의 아카이브

FineTuning과 RAG가 혼용되어 쓰이는 모습을 보며

Haebom

2023년 11월 27일2년 전

최근 페이스북이나 링크드인에서 게시글을 읽다보면 두가지 용어가 혼용되어 사용되는 것 같습니다. 둘은 이름에서 부터 알 수 있듯이 명백하게 다른 방식 입니다. 두 방식 모두, 두 방법 모두 모델의 성능을 개선하는 데 사용됩니다., 특정 작업이나 문맥에 맞게 모델을 조정하는 데 쓰입니다. 그러다 보니 종종 혼용되어 사용되는 것 같습니다. 두 개의 차이에 대해 적자면 다음과 같다.

미세 조정(fine-tuning)

•

기존 모델에 새로운 정보를 추가하는 것이 아니라, 모델의 행동을 변경하는 데 목적이 있습니다.

•

미세 조정의 전형적인 사용 사례는 모델의 특정 반응을 보장하거나, 프롬프트의 연쇄를 필요로 하는 복잡한 출력을 생성하는 것입니다.

•

또한, 미세 조정은 많은 사용 사례에 대해 필요한 토큰 수를 줄이거나 요청의 지연 시간을 단축시킬 수 있습니다.

검색-증강 생성(Retrieval-augmented Generation, RAG)

•

새로운 지식을 모델에 추가하려면 RAG을 사용해야 합니다.

•

RAG는 실제로 새로운 지식을 추가하는 것이 아니라, 요청에 사용된 프롬프트에 관련 정보를 제공합니다. 그런 다음 모델은 해당 데이터를 사용하여 사용자의 질문에 응답합니다.

•

실제 데이터셋을 사용한 실험에서 미세 조정된 모델과 RAG를 통합한 기본 모델의 정확도를 비교한 결과, 미세 조정된 모델의 정확도는 0%인 반면, RAG를 통합한 모델의 정확도는 95%였습니다. 이는 미세 조정이 모델에 새로운 지식을 추가하지 않음을 분명히 보여줍니다.

차이점:

•

목적과 작동 방식: 미세 조정은 기존 모델의 행동을 조정하거나 특화시키는 데 중점을 두는 반면, RAG는 외부 데이터 소스를 검색하여 모델에 추가 정보를 제공합니다.

•

지식 통합: RAG는 새로운 지식을 모델에 통합하는 것처럼 보이지만, 실제로는 모델에 직접 지식을 추가하지 않고 검색 결과를 활용합니다. 반면, 미세 조정은 기존 모델을 변형시킵니다.

이들이 혼동되는 이유는 둘 다 모델의 출력을 개선하기 위해 사용되며, 특정 상황에서 비슷한 결과를 낼 수 있기 때문입니다. 하지만, 기본적인 목적과 작동 방식에서 중요한 차이가 있습니다. RAG는 외부 정보를 활용하여 응답을 생성하는 반면, 미세 조정은 모델 자체의 지식과 학습 방식을 조정합니다.

함께 읽으면 좋은 글

Skelter Labs Blog - RAG vs. 파인튜닝 :: 기업용 맞춤 LLM을 위한 선택 가이드

기업이 원하는 맞춤 LLM 모델을 만드는 방법은 여러가지가 있습니다. 그 중 RAG 와 파인튜닝의 특장점과 기업이 도입할 땐 어떤 방법이 더 효율적일지 상세히 알아봅니다.

skelterlabs.com

SELF-RAG: 언어 모델의 한계를 넘어서 - 해봄의 잡동사니

언어 모델이 계속 발전하면서 다양한 실험들이 계속 되고 있습니다. 그 중에서도 Retrieval Augmented Generation(RAG)은 언어 모델이 다양한 문맥을 이해하고 생성할 수 있게 하는 기술로 주목받고 있습니다. 하지만 RAG에도 한계가 있습니다. 이러한 한계를 극복하기 위한 새로운 연구가 등장했는데, 바로 워싱턴 대학교와 IBM 연구팀이 ...

slashpage.com

'haebom' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'haebom'을 구독하세요!