Few-shot prompting 과 Few-shot learning 의 차이점
Sujin_Kang
프롬프트 작성팁
Category
Empty
Status
Empty
Assignee
Empty
Few-shot prompting 과 Few-shot learning 의 차이점
ChatGPT같은 모델에 프롬프트를 쓴다고 즉시 학습되진 않습니다.
Few-shot prompt engineering 기법은 기본 테크닉 중 하나입니다.
A라는 과제를 하기 위해서 두 개 이상의 예제를 사용해서 결과물을 도출하는 방법입니다.
A라는 과제를 하기 위해서 두 개 이상의 예제를 사용해서 결과물을 도출하는 방법입니다.
수업을 하다보면 '퓨샷 프롬프팅'과 '퓨샷 러닝'을 동의어로 사용하는 것을 흔히 들을 수있습니다.
❓LLM 모델에게 질문만 해도 모델이 학습되나요?
프롬프트 관련 자주 묻는 질문 그리고 잘못 알고 있는 것 중 하나입니다.
✅ Few-shot Learning
머신러닝 모델이 훈련단계에서 적은 수의 데이터를 사용하여 학습하면, 이를 바탕으로 새로운 데이터를 처리할 수 있게 하는 방법입니다. 사람이 새로운 단어를 한 두 번 들으면 바로 의미를 이해하고 사용하는 것처럼, 모델은 몇 가지 예제만 보고 학습할 수 있는 방식이죠.
머신러닝 모델이 훈련단계에서 적은 수의 데이터를 사용하여 학습하면, 이를 바탕으로 새로운 데이터를 처리할 수 있게 하는 방법입니다. 사람이 새로운 단어를 한 두 번 들으면 바로 의미를 이해하고 사용하는 것처럼, 모델은 몇 가지 예제만 보고 학습할 수 있는 방식이죠.
✅ Few-shot prompting
이미 훈련이 끝난 LLM (대규모 언어 모델)이 추론 과정에서 몇 가지 예제를 참고하여 질문 (프롬프트)에 대한 결과를 생성하게 하는 기법입니다. 모델 자체의 파라미터는 업데이트 되지 않고, 주어진 프롬프트 (질문과 예제 등) 으로만 작동합니다.
이미 훈련이 끝난 LLM (대규모 언어 모델)이 추론 과정에서 몇 가지 예제를 참고하여 질문 (프롬프트)에 대한 결과를 생성하게 하는 기법입니다. 모델 자체의 파라미터는 업데이트 되지 않고, 주어진 프롬프트 (질문과 예제 등) 으로만 작동합니다.
📚 두 가지 개념이 정리된 논문들
Few-Shot Prompting (Brown et al., 2020) is the paradigm, where the GenAI learns to complete a task with only a few examples(exemplars).
Few-Shot Learning (FSL) (Fei-Fei et al., 2006; Wang et al., 2019) is often conflated with Few-Shot Prompting (Brown et al., 2020). It is important
to note that FSL is a broader machine learning paradigm to adapt parameters with a few examples, while Few-Shot Prompting is specific to prompts in the GenAI settings and does not involve updatingmodel parameters.
to note that FSL is a broader machine learning paradigm to adapt parameters with a few examples, while Few-Shot Prompting is specific to prompts in the GenAI settings and does not involve updatingmodel parameters.
👉 요약
프롬프트를 챗GPT 에 입력한다고 해서, LLM이 실시간으로 내부 매개변수(가중치)를 업데이트하며 재학습하는 것이 아닙니다. 다만, 나중에 모델 개발사가 사용자 데이터를 활용해 모델을 훈련하거나 개선할 수는 있겠어요.
프롬프트를 챗GPT 에 입력한다고 해서, LLM이 실시간으로 내부 매개변수(가중치)를 업데이트하며 재학습하는 것이 아닙니다. 다만, 나중에 모델 개발사가 사용자 데이터를 활용해 모델을 훈련하거나 개선할 수는 있겠어요.
👉 논문 링크
#prompt hashtag#promptengineering hashtag#prompting hashtag#fewshotlearning hashtag#fewshotprompting hashtag#promptengineer
Subscribe to 'sujin-prompt-engineer'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'sujin-prompt-engineer'!
Join Slashpage and subscribe to 'sujin-prompt-engineer'!
