3
<패스트캠퍼스 오프라인 프롬프트 엔지니어링 3기 수강생을 위한 공지> 안녕하세요. 슬래시페이지를 구독해 주신 후 이 글에 댓글을 하나씩 남겨주세요. 제가 직접 멤버 권한을 드려야 "논문 요약", "프롬프트"를 보실 수 있습니다. 관련 질문도 이 공지의 댓글로 남겨주세요!

질문을 위한 공간

모든 질문을 위한 공간입니다.
- 패스트 캠퍼스 온/오프라인 프롬프트 엔지니어링 강의
- 책 <프롬프트 엔지니어의 업무일지>
- 프롬프팅/프롬프트 엔지니어링에 관한 모든 것
자유롭게 물어봐주시고 의견 나누어 주세요 : )
Pinned
S
Sujin_Kang
<패스트캠퍼스 오프라인 프롬프트 엔지니어링 3기 수강생을 위한 공지>

안녕하세요.
슬래시페이지를 구독해 주신 후 이 글에 댓글을 하나씩 남겨주세요. 제가 직접 멤버 권한을 드려야 "논문 요약", "프롬프트"를 보실 수 있습니다.
관련 질문도 이 공지의 댓글로 남겨주세요!
14 Comment
Reaction
Comment
Share
Pinned
S
Sujin_Kang
<공지사항>

패스트캠퍼스
온라인 강의 수강생분들께,
안녕하세요.금일 1/15일 패스트캠퍼스에서 공지를 받고 찾아주신 분들이 많은 것 같습니다.
온라인 강의를 수강하는 분들은 슬래시페이지 내 "논문 요약"페이지를 보실 수 있는데요. 이 페이지에 대한 초대권을 1/15일로 마감한다는 공지였습니다.

- 온라인 강의는
평생 소장이라 1/15일 이후에도 계속 들으실 수 있습니다.
-슬래시페이지 내 멤버 권한을 못받으신 분들은, 댓글로 남겨주시면 천천히 등록해두겠습니다.
-
먼저 슬래시페이지를 구독해주셔야 제가 멤버로 추가할 수 있으니, 구독을 눌러주세요.
감사합니다.
👍
2 Reactions
40 Comment
Reaction
Comment
Share
Pinned
S
Sujin_Kang
<공지사항>
안녕하세요. 슬래시페이지 내 "논문 요약"본 접근법에 관련하여 공지드립니다.

- 패스트 캠퍼스 온라인 강의: 온라인 수강신청 후 안내 받은 "링크"로 접속하신 후 멤버로 등록하시면 해당 페이지가 보이실 거예요. 멤버로 추가했는데도 페이지가 보이지 않는 경우에 댓글 남겨주세요.

- 패스트 캠퍼스 오프라인 강의: 디스코드와 수업 현장에서 해당 링크를 공지드린 링크로 접속하시면 돼요. 멤버로 추가하셔야 페이지가 보입니다. 보이지 않는 경우에 댓글 남겨주세요.

감사합니다.

40 Comment
Reaction
Comment
Share
K
kai kim
안녕하세요 패스트캠퍼스 수강생입니다.
멤버로 추가해주시면 감사하겠습니다.
Reaction
Comment
Share
푸르미5
안녕하세요.
멤버 권한을 위해 댓글 남깁니다.
감사합니다.
Reaction
Comment
Share
M
MinGyu Choo
안녕하세요?
출간하신 책과 다른 분들의 책을 몇 권 읽었습니다.
그 중 퓨샷(Few-shot)에 대한 혼동이 있어 문의 드립니다.
일부 책에서는 '퓨샷 학습' 으로 표기되어 내용을 설명하고 있던데,
여기에서 '퓨샷' 이 '학습'에 대한 영역인가? 라는 의문이 들었습니다.
제가 정의하기로는 '훈련' 또는 '학습'은 모델을 만들 때 사용하는 용어이고,
'유도' 또는 '추론'은 모델을 사용할 때 사용하는 용어로 정의했습니다.
그런데 '퓨샷'은 모델을 사용하는 상황인데 왜 굳이 '퓨샷 학습'이라고 표기했느냐 입니다.
이런 상황 때문에 LLM에 대해 지식이 부족한 고객의 경우 오해하는 상황이 나타났습니다.
'그럼 LLM모델에 질문만 해도 모델이 학습하는거야?'라고 생각하더라고요.
좋은 가르침 부탁드립니다 m(__)m
2 Comment
Reaction
Comment
Share
H
Hojoong_Choi
안녕하세요.
패스트 캠퍼스 수강생입니다.
구독했습니다. 멤버로 추가해주시면 감사하겠습니다 :)
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
커버_커버)
안녕하세여

패스트 캠퍼스 수강생입니다
구독하였습니다 멤버 추가 부탁드립니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
송진주
안녕하세요. 패캠 온라인 수강생이에요. 멤버 등록 부탁드립니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
은은
안녕하세요.
패스트캠퍼스 온라인 수강생입니다.
구독했습니다. 멤버로 추가 부탁드립니다~
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
윤상원
강의수강중입니다. 멤버로 추가 부탁드립니다.
🍀
1 Reaction
Reaction
Comment
Share
T
tinasem
패캠에서 공부중이며, 프롬프트강의 도움이 많이 됩니다. 권한 부탁드립니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
이은정
안녕하세요.
저도 온라인강의 수강 중이고, 멤버추가 부탁드립니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
최용호
권한이 있는건지 잘 모르겠습니다. 멤버가 아니라면 권한 부탁드립니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
순이하마
안녕하세요, 패스트 캠퍼스 수강생입니다. 15일 문자 알림 받고 멤버 추가 요청드리러 방문했습니다. 감사합니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
소리
안녕하세요 패스트캠프 온라인 수강생입니다.
멤버에 추가 한 것 같은데 문자가 와서 안되었다면 추가 부탁드려요~
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
황영미
안녕하세요? 패스트캠퍼스 수강중입니다. 멤버 추가 부탁드립니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
조상훈
안녕하세요.
패스트캠퍼스 온라인 강의 수강자입니다.
구독하였습니다. 멤버로 추가 부탁드립니다.
감사합니다^^
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
소현쓰
안녕하세요, 온라인수강중입니다. 멤버 등록 부탁드립니다!
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
S
Sangpil
안녕하세요.
패스트캠퍼스 온라인 강의 수강자입니다.
구독을 한 상태이며, 멤버로 추가 부탁드립니다.
감사합니다!
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
김정현
안녕하세요? 박사님.
패캠 온라인 강의 수강생입니다. 슬래쉬 페이지 초대 혜택이 오늘로 마감된다고 하여 죄송스럽게도 부랴부랴 이렇게 멤버 신청 드립니다. 구독은 했습니다. 박사님 사업도 강연과 저술도 모두 번창 하시는 한해 되세요. 건강 하시고 새해 복 많이 받으세요!
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
Y
YC
안녕하세요 온라인수강생입니다~
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
태진김
안녕하세요.
패스트캠퍼스 온라인 강의 수강자입니다.
구독을 한 상태이며, 멤버로 추가 부탁드립니다.
감사합니다!
🍀
1 Reaction
2 Comment
Reaction
Comment
Share
S
Sucreee P
안녕하세요.
구독 외에 멤버추가하는 옵션을 찾지못해서 글을 남깁니다.
확인 부탁드려요. 감사합니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
박성현
안녕하세요 패스트캠프 온라인 수강생입니다.
멤버에 추가 되지 않은 것 같아 댓글 남깁니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
안수근
안녕하세요.
패캠 수강자입니다.
구독은 하였으나, 멤버가 등록된것인지 궁금하여 댓글 남깁니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
S
song메인
안녕하세요. 수진 박사님
패스트캠퍼스 수강자입니다.
구독은 되었는데 멤버가 된 것인지 확인차 댓글 남깁니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
전대혁
안녕하세요.
패스트캠퍼스 온라인 강좌 수강생입니다.
멤버 추가 부탁 드립니다.
감사합니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
D
dreamcatcher KIM
구독했는데 멤버로 안된거 같아요 확인 부탁드리겠습니다
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
S
sansanai
패스트 캠퍼스 온라인 강의를 신청후 지금이야 보려고 하는데 아래 공지사항에 멤버로 등록해야한다고 하는데 멤버 등록을 어떻게 하는지 궁금합니다. 알려주십시요
👍🏻
1 Reaction
1 Comment
Reaction
Comment
Share
박동욱
안녕하세요 강수진님,
패스트캠퍼스 온라인 강좌 수강생입니다.
멤버 추가 부탁 드립니다.
감사합니다.
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
일일
1월15일 오늘 자정이면 패컴 박사님 영상을 볼 수 없는거죠?
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
최재원
안녕하세요! 열심히 수강중입니다! 잘부탁드립니다~
👍🏻
1 Reaction
1 Comment
Reaction
Comment
Share
일일
패컴에서 넘어왔어요. 저는 강의도 다 못들었습니다. ㅠㅠㅠㅠ
🍀
1 Reaction
1 Comment
Reaction
Comment
Share
이기은
안녕하세요 패캠에서 강의 수강중입니다. 요즘 공부 열심히 하고 있어요 궁금한거 있으면 물어보겠습니다. 감사합니다.
🍀👍🏻
2 Reactions
1 Comment
Reaction
Comment
Share
Share
김지민
안녕하세요 대표님, 오늘 좋은 북콘서트를 열어주셔서 감사합니다. 유익하고 많이 배웠습니다!

<프롬프트 구성 순서 관련>
1. 동일한 내용(시스템 프롬프트, 검색된 문서, 질문)이라도 순서에 따라 결과가 달라지더라구요.
혹시 프롬프트의 구성 순서가 프롬프트를 설계할때 중요한 요소일까요?

<RAG 시스템 - 프롬프트 평가>
2. rag의 프롬프트 결과를 만족도로 평가하기에는 한계(시간, 인력)가 있다고 생각합니다. 개발자는 도메인(법, 금융, 의학) 지식이 부족하니, 프롬프트 설계는 물론 평가할때 (할루시네이션 유무, intent를 잘 파악, context 활용)기준을 다 체크하기엔 힘듭니다.대표님께서는 어떤 기준과 방법으로 프롬프트 성능을 평가하시나요?

<테스트 케이스 생성>
3. 저는 문서내용 기반으로
사용자 의도를 예측한 질문, 정답 답변(GT), 모델 답변 이렇게 하고 나온 결과를 평가합니다.
프롬프트를 평가할 도메인 (법, 의학)
질문(테스트케이스)을 만드는 것도 일이더라구요.. 저는 llm의 도움을 받지만,, 대표님께서는 테스트 케이스를 직접 만들어서 평가하시나요? 어떻게 하시나요?
위의 질문들은 제가 직접 사내 rag 시스템의 프롬프트를 테스트 하고 평가하면서 겪고 고민하고 있었던 부분입니다 감사합니다.
👍🏻
1
S
Sujin_Kang
안녕하세요, 지민님
북콘서트에 와주셔서 감사합니다.
다음의 답변이 도움이 됐으면 좋겠는데요, 저도 고민을 하고 있는 부분인지라, 경험한 것만 말씀드려요.
<프롬프트 구성 순서 관련>
동일한 내용(시스템 프롬프트, 검색된 문서, 질문)이라도 순서에 따라 결과가 달라지더라구요.
순서가 프롬프트를 설계할때 중요한 요소일까요?
네~ 순서 중요하고 절대적으로 영향을 미칩니다. 어떤 요소를 어떤 순서에 따라 놓느냐에 따라 결과가 달라져요. 예를들어, 번역 같은 경우는 "명령문" -"문서" 의 순서가 정확한 번역의 결과를 얻으니까요. 하려는 과제에 따라, 순서가 참 중요합니다. 그래서, 프롬프트를 어느 정도 제작했다면 요소별 구조테스트를 진행합니다.
<RAG 시스템 - 프롬프트 평가>
2. rag의 프롬프트 결과를 만족도로 평가하기에는 한계(시간, 인력)가 있다고 생각합니다. 개발자는 도메인(법, 금융, 의학) 지식이 부족하니, 프롬프트 설계는 물론 평가할때 (할루시네이션 유무, intent를 잘 파악, context 활용)기준을 다 체크하기엔 힘듭니다.대표님께서는 어떤 기준과 방법으로 프롬프트 성능을 평가하시나요?
말씀하신대로, 일일이 . 다 체크하기는 참 어렵습니다. 이 것도 어떤 task냐에 따라서 평가 기준과 테스트 기준이 다를텐데요. 할루시네이션 유무는, 정답지를 어느정도 만들어두고 생성한 결과와 대조하고 → 도메인을 잘 알고 있는 사람의 검증을 두번 거쳐요. intent-checking 은 llm에 의해 하고 있고, 메트릭스를 그때그때 만들어서 평가하고 있어요. 우선, rag한정하여 말씀드리면 데이터를 처리하는 과정에서 최대한 제가 만든 기준에 맞도록 처리했더니 평가가 조금 수월해지더라구요.
<테스트 케이스 생성>
3. 저는 문서내용 기반으로 사용자 의도를 예측한 질문, 정답 답변(GT), 모델 답변 이렇게 하고 나온 결과를 평가합니다.
프롬프트를 평가할 도메인 (법, 의학) 질문(테스트케이스)을 만드는 것도 일이더라구요.. 저는 llm의 도움을 받지만,, 대표님께서는 테스트 케이스를 직접 만들어서 평가하시나요? 어떻게 하시나요?
위의 질문들은 제가 직접 사내 rag 시스템의 프롬프트를 테스트 하고 평가하면서 겪고 고민하고 있었던 부분입니다 감사합니다.
테스트케이스는 정성적으로 수집한 것을 사용하고 있습니다. 좀 고생이기는 하지만, 그래도 테스트 결과를 보는데 작위적인 것을 쓸 수는 없겠더라구요. 여러 케이스별로 수집해두었습니다.
김지민
박사님 답변 감사합니다.
<순서>
역시 순서가 중요하군요
요소별 구조테스트를 해봐야겠네요. 감사합니다~
<평가>
intent-checking 할때 메트릭스를 그때그때 만들어서 한다고 하셨는데, 어떤 메트릭스를 말씀하는 건지 예를 들어주실 수 있나요?
<테스트케이스>
테스트케이스를 정성적으로 수집하시군요
역시 계속 하면서 느끼는건데 아직까지는 사람의 터치가 많이 필요한것같아요
박사님 덕분에 가려운 곳이 조금 해소되었네요. 물어볼 곳이 없어 막막했거든요.. 감사합니다!
<추가질문>
아 추가적으로 프롬프트 엔지니어링 할때 이런 경험? 팁?을 공유하는 커뮤니티나 유튜브는 없을까요? 북콘서트에서 박사님은 프롬프트 아이디어를 얻는 곳이 논문이라고만 대답 하셨는데, 따로 더 추천해주실 곳은 없을까요? :)
See latest comments