Campus_강수진_박사의_프롬프트·컨텍스트_엔지니어링_아카데미 온라인 강의를 듣고 있습니다.
실습진행을 위한 라이브러리를 돌리고 있는데 무한 로딩으로, 실행이 되지않습니다.
그래서 그런지 뒤에있는 모든 과정들도 진행을 못하고 있는 상황입니다.
이전에 클로드 버전도 오래된거라, 스스로 해결하느라 많은 고생을 했습니다.
저같은 초보자를 위하여 구글 코랩에 있는 내용을 최신화해주실 수는 없을까요??
아니면 어떤 방법으로 이런 문제를 해결할 수 있는지 알려주시면 감사하겠습니다.
이
T
2
1
불
불안한 분홍 태양
안녕하세요. 고급반 수강생인데 마지막 차시 강의 복습중에 질문드립니다. 1. <input schema> {$input} </input schema>
2. based on the given input {$given input}, summarize ~
여기서 2 처럼 해주는 게 더 결과값이 좋다고 하셨는데 그럼 전체적으로는 xml tag로 쓰되, 부분적으로 저걸 인용할 필요가 있을땐 문장으로 알려주는 게 좋다는건가요..? 오랜만에 복습하려니 이해가 안되네요 ㅠㅠ
불
1
숨
숨겨진 터쿼이즈 종이
안녕하세요. 궁금한 점이 있어 여쭤봅니다.. api를 가져다쓰는건 서비스의 엔진만을 쓰는것이라 초기화?된 상태로 쓰는거라고 알고있는데요. 그럼 제가 gemini-3.1-flash-image API를 가져다가 나노바나나를 서비스내에서 활용한다고 한다면 기존에 박사님이 유튜브에서 나노바나나 활용법 같은 걸로 다루셨던 프롬프트로 입력해도 그렇게 생성이 안되는건가요?
숨
1
이
이경원
안녕하세요 수업 때 잠깐 언급되었던 것 같은데 '생각에 관한 생각'이라는 책이 프롬프팅 하는데에도 영향을 끼쳤다고 하는데 책을 읽어본 입장에서 어떤 부분이 프롬프팅 기법이나 사고에 도움이 되었는지 궁금합니다! system 1, 2로 나눠서 생각하는 부분인가 싶기도 한데 아직 감이 잘 안 오네요..!
현재 4일차에 예제로 주어진 o1 model에 관한 내용은 정상적으로 기술관련된 단어를 영단어(한국어단어) 로 번역해주는데 3일차에 예제로 주어진 sora 관련 기사는 계속해서 한국어단어(영단어)로 출력이 나옵니다.
서로 다른 언어도 아닌데 기사의 길이나 형태에 따라 출력이 달라지는 것 같은데 더 강하게 제어할 방법이 있는지 궁금합니다.
사용한 프롬프트는 아래와 같으며, temperature는 0.0~0.2 정도로 테스트 하고 있습니다.
## Task
Translation
## Role
당신은 기술분야에 특화된 신문 기자입니다.
## Input data description
A Tech News written in 'English'
## Steps
1. !!!LEAVE any `technical words` in ENGLISH!!! Translate the given text into 'Korean' senetence by sentence. Keep the context
2. Translate technical words and add it after the original English term wrapped with `()`; `English word(Korean word)`
3. Finally, check the language order for technical words; that is, if it is not in the order of English -> Korean, change the order correctly.
## Text
{text}
## Output
Final result only
이
1
이
이경원
안녕하세요, 동그라미재단 오프라인 수강생입니다.
설 연휴 기간동안 코랩에서 했던 것들을 복습하려고 하는데, 이런 오류가 떠서 혹시 어떻게 해결할 수 있을까요?
이
2
향
향기로운 라벤더 야생화
Q1. few shot을 쓸 땐 무작위 예시보다 입력과 유사한 예시를 선택할 때 성능이 크게 향상한다. 이게 어떤 말인지 이해가 안되는데 예시라도 들어주실 수 있을까요?
Q2. #지시, #맥락 이러한 구조는 일반적으론 써주는 게 좋나요? 알아서 내용 나눠서 줄바꿈으로 구분하고 해도 적어주는 게 좋은지 궁금합니다.
향
1
1
향
향기로운 라벤더 야생화
"단문 중심의 간결한 문장"에 대해 설명해주실 때 한국어 프롬프트 작성 시 '동사'를 앞에 배치하는 게 좋다고 하셨는데, '확인해줘. 지금 올린 파일들을' 이런 식으로 쓰란 말씀이신가요? 이렇게 동사를 먼저 쓰는게 맞다면 어쩔 때 유용한걸까요?
향
2
2
가
가을 청록 목소리
댓글 달아 두었는데, 댓글 확인이 안되시는것 같아 게시글로 다시한번 남깁니다.
댓글 주신 내용에 대한 답변 드립니다.
구글 API KEY 설정 오류관련 메시지 스크린샷과 혹시 필요할까싶어 키 생성 내용과 함께 전달드립니다.
답변부탁드립니다.
가
T
2
1
최
최진수
안녕하세요. 패스트캠퍼스 프롬프트 강의 수강 중 입니다.
다름이 아니라 Part 1. 프롬프트 엔지니어링 시작하기 의 코드 실행을 완료했는데, 'Part 2. 01. 언어모델의 기본 동작 원리' 강의 시작 시 안내해주신 The Prompt Test 의 테스트 로그에 아무것도 나오지 않습니다. 테스트 로그 LangChain 에 * 프로젝트: prompt-course * 는 없고, " Request failed with status code 500 " 라는 메시지만 화면에 나옵니다.
이러한 오류는 어떻게 해결해야 하나요? 좋은 강의해주셔서 감사합니다.
최
1
1
최
최경희
안녕하세요,
패스트 캠퍼스 온/오프라인 프롬프트 엔지니어링 강의를 듣고 있는데
랭스미스 대시보드에서 트레이싱 이력이 남지 않습니다
공지를 보고 코랩 설정은 완료했습니다
또한 the prompt test에서도 로그가 남지않는 것 같습니다.
API키 설정도 완료했는데 제가 어디서 무엇을 놓쳤을까요ㅠㅠ
최
1
1
얼
얼음 같은 파랑 비
안녕하세요 강사님 질문 드립니다.
1.
하나의 채팅에서 동일한 아이디어를 계속 발전시키다 보면, 어느 시점부터 답변의 방향이 어색해지거나 의도와 다르게 흘러가는 경우가 있습니다. 이럴 때 새 채팅을 시작하는 것 외에, 기존 맥락을 유지하면서 품질을 안정적으로 관리할 수 있는 방법이 있을까요?
2.
GPT에게 기존 프롬프트를 "개선해달라"고 요청한 뒤, 그 개선된 프롬프트를 새 채팅에서 그대로 다시 입력하면 기존 채팅에서 이어서 사용하는 것과 비교해 결과에 유의미한 차이가 발생할까요?
실전에서 더 효율적으로 활용하는 방법이 궁금합니다.
얼
2
시
시원한 진홍 눈
안녕하세요 강사님
Q1. 랭체인파트에서, 시스템 메시지는 고정하고 유저메시지를 가변적으로 해서 토큰을 줄인다. 가 어떤 뜻인지 알 수 있을까요? user prompt는 유저가 넣는 프롬프트지, 저희가 설정하는 게 아니지 않나요?
Q2. 아래 문제에서 이전 AI답변이 어떻게 처음부터 content에 떠있는건가요?
이전 대화를 포함한 메시지 리스트
messages_with_history = [
SystemMessage(content="당신은 친절한 여행 가이드입니다."),
HumanMessage(content="파리에서 꼭 가봐야 할 곳을 추천해주세요."),
AIMessage(
content="에펠탑, 루브르 박물관, 샹젤리제 거리를 추천드립니다."
), # 이전 AI 답변
HumanMessage(content="그 중에서 가장 먼저 가야할 곳은?"), # 후속 질문
]
response = llm.invoke(messages_with_history)
print(f"[답변]:\n{response.content}")
print(f"\n> AI는 이전 대화('파리 추천 장소')를 기억하고 답변합니다.")
시
1
1
2
건
건조한 하늘색 강
궁금한 것이 생겨 질문 드립니다... 1. 노드 기반으로 이뤄지는 AI는 지양하라고 하셨는데 이유가 무엇인가요? 2. 기호를 자주 사용하지마라. 자신만의 기호를 만들어서 사용하는 게 좋다. 고 하셨는데 그럼 나만의 기호를 만들어서 컨텍스트 윈도우에 넣어놓는다던지 하라는 말씀이신가요?..?
건
1
1
어
어두운 베이지 산들바람
안녕하세요 강사님 Q1. 멀티모달에서 부정어 사용을 지양하라고 필기했던거같은데 부정어 사용을 '지향'하라고 했던 말씀이셨을까요? 제가 생각하는 부정은 무언가를 하지마라의 느낌인데, 강사님이 말씀하신 예시 중 ' Negative prompt: 캔 뚜껑은 하나만, 물방울이 자연스럽게 흐르는 연출을 추가해줘.' 이게 왜 Negative prompt인지 이해가 잘 안됩니다..
Q2. role 지정 또한 안하는게 낫다하셨는데 프롬프트 기본요소에 '지시'가 있는만큼 role 지정 또한 '지시' 중 하나 아닌가요?
Q3. 제가 필기를 하다가 강의내용을 놓쳤는데 캐릭터 함유율?이 높으면 고품질이라고 하셨던게 무슨 의민지 알 수 있을까요?
감사합니다!
어
2
1
어
어두운 베이지 산들바람
안녕하세요 강의내용 복습 중 궁금한 것이 있어 질문드립니다. '생각의 과정을 모델에게 가이드했을 때, 성능이 향상됐다.' 이게 COT의 개념이잖아요. "Let's think step by step" 도 COT를 이끌어내는 문장인데 현존하는 LLM을 이용할때는 알아서 COT를 돌리니까 이런 문장을 굳이 첨부할 필요가 없고 옛 버전 모델을 이용할 때 의도적으로 녹여주면 좋은걸까요?
어
1
1
이
이성운
안녕하세요.
패스트캠퍼스 '강수진 박사의 프롬프트·컨텍스트 엔지니어링 아카데미' 수강 중입니다
자세한 프롬프트 엔지니어링에 대해 공부할 수 있어서 즐거운 마음으로 수강중입니다
한가지 아쉬운 부분이 무료로 제공해 주신 the-prompt.me에서 선택가능한 모델이 조금 예전 기준 모델들이더라구요. 최신 모델도 선택 가능하도록 업뎃해 주실 수 있을까요?
이
1
1
섬
섬세한 갈색 바람
GPT base 에서 지시문이 앞에 와야 한다는 건 이해가 되긴 하는데,Gemini 구조에서는 왜 뒤쪽에 오는 게 좋은지 이해가 되지 않습니다. Transformer 형태라면 어쨌든 인코더, 디코더를 다 쓰니 괜찮지 않나요? gemini 기반이 뭔지 몰라서 문의드립니다. :)
섬
어
3
1
가
가을 청록 목소리
프롬프트/컨텍스트 엔지니어링 수강 중인 쌩초보자 입니다. 현재 Part1 실습환경 세팅 중입니다. 영상에선 Anthropic API 등록 후, 바로 작동확인을 들어가던데, 크레딧 충전을 해야하나요>? 해당 내용으로 오류가 떠서 실패가 뜨네요. ㅜㅜ
추가로, Gemini api 등록 내용에선 GOOGLE_API_KEY로 이름을 설정하라고 하는데, GEMINI_API_KEY로 바꿔 설정하라고 오류메시지가 뜹니다..ㅜ
가
2
1
P
Paint
안녕하세요. 패스트캠퍼스 강의를 재미있게 잘 수강하고 있습니다.
현재 Part 2. 프롬프트 엔지니어링 기초
Ch 1. 기본 개념과 구조 (코랩)
08. 프롬프트 10가지 작성 전략 3
까지 수강하였습니다.
다만 08강에서 '자주 나오는 오답'에 대한 설명을 이어서 해주시려는 부분에서 영상이 갑자기 종료되어, 이후 내용을 확인할 수 없습니 다. 영상이 '쿠프 드 프랑스', '파리' 관련 예시가 등장하는 부분에서 끝납니다.
다음 강의는 '단문 중심의 간결한 문장을 사용하자.' 부분부터 바로 시작되어, 중간 설명이 누락된 것처럼 느껴집니다.
혹시 해당 강의 영상이 일부 잘린 것인지, 또는 추가 영상/자료가 따로 제공되는지 확인 부탁드립니다.
좋은 강의 감사합니다!
P
1
1
Share
Category
Empty
Participants
김
Activity
안녕하세요 대표님, 오늘 좋은 북콘서트를 열어주셔서 감사합니다. 유익하고 많이 배웠습니다!
<프롬프트 구성 순서 관련> 1. 동일한 내용(시스템 프롬프트, 검색된 문서, 질문)이라도 순서에 따라 결과가 달라지더라구요. 혹시 프롬프트의 구성 순서가 프롬프트를 설계할때 중요한 요소일까요?
<RAG 시스템 - 프롬프트 평가> 2. rag의 프롬프트 결과를 만족도로 평가하기에는 한계(시간, 인력)가 있다고 생각합니다. 개발자는 도메인(법, 금융, 의학) 지식이 부족하니, 프롬프트 설계는 물론 평가할때 (할루시네이션 유무, intent를 잘 파악, context 활용)기준을 다 체크하기엔 힘듭니다.대표님께서는 어떤 기준과 방법으로 프롬프트 성능을 평가하시나요?
<테스트 케이스 생성> 3. 저는 문서내용 기반으로 사용자 의도를 예측한 질문, 정답 답변(GT), 모델 답변 이렇게 하고 나온 결과를 평가합니다. 프롬프트를 평가할 도메인 (법, 의학) 질문(테스트케이스)을 만드는 것도 일이더라구요.. 저는 llm의 도움을 받지만,, 대표님께서는 테스트 케이스를 직접 만들어서 평가하시나요? 어떻게 하시나요?
위의 질문들은 제가 직접 사내 rag 시스템의 프롬프트를 테스트 하고 평가하면서 겪고 고민하고 있었던 부분입니다 감사합니다.
2
1
Sujin_Kang
안녕하세요, 지민님
북콘서트에 와주셔서 감사합니다.
다음의 답변이 도움이 됐으면 좋겠는데요, 저도 고민을 하고 있는 부분인지라, 경험한 것만 말씀드려요.
<프롬프트 구성 순서 관련>
동일한 내용(시스템 프롬프트, 검색된 문서, 질문)이라도 순서에 따라 결과가 달라지더라구요. 순서가 프롬프트를 설계할때 중요한 요소일까요? 네~ 순서 중요하고 절대적으로 영향을 미칩니다. 어떤 요소를 어떤 순서에 따라 놓느냐에 따라 결과가 달라져요. 예를들어, 번역 같은 경우는 "명령문" -"문서" 의 순서가 정확한 번역의 결과를 얻으니까요. 하려는 과제에 따라, 순서가 참 중요합니다. 그래서, 프롬프트를 어느 정도 제작했다면 요소별 구조테스트를 진행합니다.
<RAG 시스템 - 프롬프트 평가> 2. rag의 프롬프트 결과를 만족도로 평가하기에는 한계(시간, 인력)가 있다고 생각합니다. 개발자는 도메인(법, 금융, 의학) 지식이 부족하니, 프롬프트 설계는 물론 평가할때 (할루시네이션 유무, intent를 잘 파악, context 활용)기준을 다 체크하기엔 힘듭니다.대표님께서는 어떤 기준과 방법으로 프롬프트 성능을 평가하시나요?
말씀하신대로, 일일이 . 다 체크하기는 참 어렵습니다. 이 것도 어떤 task냐에 따라서 평가 기준과 테스트 기준이 다를텐데요. 할루시네이션 유무는, 정답지를 어느정도 만들어두고 생성한 결과와 대조하고 → 도메인을 잘 알고 있는 사람의 검증을 두번 거쳐요. intent-checking 은 llm에 의해 하고 있고, 메트릭스를 그때그때 만들어서 평가하고 있어요. 우선, rag한정하여 말씀드리면 데이터를 처리하는 과정에서 최대한 제가 만든 기준에 맞도록 처리했더니 평가가 조금 수월해지더라구요.
<테스트 케이스 생성> 3. 저는 문서내용 기반으로 사용자 의도를 예측한 질문, 정답 답변(GT), 모델 답변 이렇게 하고 나온 결과를 평가합니다. 프롬프트를 평가할 도메인 (법, 의학) 질문(테스트케이스)을 만드는 것도 일이더라구요.. 저는 llm의 도움을 받지만,, 대표님께서는 테스트 케이스를 직접 만들어서 평가하시나요? 어떻게 하시나요? 위의 질문들은 제가 직접 사내 rag 시스템의 프롬프트를 테스트 하고 평가하면서 겪고 고민하고 있었던 부분입니다 감사합니다.
테스트케이스는 정성적으로 수집한 것을 사용하고 있습니다. 좀 고생이기는 하지만, 그래도 테스트 결과를 보는데 작위적인 것을 쓸 수는 없겠더라구요. 여러 케이스별로 수집해두었습니다.
김
김지민
박사님 답변 감사합니다.
<순서>
역시 순서가 중요하군요
요소별 구조테스트를 해봐야겠네요. 감사합니다~
<평가>
intent-checking 할때 메트릭스를 그때그때 만들어서 한다고 하셨는데, 어떤 메트릭스를 말씀하는 건지 예를 들어주실 수 있나요?
<테스트케이스>
테스트케이스를 정성적으로 수집하시군요
역시 계속 하면서 느끼는건데 아직까지는 사람의 터치가 많이 필요한것같아요
박사님 덕분에 가려운 곳이 조금 해소되었네요. 물어볼 곳이 없어 막막했거든요.. 감사합니다!
<추가질문>
아 추가적으로 프롬프트 엔지니어링 할때 이런 경험? 팁?을 공유하는 커뮤니티나 유튜브는 없을까요? 북콘서트에서 박사님은 프롬프트 아이디어를 얻는 곳이 논문이라고만 대답 하셨는데, 따로 더 추천해주실 곳은 없을까요? :)
Google Colab
순서가 프롬프트를 설계할때 중요한 요소일까요?
네~ 순서 중요하고 절대적으로 영향을 미칩니다. 어떤 요소를 어떤 순서에 따라 놓느냐에 따라 결과가 달라져요. 예를들어, 번역 같은 경우는 "명령문" -"문서" 의 순서가 정확한 번역의 결과를 얻으니까요. 하려는 과제에 따라, 순서가 참 중요합니다. 그래서, 프롬프트를 어느 정도 제작했다면 요소별 구조테스트를 진행합니다.
2. rag의 프롬프트 결과를 만족도로 평가하기에는 한계(시간, 인력)가 있다고 생각합니다. 개발자는 도메인(법, 금융, 의학) 지식이 부족하니, 프롬프트 설계는 물론 평가할때 (할루시네이션 유무, intent를 잘 파악, context 활용)기준을 다 체크하기엔 힘듭니다.대표님께서는 어떤 기준과 방법으로 프롬프트 성능을 평가하시나요?
3. 저는 문서내용 기반으로 사용자 의도를 예측한 질문, 정답 답변(GT), 모델 답변 이렇게 하고 나온 결과를 평가합니다.
프롬프트를 평가할 도메인 (법, 의학) 질문(테스트케이스)을 만드는 것도 일이더라구요.. 저는 llm의 도움을 받지만,, 대표님께서는 테스트 케이스를 직접 만들어서 평가하시나요? 어떻게 하시나요?
위의 질문들은 제가 직접 사내 rag 시스템의 프롬프트를 테스트 하고 평가하면서 겪고 고민하고 있었던 부분입니다 감사합니다.