[프롬프트 소통 공간 안내]
프롬프트와 프롬프트 엔지니어링 관련해 관심이 있다면,
다음의 두 곳을 방문하셔서, 정보와 이야기 나누어 주세요.
다음의 두 곳을 방문하셔서, 정보와 이야기 나누어 주세요.
•
Open KakaoTalk Group Chat : 국내 1호 프롬프트 엔지니어의 'the prompt'
•
YouTube 프롬수진
QnA
[프롬프트 소통 공간 안내]
@Sujin_Kang 박사님 안녕하세요!
내부 프로젝트에서 thought 시리즈 중 ToT, GoT 적용을 검토하고 있습니다.
이론적으로는 과제 해결에 적합한 방식이라고 생각하는데, 실제 구현 사례나 적용 예시를 찾지 못해 어려움을 겪고 있습니다.
혹시 박사님께서 관련 사례나 구현 예시(github, gitlab 등)를 알고 계신다면 공유해주실 수 있을까요?
참고할 수 있는 자료가 있다면 큰 도움이 될 것 같습니다.
바쁘시겠지만, 조언 주시면 감사하겠습니다. 좋은 하루 되세요:)
이론적으로는 과제 해결에 적합한 방식이라고 생각하는데, 실제 구현 사례나 적용 예시를 찾지 못해 어려움을 겪고 있습니다.
혹시 박사님께서 관련 사례나 구현 예시(github, gitlab 등)를 알고 계신다면 공유해주실 수 있을까요?
참고할 수 있는 자료가 있다면 큰 도움이 될 것 같습니다.
바쁘시겠지만, 조언 주시면 감사하겠습니다. 좋은 하루 되세요:)
1
안녕하세요, AI Agent에 사용자와의 상호작용 정보를 장단기 맥락(Context)으로 적용하는 방법을 찾던 중, "프롬프트 엔지니어의 업무일지"에서 single turn, pair, multi turn, 그리고 topic의 개념을 보았습니다. 각 개념이 아래와 같은 관계를 갖는게 맞을까요?
•
single turn: 하나의 HumanMessage나 AIMessage
◦
Ex) human: 맛집 찾아줘
•
pair: 2개의 single turn의 조합으로, 주고 받은 메시지
◦
Ex) human: 맛집 찾아줘 / ai: 두끼를 추천 드립니다.
•
multi turn: 하나 이상의 pair와 부가적인 single turn의 조합으로 하나의 주제와 관련된 대화
◦
Ex) pair1 - [human: 맛집 찾아줘 / ai: 두끼를 추천 드립니다.]; pair2 - [human: 다른 곳은? / ai: 탭 퍼블릭은 어때요?]; single turn - [human: 좋아.]
•
topic: multi turn에 나타난 주제
◦
Ex) 위의 multi turn의 topic은 "맛집 탐색"입니다.
만약 맞다면, 아래의 문장들이 상호 대치될 수 있는지 궁금합니다.
•
"사용자의 multi turn을 유도한다" ↔ "사용자가 단일 주제로 여러 번의 pairs를 이어가도록 유도한다"
•
"사용자와의 대화를 요약한다" ↔ "대화를 multi turn의 나열로 구분하고, 각각의 topic들을 찾는다."
•
"이전 대화 목록에서 유사한 내용을 찾는다" ↔ "이전의 topic들 중, 현재의 topic과 유사한 것을 찾는다"
See more...
1
Share
김
김현우
안녕하세요, 박사님.
아직 강의를 전부 보지는 못했지만, 막연히 이해하던 생성 AI의 원리를 하나씩 알아가면서 즐거운 시간을 보내고 있습니다.
한 가지 궁금한 것이 있는데, 혹시 노하우를 가지고 계신지 궁금합니다.
AI가 답변할 문장 길이를 대략적으로나마 제한해줄 수 있는지가 궁금합니다.
*여기서 '길이'라 함은 byte를 뜻하는 것이고, 문자의 유형에 따라 아래와 같이 계산합니다.
1) 한글: 3바이트/1문자
2) 영어: 1바이트
3) 띄어쓰기: 1바이트
4) 문장부호 및 특수문자: 1바이트
프롬프트에 위와 같은 조건을 입력하여도 그 출력값이 너무 천차만별인듯합니다.
어디서 문제인지 알아보기 위해서 아래와 같이 조건을 주어도 잘 실행되지 않습니다.
1) 주어진 제시문에서 한글, 알파벳, 띄어쓰기, 문장부호를 각각 분리
2) 각 문자별로 위 바이트 값을 곱하여 산출
3) 그 길이가 900~1000 바이트 사이에 위치하도록 산출
**심지어 이미 산출된 산출물을 위 공식에 따라 길이를 계산해달라고해도 실제 길이와 너무 차이가 나요.
혹시 해결하는 방법이 있을까요?
11
Sujin_Kang
안녕하세요 현우님, 글자 출력값 제한은 생각보다 까다롭습니다. 혹시 좀 더 구체적으로, 어느 정도의 길이가 나와야 하며 어느 task 인지 보충 설명 주시겠어요?
김
김현우
황금 같은 연휴에도 쉬지 않으시고 글을 읽어주셔서 감사합니다.
저는 학교에서 근무하고 있고, 학생들을 관찰한 내용을 바탕으로 학생 특성에 맞는 개별화된 생활기록부 특기사항 초안을 생성해내는 툴을 작성하고 싶습니다.
이때 글의 길이가 대략 1300~1500byte 사이값으로 입력되는데, 각 문자별 byte값는 아래와 같습니다.
한글: 3byte 1글자
영어: 1byte 1글자
띄어쓰기: 1byte 1글자
문장부호: 1byte 1글자
프롬프트를 줄 때 위 조건을 입력하고, 1300~1500byte라는 생성 조건을 걸어도 잘 먹히지 않는 것 같습니다.
<아래는 제가 작성한 프롬프트 입니다.>
#임무: 학생을 관찰하여 그 특징을 서술한다.
#작성조건
1.
주어는 생략할 것
2.
'-음'체로 서술할 것
3.
가급적 능동형 서술어를 사용할 것
4.
현재형 시제를 사용할 것
5.
하나의 문단으로 작성할 것
6.
생성하는 글의 길이를 **<조건>**에 맞게 조절할 것
**<조건>**
1) 글의 길이는 'byte'로 측정한다
2) 1글자가 차지하는 byte는 문자의 종류에 따라 다르며 아래와 같다.
-한글: 3byte
-영어: 1byte
-띄어쓰기: 1byte
-문장부호: 1byte
-그 밖의 문자: 1byte
3) 생성된 최종 글의 길이가 1300~1500byte 사이의 값을 갖도록 한다.
>>학생 특징:
한 번에 형성이 잘 안되어서 1차로 형성하고 이를 '00배로 늘려줘'와 같이 후속 작업으로 처리해보려고도 했는데, 비슷하게도 이행을 못하는 것 같습니다. 혹시 방법이 있을까요?
P.S. 저는 구글 스프레드시트에서 GPT API를 호출하여 사용하고 있습니다. 그래서 결과값을 여러 간계로 재가공하여도 좋으니, 원하는 글의 길이 '비슷'하게 나올 수 있는 방법이 없는지, 혹은 대략적으로라도 글의 길이를 컨트롤 할 수 있는 방법은 없는지 궁금합니다.
감사합니다:)
김
김현우
황금 같은 연휴에도 쉬지 않으시고 글을 읽어주셔서 감사합니다.
저는 학교에서 근무하고 있고, 학생들을 관찰한 내용을 바탕으로 학생 특성에 맞는 개별화된 생활기록부 특기사항 초안을 생성해내는 툴을 작성하고 싶습니다.
이때 글의 길이가 대략 1300~1500byte 사이값으로 입력되는데, 각 문자별 byte값는 아래와 같습니다.
한글: 3byte 1글자
영어: 1byte 1글자
띄어쓰기: 1byte 1글자
문장부호: 1byte 1글자
프롬프트를 줄 때 위 조건을 입력하고, 1300~1500byte라는 생성 조건을 걸어도 잘 먹히지 않는 것 같습니다.
<아래는 제가 작성한 프롬프트 입니다.>
#임무: 학생을 관찰하여 그 특징을 서술한다.
#작성조건
1.
주어는 생략할 것
2.
'-음'체로 서술할 것
3.
가급적 능동형 서술어를 사용할 것
4.
현재형 시제를 사용할 것
5.
하나의 문단으로 작성할 것
6.
생성하는 글의 길이를 **<조건>**에 맞게 조절할 것
**<조건>**
1) 글의 길이는 'byte'로 측정한다
2) 1글자가 차지하는 byte는 문자의 종류에 따라 다르며 아래와 같다.
-한글: 3byte
-영어: 1byte
-띄어쓰기: 1byte
-문장부호: 1byte
-그 밖의 문자: 1byte
3) 생성된 최종 글의 길이가 1300~1500byte 사이의 값을 갖도록 한다.
>>학생 특징:
한 번에 형성이 잘 안되어서 1차로 형성하고 이를 '00배로 늘려줘'와 같이 후속 작업으로 처리해보려고도 했는데, 비슷하게도 이행을 못하는 것 같습니다. 혹시 방법이 있을까요?
P.S. 저는 구글 스프레드시트에서 GPT API를 호출하여 사용하고 있습니다. 그래서 결과값을 여러 간계로 재가공하여도 좋으니, 원하는 글의 길이 '비슷'하게 나올 수 있는 방법이 없는지, 혹은 대략적으로라도 글의 길이를 컨트롤 할 수 있는 방법은 없는지 궁금합니다.
감사합니다:)
Sujin_Kang
선생님 안녕하세요 ^^ 자세하게 설명을 남겨주셔서 필요한 피드백을 바로 드릴 수 있을 것 같습니다.
LLM이 잘 못하는 것이 "글자수" (단어, byte , character) 입니다. 제가 제안드리는 방법이 가장 쉽게 풀수 있을 것 같아요.
- 방법1. 출력해야하는 길이와 비슷한 샘플을 예제로 넣기 (미러링 효과를 추가하여, 비슷하게 나오도록 길이를 조절할 수 있습니다.) 이 때, 가장 이상적으로 나오면 좋을 내용으로 구성된 예시를 넣어야 합니다.
- 방법 2. 문단을 단위로 사용하셔서 몇 문단~ 이런식으로 길이 조건을 추가하여 보세요.
한 번 해보세요!
LLM이 잘 못하는 것이 "글자수" (단어, byte , character) 입니다. 제가 제안드리는 방법이 가장 쉽게 풀수 있을 것 같아요.
- 방법1. 출력해야하는 길이와 비슷한 샘플을 예제로 넣기 (미러링 효과를 추가하여, 비슷하게 나오도록 길이를 조절할 수 있습니다.) 이 때, 가장 이상적으로 나오면 좋을 내용으로 구성된 예시를 넣어야 합니다.
- 방법 2. 문단을 단위로 사용하셔서 몇 문단~ 이런식으로 길이 조건을 추가하여 보세요.
한 번 해보세요!
Sujin_Kang
선생님, 한 박사님께서 (저와 종종 프롬프트 이야기 나누는 박사님입니다) 길이에 대한 명쾌한 해답을 주셨습니다. 제가 제안한 방법보다 더 과학적이네요!
방법은,
작성하신 기존 프롬프트에
#관찰 내용 추가하여,
200-word-long
100-word-long
이렇게 하면, 숫자만큼 linear 하게 증가하는 것을 그래프로 확인할 수 있습니다.
김
김현우
안녕하세요, 박사님.
즐거운 한가위 연휴 잘 보내셨나요? (사실 연휴에도 바쁘게 일 하셨을 것 같지만).
마지막에 박사님께서 달아주신 프롬프트 명령어를 보고 집에 와서 저도 적용해보았습니다.
결과는 대만족이었습니다. 명쾌하고 분명합니다. 확률 싸움이기 때문에 언제나 해당 범위안에 들어오는 것은 아니지만, 뚜렷하고 분명한 선형 관계를 파악할 수 있었습니다.
다른 분들도 혹시 관심이 있을까봐 저도 테스트 결과를 공유 드려요.
사실 GPT를 학교에서 어떻게 써먹을 수 있을까 싶어서 연습삼아 만들고 있는 생기부 작성 툴인데-
작업을 하다보니 생활기록부 작성에 대한 메타인지가 향상되었다는 느낌이 들었습니다.
그동안 막연하게 작성하던 내용이었는데, 어떤 내용과 역량을 어떠한 관계 속에서 구조화하여 풀어낼 것인지가 제 머릿 속에 분명하게 그려져있지 않으면, 원하는 결과가 나오지 않더라구요.
덕분에 교육과정과 교과 역량을 다시 공부하고 있습니다^^;
며칠 전에 OpenAI에서 또 신형 모델이 나와서 열기가 뜨겁네요.
추론 능력이 갖춰진 모델에 대해서 프롬프트 엔지니어 입장에서는 어떤 생각이신지 궁금합니다 ㅎㅎ
그밖에도 저도 박사과정 논문을 쓰고 있는 중이라 GPT 모델을 어떤 식으로 활용해볼 수 있을지 등 궁금한 것이 너무나도 많은데-
지방러에게는 서울이 너무나 멉니다...ㅎㅎ
언젠가 기회가 있겠지요.
몇 시간 남지 않은 연휴이지만 즐겁게 보내세요.
친절하고 세심한 답변 감사드립니다 :)
Sujin_Kang
선생님, 정성담은 댓글을 읽고 오히려 제가 기분이 좋아졌습니다. 양 박사님께서 공유하신 비법이 잘 된다니 좋네요.
최근에 나온 o1 모델은, 확실히 기존의 벤치마크 점수를 뛰어넘는 추론에 능한 모델이지요. 그래서 이를 활용할 영역이 다르다고 생각합니다. 기존의 GPT 모델군들도 장점이 뚜렷하게 존재하니까요. o1 모델의 프롬프트는 기존과 다르게 해야 하더라구요, 한 번 이 슬래시 페이지에 정리를 할까 합니다 ^^
박사 논문이라니 어떻게 GPT를 활용하고 계시려나요? 저는 박사 졸업하고 ChatGPT가 나와서 안타깝지만..
현재는 publication 준비중인 article 들, proofreading 이나, reference citation check, 논리 검증에 활용하고 있습니다.
선생님께, 추천드리고 싶은 논문작업을 위한 사이트가 하나 있습니다. overleaf.com 입니다 아주 좋아하실 거예요 ^^
최근에 나온 o1 모델은, 확실히 기존의 벤치마크 점수를 뛰어넘는 추론에 능한 모델이지요. 그래서 이를 활용할 영역이 다르다고 생각합니다. 기존의 GPT 모델군들도 장점이 뚜렷하게 존재하니까요. o1 모델의 프롬프트는 기존과 다르게 해야 하더라구요, 한 번 이 슬래시 페이지에 정리를 할까 합니다 ^^
박사 논문이라니 어떻게 GPT를 활용하고 계시려나요? 저는 박사 졸업하고 ChatGPT가 나와서 안타깝지만..
현재는 publication 준비중인 article 들, proofreading 이나, reference citation check, 논리 검증에 활용하고 있습니다.
선생님께, 추천드리고 싶은 논문작업을 위한 사이트가 하나 있습니다. overleaf.com 입니다 아주 좋아하실 거예요 ^^
김
김현우
바쁘실텐데 실시간으로 소통해주셔서 제가 더 감사하지요.
저는 그냥.. 아직까지 올라온 강의 스케쥴도 못따라 잡은 조금 열등생입니다^^;;
저는 아무래도 교과교육학을 베이스로 하고 있다보니.. 아무래도 생성AI를 직접 연구 대상으로 하시는 분들이랑은 결이 많이 다를 것 같습니다. 객관적 데이터를 가지고 가설을 세우고 검증하기보다는.. 한일 사회과 교육과정의 차이를 시간적으로 추적해서 차이의 원인을 규명하는 것이 목표인데, 주관적 해석의 영역이 강해서.. 사실 좀 성향이 안맞는 것 같기도 하고요 ㅎㅎ (저는 딱딱 떨어지는 것이 좋은데 ..) 현업을 병행하다보니 무늬만 박사과정생이 된지 꽤 오랜 시간이 지났습니다.
박사님께서 알려주신 overleaf라는 곳은 아침에 언뜻 둘러보니 문서를 체계적으로 생산/관리할 수 있는 곳인듯 합니다. 이 곳에서 동시에 진행되는 여러 논문을 체계적으로 관리할 수 있을듯한데.. 이렇게 또 하나의 신세계가 열리네요. 틈틈이 공부해서 저도 조만간 탈 한글해야겠습니다.
박사님께서는 언어 분석을 전공을 하시고, 해당 전공에 대한 역량을 확장하셔서 생성 AI 프롬프트 엔지니어를 업으로 삼으셨잖아요. 요즘 진로를 너무 전형적이고 딱딱하게 고민하는 아이들이 많은데, 귀감이 되는 선례로 안내하고 있습니다.
질문에 대한 친절한 답, 문제 해결을 위한 팁과 데이터, 그리고 유용한 툴 소개까지 감사드려요. 주말이 있으실지 모르겠지만.. 그래도 즐거운 주말 보내세요 :)
S
Samuel Yang
안녕하세요. 김현우 선생님. Samuel Yang이라고 합니다. 강박사님을 통해 전달드린 word-long이 잘 작동한다니 다행입니다.
관련하여 저도 테스트를 진행했던 raw data를 공유 드립니다. 이 공간에서 이런 데이터들이 쌓여가면 좋을 것 같다는 생각이 들어서요:) 감사합니다.
김
김현우
역시 박사님들이라 데이터를 다루고 정리하시는 것이 매우 정돈되어 있고 체계적이라는 생각이 듭니다. 저는 성격이 꼼꼼하지 못해서 자료를 체계적으로 관리하지 못하는데, 보고 배워야겠습니다 :)
박사님께서 보여주신 시트를 보다가, 프롬프트 외에 다른 궁금한 것이 생겨 여쭤보고자 합니다.
저도 평소에 구글 시트를 즐겨쓰거든요.
학생 성적관리, 진로희망 사항 관리, 출석부 관리 등등 거의 모든 것을 구글 시트로 합니다. 그래서 필요에 따라서 시트를 공유하여 쓰기도 하였는데요,
얼마 전에 학생들의 성적이나 연락처 등 민감한 정보가 담긴 시트가 비록 교내이기는 하지만 다른 사람이 접근하는 것을 보고 딜레마에 빠졌습니다.
협업을 위해서는 공유를 해야하는데,
적어도 그 시트에 제 관리하에 있을 때에는 통제가 가능하지만,
'사본 만들기'를 통해서 별도의 파일을 만들어버리면 제가 통제가 불가능해지더라구요.
(그래서 민감한 데이터는 따로 RAW DATA 시트에 기록해두고 Importrange 함수를 써서 불러오고 있지만... 이 마저도 시트를 좀 다룰 줄 아는 사람이면 해당 함수에서 원본 시트 주소를 찾아서 접근할 수 있으니 찜찜하더라구요.)
그런데 박사님의 시트는 스크립트도 확인할 수 없고, 사본 생성도 원천 봉쇄되어 있는 것을 보았습니다. 이 기능은 어떻게 구현할 수 있을까요?
연구하시다가 혹시 시간 여유로우실때 답변 해주시면 너무 감사할 듯합니다.
연구에 매진하시는 연구자님들 너무 멋있습니다.
화이팅입니다~ ㅎㅎ
D
Dongyoub_SINN
안녕하세요, 강수진 박사님의 강의 수강 중인 신동엽입니다.
두 분의 즐거운 대화에 잠시 들어오게 되어 죄송합니다.
마지막에 김현우님께서 질문 주신 엑셀에서 다른 권한자가 추가 사본 저장 권한을 제한 하는 것과 관련하여 아직 답이 없는 것 같아서 쉬어 가시는 느낌으로 조심스레 글을 남깁니다.
아래의 방법으로 권한을 제한할 수 있습니다.
1.
구글 스프레드시트의 우측 상단에서 "공유" 버튼
2.
상세 권한 화면에서 맨 오른쪽 "설정 버튼"
3.
편집자의 권한 관련 체크박스 해제
작게나마 도움이 되신다면 좋겠습니다.
See latest comments