해봄의 아카이브

"프롬프트 엔지니어링" 그래서 필요해요?

Haebom
자주 나오는 이야기 입니다. "프롬프트 엔지니어링"을 배워야할까요? 강의를 들어야할까요? 인공지능 시대에 꼭 필요하고 중요한 직업이라던데요. 등의 이야기를 종종 아니 자주 듣습니다. 저는 늘 말합니다.
여러분이 생각하는 프롬프트 엔지니어링이 단순히 질문 잘하는 법, 스타일이나 형식에 맞춰 결과물을 받고 싶은 것이면 전혀 들으실 필요가 없습니다. 그건 그냥 말 이쁘게 하기, 문서화 잘하기 수업 정도로 비춰 집니다.
"그럼 진짜 프롬프트 엔지니어링은 무엇인가요?"
이전 포스팅과 제가 늘 말하는 좋은 교육자료들에서 프롬프트 엔지니어링에 대한 정의는 수없이 내려졌고 교육방법도 어느 정도 자리를 잡아 갑니다. 프롬프트 엔지니어링은 결국 기계에게 인간의 의도대로 원하는 대답을 이끌어 내는 기술 입니다. 여기서 핵심은 "기계" 즉, 원리가 존재하고 일정부분 예측이 가능한 이라는 전제가 붙습니다.
Claude를 개발한 Anthropic에서는 아래의 세 가지만 명확하면 프롬프트 엔지니어링이라는 걸 이미 하고 있는 것이나 다름 없다고 합니다.
•
사용 사례의 성공 기준에 대한 명확한 정의
•
이러한 기준에 대해 이미 경험한 테스트하는 몇 가지 방법
•
개선하고자 하는 첫 번째 프롬프트 ← 첫번째 프롬프트부터 완벽할 수 없다!
사실 이것 외에도 우리는 fine-tuning보다 프롬프트 엔지니어링이 더 빠르고 효과적이게 좋은 결과를 낼 수 있다는 연구결과들도 뉴스나 논문을 통해 접했습니다. 여기에 OpenAI나 Anthropic에선 답답했는지 자체적인 프롬프트 작성 팁과 예시, 교육 등도 배포하기 시작했습니다.
OpenAI도 System Prompt를 공개하고 Google, Anthropic에서도 시스템 프롬프트(LLM의 Instruction)를 공개하며 자신들이 어떤 의도로 이것을 기본 세팅 했는지 어떤 방식으로 사용했는지를 계속해서 보여 줍니다. 사실 이런 이야기를 할 거면 이 포스팅을 작성하지 않았을 겁니다. 앞서 말했듯 이미 이전 포스팅에서 말했던 걸 또 말하는 거라 지치기도 하고 어차피 찾아 볼 사람들은 찾아서 봤을 테니... 블로그에 글을 남겨야 겠다고 생각한 것은 아래 영상을 보고 나서 입니다. Anthropic의 실제 개발자들이 진행하는 팟캐스트!

프롬프트 엔지니어링 살펴보기: 전문가의 관점과 인사이트

프롬프트 엔지니어링은 모델과의 상호작용을 최적화하기 위해 명확한 커뮤니케이션, 반복적인 개선, 그리고 컨텍스트 이해를 강조하는 분야입니다. 이를 통해 인공지능 모델의 성능을 극대화할 수 있습니다.
•
🔍 프롬프트 엔지니어 잭(Zack Witten)은 프롬프트 엔지니어링을 모델과의 효율적인 소통을 통해 최적의 성능을 도출하는 기술이라고 정의하며, 이를 시행착오 과정에 비유했습니다.
•
⚙ 기존 프로그래밍과 달리, 프롬프트 엔지니어링은 반복적인 실험과 피드백을 통해 학습하는 특성을 가지고 있으며, 이를 통해 모델의 응답을 개선할 수 있습니다.
•
🗣프롬프트 엔지니어 잭은 뛰어난 프롬프트 엔지니어의 조건으로 명확한 의사소통, 반복 능력, 엣지 케이스 예측의 중요성을 강조했습니다.
•
💡 언어 모델의 미세조정을 담당하는 아만다는 효과적인 프롬프트가 모델 성능에 미치는 큰 영향을 지적하며, 인간과 모델 간의 명확한 커뮤니케이션의 중요성을 강조했습니다.

프롬프트 엔지니어링의 진화와 미래

•
🤔 이 팟캐스트에서는 AI 추론의 복잡성을 다루며, 의인화된 모델 상호작용은 오해를 일으킬 수 있지만 구조화된 추론은 모델 성능을 향상시킬 수 있음을 시사했습니다.
•
💡 명확한 예제를 제시하고 반복적으로 추론하는 방식이 모델의 성능을 향상시킨다는 점이 밝혀졌습니다.
•
🔍 좋은 문법과 문장 부호가 명확성을 높인다는 의견이 나왔으나, 모델의 이해 능력이 더 중요하다는 데에 공감했습니다.
•
🔑 프롬프트의 미래는 모델이 사용자로부터 정보를 이끌어내며 프롬프트를 개선하는 상호작용적 관계로 발전할 것이라는 예상이 이미 나왔습니다.
•
🤖 AI 기술이 발전함에 따라 프롬프트 엔지니어가 AI와의 대화를 촉진하는 역할로 점차 변화할 것이라고 전망했습니다.
이 중에 Zack Witten은 현재 Anthropic에서 프롬프트 엔지니어로 일하고 있으면서 자신이 하는 일이 무엇인지에 대해 좀 더 명확하게 설명합니다. 막연하게 명령을 잘내리고, 윤리를 지키는게 아닌 이전에 자신이 Machine Learning Engineer를 했던 경험을 바탕으로 어떻게 접근해야하는지 그리고 이것이 어떻게 유의미 한지 말이죠. 위의 토글을 펼치시면 영상 요약 내용을 볼 수 있습니다.
개인적으로 인공지능을 사용하는 인간을 위한 안내서에서 언급했던 내용이 그대로 잘 담겨 있어서 스스로 뿌듯하고 그렇더라구요. 해당 글은 2023년 여름에 썼던 글인데 지금도 많은 분들이 찾아주시는 것도 그렇고 실제로 프롬프트 엔지니어로 일하는 이들이 말하는 것도 결국 본질은 바뀌지 않는 것 같습니다.
이전 스터디 공유 글에서도 언급했듯이 결국 사용자는 인공지능에게 뭘 물어볼지, 어떻게 써야할지를 머뭇거리는데 가장 큰 시간을 들이는 중이고 "목적"이 명확해 지면 이것을 사용하는 방법이나 도구들은 급속도로 발전하고 사라지고 자리메김 할 것 입니다.
"목표가 분명하지 않으면 아무리 행동해도 성과를 이루기 어렵다."라는 말은 자주 듣는 이야기 이지만 살다보면 잊곤 하죠. 오늘 현선님과 이야기를 나누면서도 느낀거지만 무엇을 할지 정해지면 도구와 방향은 얼마든지 바꾸고 사용할 수 있습니다. 이 글을 읽는 분들도 "프롬프트 엔지니어링"이라는 단어, 인공지능이라는 테마에 현혹되기 보단 무엇을 하고 싶었는지, 어떤 걸 할 것인지 한 번 되새겨 보는 시간이 되면 좋겠습니다. 저도 매번 잊게 되더라구요. 스스로 다짐하지 않으면.
Subscribe to 'haebom'
📚 Haebom의 아카이브에 오신 걸 환영합니다.
---
IT 💻, 경제 💰, 인문학 🎭을 관련 된 글을 올립니다.
제 생각과 관점 혹은 관심사가 궁금하시면 구독해주세요.
haebom@kakao.com
Subscribe