[세미나] Prompt Flow 기반 생성형 AI 활용 Agent 구축하기
Sujin_Kang
Prompt Flow 기반 생성형 AI 를 활용한 Agent 구축하기
패스트캠퍼스 프롬프트 엔지니어링 3기 수업이 한창입니다.
매주 게스트를 모시고 프롬프트 관련 세미나 자리를 마련하고 있습니다.
이번 4주차에는 Microsoft 의 Hyounsoo Kim 을 초청했습니다.
Azure Prompt Flow 기반의 AI Agent 구축하는 법을 주제로 유용한 강연을 들었습니다.
4주차 수업에서는 프롬프트를 테스트하고 평가하는 과정을 배우는데요. 특히 테스트와 평가 자동화를 위해 single agent와 multi agent의 개념을 함께 다루며, Langgraph와 프롬프트 엔지니어링, 나아가 프롬프트 엔지니어링으로 구현하는 multi agent까지 폭넓게 학습합니다.
이어서 현수님께서 프롬프트 작업 효율화를 돕는 Microsoft의 주요 도구 두 가지를 소개해주셨습니다.
도구 1️⃣ Codespaces (통합개발 환경 IDE)
클라우드 상에서 호스팅되는 개발 환경으로, 개발자가 어디에서든 빠르게 코딩을 시작할 수 있습니다.
(현수님께서 제가 작업한 Solar-pro cookbook 도 Codespaces 작업을 해주셨습니다. )
→ Solar Cookbook 사용해보기
도구 2️⃣ Prompt Flow
LLM 기반 응용 프로그램을 위한 전체 개발 주기를 단순화하는 도구입니다. 워크플로우 개발부터 테스트·평가, 프롬프트 튜닝, 비교 및 원클릭 배포까지 한 곳에서 손쉽게 진행할 수 있다는 점이 큰 특징입니다.
✅ Prompt Flow 장점
현수님의 강연을 듣고 사용 후 느낀 장점을 정리했습니다.
✔️ 프롬프트 테스트:
프롬프트를 제작한 뒤에는 반드시 테스트와 평가, 개선 과정을 거치게 됩니다. 이때 정성 평가와 정량 평가를 한 곳에서 진행할 수 있어, 작업 효율이 크게 높아진다는 장점이 있었습니다.
프롬프트 평가:
제가 직접 만든 기준에 맞춰 LLM 파이프라인을 개발해보니, 수정하고 보완해야 할 부분이 꽤 많았습니다. 하지만 Azure Prompt Flow를 활용하면 데이터 저장소 및 비용, 대기 시간, 호환성 등 다양한 평가 항목을 한 번에 확인하고 개선할 수 있어 편리했습니다.
Prompt Flow를 사용하면 프롬프트 테스트부터 평가, 배포에 이르는 전 과정을 간소화해주어, 생성형 AI 기반의 Agent 구축을 더욱 효율적으로 진행할 수 있습니다.
다양한 LLM과 관련된 많은 도구가 쏟아져 나오고 있습니다. 결국 중요한 것은 수많은 도구 중 '무엇'을 '어떻게' 활용해 프롬프트 엔지니어링을 할 것인지 판단하는 일 아닐까 싶습니다.
💌 양질의 정보를 제공해준 현수님께 깊은 감사인사 드립니다.
#패스트캠퍼스 #microsoft #azure #promptflow #codesapces #promptengineering #promptengineer #prompttest #promptevaluation
Subscribe to 'sujin-prompt-engineer'
안녕하세요,
슬래시페이지 구독을 하시면, 이따금씩 발행하는 프롬프트와 프롬프트 엔지니어링에 관한 글을 이메일로 받아보실 수 있어요. 구독하시겠어요? 😊
슬래시페이지 구독을 하시면, 이따금씩 발행하는 프롬프트와 프롬프트 엔지니어링에 관한 글을 이메일로 받아보실 수 있어요. 구독하시겠어요? 😊
Subscribe
