AI 모델 선택과 효과적인 프롬프트 작성법
김지현
- AI
- LLM
- PROMPT
안녕하세요,리버스마운틴에서 AI 엔지니어로 근무중인 김지현입니다.
오늘은 사내 세미나를 통해 OpenAI, Anthropic의 Claude, Perplexity, Google의 Gemini 등 다양한 AI 모델을 어떻게 선택하고, 또 이들과 효과적으로 대화하기 위한 프롬프트 작성법을 공유했습니다.
아래 내용은 제가 직접 사용해본 경험과 함께, 팀원들과의 질의응답을 정리한 것입니다.
제 GitHub와 LinkedIn 프로필도 공유하오니 관심 있으신 분들은 참고해 주시면 좋겠습니다.
Github
Linkedlin
E-mail : jhkim@reversemountain.co.kr
오늘은 사내 세미나를 통해 OpenAI, Anthropic의 Claude, Perplexity, Google의 Gemini 등 다양한 AI 모델을 어떻게 선택하고, 또 이들과 효과적으로 대화하기 위한 프롬프트 작성법을 공유했습니다.
아래 내용은 제가 직접 사용해본 경험과 함께, 팀원들과의 질의응답을 정리한 것입니다.
제 GitHub와 LinkedIn 프로필도 공유하오니 관심 있으신 분들은 참고해 주시면 좋겠습니다.
Github
Linkedlin
E-mail : jhkim@reversemountain.co.kr
Overview
이 글에서는 AI 모델별 장단점과 사용 시나리오를 구체적으로 살펴봅니다.
•Model Select: OpenAI, Claude, Perplexity, Google 등의 대표 모델을 어떤 기준으로 선택해야 하는지 알아봅니다.
•프롬프트 작성법: LLM(대형언어모델)이 이해하기 쉬운 문장 구조와 순서, 그리고 맥락 전달 방법을 예시와 함께 설명합니다.
•맥락(Context Window) 활용: 긴 텍스트나 대화를 효과적으로 요약·구성하는 노하우를 다룹니다.
•Q&A: 실제 업무 상황에서 자주 묻는 질문들(새로운 채팅 세션 연결, 대화 유지 등)에 대한 팁을 공유합니다.
•Model Select: OpenAI, Claude, Perplexity, Google 등의 대표 모델을 어떤 기준으로 선택해야 하는지 알아봅니다.
•프롬프트 작성법: LLM(대형언어모델)이 이해하기 쉬운 문장 구조와 순서, 그리고 맥락 전달 방법을 예시와 함께 설명합니다.
•맥락(Context Window) 활용: 긴 텍스트나 대화를 효과적으로 요약·구성하는 노하우를 다룹니다.
•Q&A: 실제 업무 상황에서 자주 묻는 질문들(새로운 채팅 세션 연결, 대화 유지 등)에 대한 팁을 공유합니다.
이 글을 통해 “어떤 모델이 언제 더 효율적인가?”, “프롬프트를 어떻게 구성해야 원하는 답변을 이끌어낼 수 있는가?” 등의 궁금증에 대한 실무적인 답을 얻으실 수 있을 것입니다
그래서 누가 뭘 잘하나?
우리가 사용하는 대표 LLM
주로 사용하는 LLM(대형언어모델)은 아래와 같습니다.
OpenAI : ChatGPT, GPT-4o 등 다양한 제품군을 통해 자연어 처리 전반에 폭넓게 활용되는 모델
Anthropic : Claude 시리즈로 유명하며, 은어나 축약어 처리 등 폭넓은 이해도와 안정적인 성능을 제공
Perplexity : 검색 기반 AI 서비스로, 빠르고 정확한 정보 검색과 답변을 제공하는 데 강점
Google : Gemini 등 차세대 AI 모델을 선보이고 있으며, Google 생태계와 연계되어 빠른 확장 가능성 보유
Anthropic : Claude 시리즈로 유명하며, 은어나 축약어 처리 등 폭넓은 이해도와 안정적인 성능을 제공
Perplexity : 검색 기반 AI 서비스로, 빠르고 정확한 정보 검색과 답변을 제공하는 데 강점
Google : Gemini 등 차세대 AI 모델을 선보이고 있으며, Google 생태계와 연계되어 빠른 확장 가능성 보유
모델별 비교 표
‼️정량적인 지표도 참고했지만 개인적인 감의 영역도 포함되어있습니다...
기능/용도 | Model | 이유/특이사항 |
Coding | o1 > Claude > GPT-4o | o1은 복잡한 코드·파일 생성에 강하지만, 번역 등 간단 작업엔 과소성능(오버킬) |
Writing | GPT-4o ≈ Claude ≈ Gemini | 개인 취향·스타일에 따라 선택 (글쓰기 톤, 표현력 등) |
Multilingual | GPT-4o, Gemini, Claude | 다 비슷한 품질. 단, o1은 COT로 인한 처리 지연 발생 가능 |
검색 | Perplexity, Deepseek, Genspark | Perplexity가 검색 속도 최적화. Deepseek도 높은 품질 |
특이사항 | 사항GPT-4o 최근 업데이트 → 성능 저하 | 이전보다 답변 퀄리티가 낮아져서 Claude가 안정적 선택일 수 있음 |
효과적인 프롬프트 작성법
어떻게하면 얘가 더 잘알아먹을까에 대한 팁 공유
1. 간단하고 짧은 프롬프트
•
명확한 동사 사용하기
ex ) 광합성에 대해 알고싶어. → 광합성 과정에 대해 단계적으로 설명해줘.
ex ) 광합성에 대해 알고싶어. → 광합성 과정에 대해 단계적으로 설명해줘.
ex ) 리버스마운틴에 대해 **알려줘.** → 스타트업 리버스마운틴이라는 회사의 Product에 대해 **조사해줘.**
🚩핵심은 알고 싶어를 설명해줘, 알려줘를 조사해줘처럼 명확한 행동 동사로 바꾸는 것
•
일상어를 사용하자!
LLM이 주로 현대 일상어 데이터로 학습되었기 때문에, 복잡한 전문용어보다 일상 표현이 더 잘 통합니다.
LLM이 주로 현대 일상어 데이터로 학습되었기 때문에, 복잡한 전문용어보다 일상 표현이 더 잘 통합니다.
다만, 지나치게 밈(meme) 같은 표현은 모델마다 이해도가 다를 수 있으니 주의하세요.
•
단문으로 작성하기
비문이나 복문을 피하고, 문장을 짧고 단순하게 구성하면 AI 모델이 더 쉽게 이해합니다.
특히 GPT 계열 모델은 문장이 길어지면 맥락 파악에 혼동이 생길 수 있으므로 문단을 잘 구분해주면 좋습니다.
참고로 Anthropic의 Claude는 은어·축약어에 대한 이해도가 높은 편입니다.
2. Prompt 요소의 위치
먼저 Lost in the Middle 현상을 생각해보자!
•
중요한 정보는 앞이나 뒤에 배치
LLM은 사람과 비슷하게 문서의 시작이나 끝 부분에 있는 정보를 더 잘 기억하고 인지합니다.
LLM은 사람과 비슷하게 문서의 시작이나 끝 부분에 있는 정보를 더 잘 기억하고 인지합니다.
•
Context Window의 길이 = 성능 보장 아님
맥락 창(Context Window)이 길수록 많은 내용을 담을 수 있지만, 무조건 긴 글이 좋은 건 아닙니다.
적절한 맥락과 핵심 정보만 깔끔하게 배치하는 것이 오히려 효율적입니다.
맥락 창(Context Window)이 길수록 많은 내용을 담을 수 있지만, 무조건 긴 글이 좋은 건 아닙니다.
적절한 맥락과 핵심 정보만 깔끔하게 배치하는 것이 오히려 효율적입니다.
•
추천 순서: 지시문 → 맥락 → 예시
명확한 지시문을 먼저 제시하고, 필요한 맥락(배경정보)을 간단히 설명한 뒤, 예시를 첨부합니다.
대부분의 모델이 이 순서를 가장 이해하기 편하다고 알려져 있습니다.
명확한 지시문을 먼저 제시하고, 필요한 맥락(배경정보)을 간단히 설명한 뒤, 예시를 첨부합니다.
대부분의 모델이 이 순서를 가장 이해하기 편하다고 알려져 있습니다.
•
Context Window란?
AI가 한 번에 처리할 수 있는 텍스트 범위를 말합니다.
점차 증가하는 추세이지만, 여전히 한계가 있으므로 중요한 내용만 선별해서 넣어주는 것이 좋습니다.
AI가 한 번에 처리할 수 있는 텍스트 범위를 말합니다.
점차 증가하는 추세이지만, 여전히 한계가 있으므로 중요한 내용만 선별해서 넣어주는 것이 좋습니다.
3. 기호를 사용하자 (습관화 하기)
•
지시문, 맥락, 예시 등 요소들을 나눌때 기호를 쓰자는것.
XML tag , markdown 기호 등
"###", "", "<>", "< / >", "----"
"###", "", "<>", "< / >", "----"
<프롬프트 구조화를 사용한 예시>
summarize the content up in numbered order.
---Respons Format---
Summarization :
(1), (2), (3)
summarize the content up in numbered order.
---Respons Format---
Summarization :
(1), (2), (3)
<< Key Points >>
List ('-') the primary innovations and target benefits with a short phrase.
---Respons Format---
Key Points :
List ('-') the primary innovations and target benefits with a short phrase.
---Respons Format---
Key Points :
•
•
•
< Text >
여기에 요약할 글 넣어주기
< /Text>
여기에 요약할 글 넣어주기
< /Text>
•
이상한 기호, 잘안쓰는 기호는 쓰지않기 ex) %, ^, & 등...
o1은 어떻게 써야할까?
o1은 여태까지 쓰던 방식으로는 효율적으로 쓸수없습니다..!
Chain of Thought 모델 사용 팁
•COT 모델(예: o1, Gemini Thinking, Deepseek Deep Think)
•복잡한 추론·분석 작업에 효과적
•하지만 불필요하게 “단계별로 생각해봐” 등 요구하면 처리 시간이 늘어날 뿐 아니라, 역효과가 날 수 있음
•**단순 작업(번역·간단 요약 등)**에서는 COT 모델 사용이 오버스펙이 될 수 있음
•COT 모델(예: o1, Gemini Thinking, Deepseek Deep Think)
•복잡한 추론·분석 작업에 효과적
•하지만 불필요하게 “단계별로 생각해봐” 등 요구하면 처리 시간이 늘어날 뿐 아니라, 역효과가 날 수 있음
•**단순 작업(번역·간단 요약 등)**에서는 COT 모델 사용이 오버스펙이 될 수 있음
Openai 에서 공개한 o1 사용 지침
1.
간결&직관적인 문장 사용
2.
CoT 기법 쓰지말기
3.
단계적으로 생각해봐 → 할 필요가 없음
4.
Self-reflection 이 통하지않으니, "답변에 대해 다시한번 생각해봐", "비판적으로 생각해봐" 등의 말은 쓰지않는다.
5.
역시나 구분기호 사용한다. 특히 XML tag
간결하게 쓰되, 생각을 방해하는 말을 하면 안됨. (잔소리하지 말라는것)
o1이 잘하는 것
- 파일 전체를 한 번에 정확히 생성하기[코드, 프로젝트의 맥락 등을 모델에 입력하면, 코드베이스의 기존 패턴을 따르며전체 파일을 (종종 오류 없이) 완벽하게 생성합니다]
- 특수 쿼리 언어에서 Claude가 Postgres 문법과 혼동하는 반면, o1은 이를 정확히 처리
- 어려운 엔지니어링 개념을 예제와 함께 상세히 설명하는 데 매우 뛰어남
- 특수 쿼리 언어에서 Claude가 Postgres 문법과 혼동하는 반면, o1은 이를 정확히 처리
- 어려운 엔지니어링 개념을 예제와 함께 상세히 설명하는 데 매우 뛰어남
o1이 잘 못하는 것
- 특정 문체·개성을 살린 글쓰기에는 상대적으로 약함
- 앱 전체를 단번에 완성하는 작업: 대규모 SaaS 전체 설계처럼 여러 단계 반복 수정이 필요한 작업은 비효율적
- 앱 전체를 단번에 완성하는 작업: 대규모 SaaS 전체 설계처럼 여러 단계 반복 수정이 필요한 작업은 비효율적
Q&A
Q. gpt 를 쓰다보면 현재 채팅세션이 너무 길어져서 답변 성능이 떨어질때가 있습니다. 그때 새로운 채팅세션을 다시 열어서 새로 시작하는 경우가 많은데요. 특히 이전 채팅세션에 대해 기억을한 상태로 대화하고싶은 경우가 있습니다. 이럴땐 어떻게 하는게 효과적일까요?
A. 저라면 현재 대화에 대한 요약본을 만들고 새로운 채팅 세션을 시작할때 "이전 대화 내용에 대한 요약입니다. 이 다음 내용을 이어서 질문하고 싶어요 " 라는 말과 함께 요약본을 같이 전달하는것 입니다. 아래는 제가 만든 탬플릿이니 사용해보시죠!
아래 템플릿 형식에 맞춰 이번 대화를 요약해 줘
[이번 채팅 세션 요약]
1.
질문(이슈) 개요
•
어떤 문제/이슈에 대해 논의했는지 간단히 정리:
- 예) React 컴포넌트 최적화 문제, DB 쿼리 성능 이슈, API 호출 실패 등
- 예) React 컴포넌트 최적화 문제, DB 쿼리 성능 이슈, API 호출 실패 등
2.
시도한 접근법 / 검토된 아이디어
•
문제 해결을 위해 시도한 방법, 참고 라이브러리나 문서
- 예) useMemo, memo 적용 / MongoDB 인덱스 추가 / Axios 재시도 로직
- 예) useMemo, memo 적용 / MongoDB 인덱스 추가 / Axios 재시도 로직
3.
제안된 솔루션 / ChatGPT가 준 답변 요약
•
최종적으로 ChatGPT가 제안한 방법, 코드 스니펫, 해결 전략
- 예) 최적화 코드 예시, SQL 쿼리 튜닝 방법, 로깅/디버깅 팁
- 예) 최적화 코드 예시, SQL 쿼리 튜닝 방법, 로깅/디버깅 팁
4.
핵심 코드(필요시)
// 여기에 중요 코드 스니펫(또는 Pseudocode)만 간단히 첨부
// 예를 들어 서버 라우팅, 주요 함수/클래스 등
// 예를 들어 서버 라우팅, 주요 함수/클래스 등
5.
결과 / 배운 점
•
실제 적용 후 결과(성공/실패), 또는 실행해보진 않았으나 가능성 등
- 예) 성능 30% 개선 / 오류 해소 / 아직 테스트 필요
- 예) 성능 30% 개선 / 오류 해소 / 아직 테스트 필요
6.
다음 액션 아이템(추가 논의/질문)
•
아직 미해결된 부분이나 추가 논의 예정 사항
•
예) TypeScript에서의 에러 해결 필요, CI/CD 파이프라인 설정 등
Q. o1 같은 모델은 어떤 상황에 쓰는게 좋나요~?
A. 논리적 오류결함을 찾거나, 비판이 많이 들어올것같은부분에 대한 보완 등 의 예시가있습니다.
Conclusion
기업 내부에서 AI 모델을 활용할 때 가장 중요한 점은 명확한 목적과 효율적인 대화 방식입니다. 어떤 상황에서든 모델의 특성과 맥락 처리 한계를 이해하고, 그에 맞춰 프롬프트를 구조화하면 훨씬 높은 품질의 답변을 얻을 수 있습니다. 또한, 대화가 길어지더라도 간단한 요약 템플릿을 사용해 새로운 세션으로 이어가면 혼란 없이 맥락을 유지할 수 있습니다.
앞으로도 OpenAI, Claude, Perplexity 등 다양한 모델들이 빠르게 발전할 것으로 예상됩니다. 기술 변화에 발맞춰 여러 모델을 비교·테스트하면서, 각 모델의 장점을 적절히 조합해 사용하는 것이 중요합니다. 이 글에서 소개한 방법들을 바탕으로, 여러분의 AI 활용 전략에 도움이 되길 바랍니다. 감사합니다.
References
Subscribe to 'Reversemountain Tech Blog'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'Reversemountain Tech Blog'!
Join Slashpage and subscribe to 'Reversemountain Tech Blog'!
Subscribe
3
4
2