카테고리
Empty
입력 처리 방식에 대해서 생각해봤는데
Gemini 모델 계열은 Explicit Context Caching을 활용하면 좋을거 같습니다.
반복적으로 입력되는 값인 프롬프트나 장기 기억력 같은건 직접 Explicit Context Caching에 집어넣으면 비용을 최대한 절감할수 있을거 같습니다.
Gemini 2.5 Flash
Gemini 2.5 Pro
Gemini 3.1 Pro-preview
Gemini 3.5 Flash
이 모델에는 적용이 가능할거 같습니다.
Gemini 3.1 Flash-preview 모델은 아직 좀 더 찾아봐야 알거 같습니다.
Gemini 모델 계열은 Explicit Context Caching을 활용하면 좋을거 같습니다.
반복적으로 입력되는 값인 프롬프트나 장기 기억력 같은건 직접 Explicit Context Caching에 집어넣으면 비용을 최대한 절감할수 있을거 같습니다.
Gemini 2.5 Flash
Gemini 2.5 Pro
Gemini 3.1 Pro-preview
Gemini 3.5 Flash
이 모델에는 적용이 가능할거 같습니다.
Gemini 3.1 Flash-preview 모델은 아직 좀 더 찾아봐야 알거 같습니다.
2
이즈리얼
좋은 제안 감사합니다. 이 부분은 기술적으로 검토 후 실측하여 얼마나 서비스 적용에 유의미할지 실험 후 회신드리겠습니다.
이즈리얼
See latest comments