해봄의 아카이브
🌿 세쿼이아 캐피털(Sequoia Capital)이 보는 LLM 시장
Haebom
•
미국 실리콘벨리 벤처기업 투자의 전설적 펀드 세쿼이아 캐피탈이 LLM 시장에 대해 관점을 밝혔습니다.
•
미국도 투자는 겨울에 가까운데 LLM에 한해선 열어 놓고 있다고 합니다.
세쿼이아 캐피털의 말을 정리하면 다음과 같습니다.
•
다양한 산업 분야의 기업에서 LLM(대규모 언어 모델) 채택이 증가하고 있습니다.
•
코드 개발, 데이터 과학, 챗봇, 시각 예술, 마케팅, 영업, 법률, 회계, 생산성, 검색, 식료품 쇼핑, 소비자 결제, 여행 계획 등 다양한 분야에서 LLM을 사용하는 기업이 있습니다.
•
LLM 애플리케이션을 위한 새로운 스택에는 언어 모델 API, 검색 메커니즘 및 오케스트레이션이 포함되며, 오픈 소스 사용이 증가하고 있습니다.
•
65%의 기업이 프로덕션 환경에서 LLM 애플리케이션을 사용하고 있으며, 94%는 기초 모델 API를 사용하고 있습니다(OpenAI의 GPT가 가장 선호됨).
•
88%는 검색 메커니즘(예: 벡터 데이터베이스)이 스택에 필수적이라고 생각합니다.
•
38%는 LLM 오케스트레이션 및 애플리케이션 개발 프레임워크에 관심이 있습니다.
•
현재 LLM 결과물, 비용 또는 성능을 모니터링하기 위한 도구를 찾고 있는 기업은 소수에 불과했습니다.
•
일부 기업은 텍스트와 음성을 결합한 상호 보완적인 생성 기술을 모색하고 있습니다.
•
15%의 기업은 LLM API를 사용하는 것 외에도 맞춤형 언어 모델을 구축합니다.
•
맞춤형 모델 학습이 증가하고 있으며, 이를 위해 다양한 도구와 프레임워크가 사용되고 있습니다.
•
기업들은 고유한 컨텍스트와 데이터에 맞게 언어 모델을 커스터마이징하는 것을 목표로 합니다.
•
사용자 지정 방법에는 사용자 지정 모델을 처음부터 학습하거나, 기본 모델을 미세 조정하거나, 관련 컨텍스트를 검색하여 사전 학습된 모델을 사용하는 방법이 포함됩니다.
•
LLM API와 사용자 지정 모델 학습을 위한 스택은 시간이 지남에 따라 통합될 것으로 예상됩니다.
•
스택은 LLM 애플리케이션을 구축하기 위한 LangChain과 같은 도구를 통해 더욱 개발자 친화적으로 변화하고 있습니다.
•
완전한 LLM 도입을 위해서는 신뢰성, 데이터 프라이버시, 보안 및 저작권 문제를 해결해야 합니다.
•
언어 모델 애플리케이션은 텍스트, 음성/오디오, 이미지/비디오 생성을 결합하여 점점 더 멀티 모달화될 것입니다.
•
AI 도입은 아직 초기 단계로, 설문조사에 참여한 기업 중 65%만이 프로덕션에 LLM 애플리케이션을 도입했습니다.
•
LLM 애플리케이션을 위한 인프라 계층은 향후 몇 년 동안 계속해서 빠르게 발전할 것입니다.
Subscribe to 'haebom'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'haebom'!
Join Slashpage and subscribe to 'haebom'!