Share
Sign In
언어모델로 서비스 만들기
GPT-3.5 및 GPT-4 같은 GPT 모델과의 상호 작용을 간소화하는 데 프롬프트가 큰 역할을 합니다. 앞으로 인공지능이 발전 할 수록 파운데이션 모델과의 커뮤니케이션을 단순화하고, 다양한 애플리케이션에서 쉽고 효율적으로 사용할 수 있게 만들어 주리라 생각 합니다.
인공지능이 보편화 됨에 따라 예전에 기획자들이 API, SDK 개념에 대해 공부했던 시기가 떠오릅니다. 꼭 알아야하는 것은 아니지만 알면 좋은 그런 영역의 것들인데요. 사실 인공지능 관련 서비스를 만드시는 분들, 만드시게 될 분들이 알아야하는 건 구조인 것 같습니다. 가장 마음 편한건 OpenAI 같은데서 API로 쏴주면 그거 받아다가 입력 받고 출력해주면 되는데... 보통 대표님들 혹은 서비스 입장에선 이 보다 나은 경험 혹은 비용적으로 유리해지고 싶기에 선호하지 않으실 겁니다. 빠르게 시장을 선도하기 위해서 라면 몰라도 말이죠. 대표적인게 국내 클라우드 스토리지 사업인데 결국 자체적으로 IDC나 데이터 센터를 구축하면 운영 비용 자체는 50% 이상 줄지만 구축하는데 비용도 쉽지 않고 제대로 설계하는 것도 쉬운게 아니니까요.
인공지능이 보편화 됨에 따라 예전에 기획자들이 API, SDK 개념에 대해 공부했던 시기가 떠오릅니다. 꼭 알아야하는 것은 아니지만 알면 좋은 그런 영역의 것들인데요. 사실 인공지능 관련 서비스를 만드시는 분들, 만드시게 될 분들이 알아야하는 건 구조인 것 같습니다. 가장 마음 편한건 OpenAI 같은데서 API로 쏴주면 그거 받아다가 입력 받고 출력해주면 되는데... 보통 대표님들 혹은 서비스 입장에선 이 보다 나은 경험 혹은 비용적으로 유리해지고 싶기에 선호하지 않으실 겁니다. 빠르게 시장을 선도하기 위해서 라면 몰라도 말이죠. 대표적인게 국내 클라우드 스토리지 사업인데 결국 자체적으로 IDC나 데이터 센터를 구축하면 운영 비용 자체는 50% 이상 줄지만 구축하는데 비용도 쉽지 않고 제대로 설계하는 것도 쉬운게 아니니까요.
개인적으로 누군가가 인공지능 관련 서비스를 기획하시거나 꿈꾸신다면 직군 상관 없이 한 번 위의 정보를 읽어보면 좋겠습니다. 사실 세 가지 개념만 명확하게 이해하면 좋습니다. 바로 Foundation Model, Embedding Model, VectorDB 입니다.
Emerging Architectures for LLM Applications from Matt Bornstein and Rajko Radovanovic
Foundation 모델은 이 도서관의 사서와 같습니다. 책(정보)에 대해 아주 많이 알고 있고, 여러분이 원하는 책을 찾아드릴 수 있는 역할 입니다. 여러분이 "컴퓨터에 대해 알려주세요"라고 물으면, 컴퓨터에 대한 책을 추천해 줍니다.
Embedding 모델은 각 책을 쉽게 찾을 수 있는 코드로 변환하는 작업입니다. 책마다 고유한 바코드를 붙이는 것과 같은데요, 이렇게 하면 원하는 책을 정말 빠르게 찾을 수 있습니다.
VectorDB는 바코드를 이용해 책을 정리해두는 커다란 서가라고 할 수 있습니다. 이 서가는 책을 주제별로, 또는 여러분이 원하는 방식으로 정렬해서 보관합니다. 그래서 여러분이 "이 주제에 대한 책을 보고 싶어요"라고 하면, 관련된 책들을 바로 꺼내줄 수 있게 만드는 것 입니다.
인공지능 서비스를 만들다 보면 사람들이 인공지능에게 물어보는 게 생각보다 분류 가능하고 자주 물어보는 분야가 명확하게 있다는 것 입니다. 이것을 이해하고 있으면 VectorDB와 Embedding 모델을 적절하게 설계하여 비용을 눈에 띄게 줄 일 수 있습니다.
ⓒ 2023. Haebom, all rights reserved.
출처 표시를 하고, 저작권자 허락 하에 영리적 목적으로 쓰일 수 있습니다.
