OpenAI DevDay 2023 - 이제 누구나 노코드로 인공지능 챗봇을 만들고 파는 시대가 오는 것인가?
OpenAI 유튜브 채널 오늘은 우리가 잘 알고 있는 ChatGPT를 개발하고 운영하고 있는 OpenAI의 DevDay, 즉 개발자 콘퍼런스가 열리는 날이었다. 개인적으로 인공지능 쪽 관련해서 MVT, MVP 프로젝트들을 진행하고 강의를 하다 보니 나 역시 자연스럽게 ChatGPT 유료 사용자가 되었고, 앱 개발에 사용하는 것은 아니지만 개인적으로 API도 가끔 선결제해서 사용하고 있다. 하지만 남들이 말하는 헤비유저는 아니었다. 가끔 생각 정리가 안될 때 가볍게 묻는 방식이거나 디자인 제작 과정 중에 필요한 상황일 때 도움을 받고 있는 수준이었다. 그런데 오늘 이 행사를 통해 제품을 만드는 디자이너로서 ChatGPT가 너무 매력적이라는 생각이 들었다. 왜 그런지를 콘퍼런스 내용을 정리하면서 내 생각도 한 스푼 섞어보면서 정리해 보았다. GPT-4 Turbo 모델 출시 먼저 기존 GPT-4의 개선된 Turbo 모델을 진행했다. 해당 모델은 이벤트 하는 당일에 공개되었다. 1. 128,000 콘텍스트 길이 지원 기존 GPT-4에서는 최대 8,000 어떤 경우 최대 32,000 콘텍스트 길이를 지원했다. 매번 개발하는 분들은 이 길이에 불만이 많은 것으로 알고 있었는데 이 부분이 이젠 4배~ 최대 16배까지 확장된 것이다. 이 분량은 표준 책의 300페이지 분량 정도 된다. 이 정도 길이면 이전에 MVT프로젝트로 진행하다가 기술적인 한계로 접었던 것을 다시 꺼내봐야 할 것 같다. 2. JSON load 기능 추가 이 역시 개발자들 요구를 충족시키는 기능이긴 하다. 확실히 JSON 파일을 이용하면 API 호출이 쉬워지기 때문이다. 또한 기존 GPT-4에서는 함수(Function)를 호출할 때 Line by line으로 호출하던 것을 이젠 한 번에 여러 개 함수를 호출할 수 있게 되었다. 개인적으로는 개발자가 아니라 몰랐던 부분인데 나는 당연히 여러 개의 함수를 프롬프트에 따라 여러 개를 불러올 수 있는 줄 알았다. 역시 세상엔 당연한 것은 없다. 3. 검색 기능 추가 사실 이건 놀라운 기능이 아니라고 본다. 솔직히 경쟁 모델들과 비교해서 GPT가 늦었다고 볼 수 있다. Bard나 Llama2에서는 웹 검색 접근이 용이한 반면 항상 2021년 자료로만 GPT에서 사용할 수 있었다는 게 사실 믿기지 않았고 실제로 최신 자료를 보기 위해 여러 과정을 거치거나 플러그인 등에 의존하는 경우가 많았다. 이젠 2023년 4월까지의 외부 문서 또는 데이터를 사용할 수 있게 되었다. 이 부분에 많은 사람들이 불만들이 많다 보니 계속적으로 개선해 나가겠다고 언급할 정도였다. 4. 텍스트 음성변환(TTS) 모델 탑재 Dall-E3에 비전 기능이 탑재된 GPT-4, 여기에 텍스트 음성 변환 모델이 추가되었다. TTS 기능은 요즘은 흔한 기술이라서 그런지 이 역시 그렇게 신선하게 다가오지 못했다. 하지만 제품을 만들 때 체크 사항 중에 하나가 바로 웹 접근성이다. 이 관점에서는 상당히 유의미하게 사용될 것으로 예상된다. Be My Eyes 서비스의 경우 이 기술을 이용하여 시각장애인이나 시력이 낮은 사람들을 위해 이미지를 입력받으면 API를 통해 이미지를 설명해 준다. 또한 T2S(Text to Speech)로도 이용이 가능해서 음성으로도 들을 수 있다. 이와 더불어 오픈소스 Whisper V3의 다음 버전도 출시와 API를 제공하게 될 예정이고 총 6개의 자연스러운 음성을 사용할 수 있게 된다. 5. GPT-4 파인튜닝 및 커스텀 모델 GPT-3.5에 대한 파인튜닝이 성공적으로 작동하고 있다고 하면서, 16K 버전으로 확대할 것이라고 알렸다. 이와 더불어 GPT-4의 파인튜닝 액세스 프로그램 역시 진행하는 것을 함께 알렸다. 여기에 커스텀 모델도 언급하였다. 이는 기업들은 제품을 만들 때 경쟁자들과 차별점을 만들기 위해 안간힘을 쓰고 있는데 이 부분은 커스텀 모델로 도움을 주겠다는 것이다. 아무래도 B2B로 협업 관계로 진행하게 될 텐데 문제는 비용이 적지 않을 것이라고 한다. 사실 지난번에 샘 알트먼이 전 세계를 돌면서 강연과 이벤트를 했을 때도 보면 OpenAI가 살아남기 위해서는 기업에서 많은 API를 사용해 이익을 남길 수 있기 때문에 스타트업과 기업들에게 API 사용에 대한 언급을 많이 하는 것을 보았다. 6. 저작권 보호 쉽게 말해 최근 인공지능을 이용한 콘텐츠들이 전 세계적으로 소송을 여러 건 진행 중이다. 이것을 의식해서 사용율이 떨어지는 것을 방지하기 위해서 만든 것 같다는 생각이 든다. 저작권 보호는 저작권 침해와 관련하여 법적 소송을 당할 경우 OpenAI가 개입하는 것을 말한다. 이를 통해 발생하는 모든 비용을 OpenAI 측에서 지불하게 되는 서비스다. 진짜 일지는 모르겠지만 자신들은 API나 ChatGPT Enterprise의 데이터로는 학습을 하지 않는다고 한다. 아마도 가장 핵심 고객들은 보안에 민감하다 보니 이를 안심시키기 위해 발언한 것 같다. 뭐 구글, 페이스북 그리고 인스타그램도 다 그렇게 말했지만... 원모어 띵? 역시 이렇게 업그레이드되었으니 가격이 궁금할 수밖에 없다. 실제로 알트먼이 가격이야기를 꺼낼 때 여기저기서 웃음소리가 났다. 이는 사실 이렇게까지 업그레이드를 했으니 API를 사용하는 기업들에게는 비용 문제는 민감할 수밖에 없다. 실제로 개발자들이 20~25%만 낮추면 좋겠다는 의견을 들었다고 한다. 이를 기반으로 Input Tokens을 사용할 때는 1/3 가격으로 Output Tokens는 1/2 가격으로 이날 바로 인하했다. 이때 재미있는 것은 앞에서 말한 몇몇 기능에서는 박수가 없었는데 박수가 터져 나왔다. 🤣🤣🤣 앞에서도 언급했듯이 나 역시 오픈소스 도구들이나 플러그인을 사용하기 위해 개인적으로 API를 종종 선결제해서 사용하고 있는데 더 자주 사용해 볼 수 있을 것 같다. 그리고 비용뿐만 아니라 속도 개선에 니즈도 있었는데 의식해서 인지 다음은 속도에 개선을 할 것이라고 언급했다. 홍보 타임 그리고 중간에 파트너(아니 대주주 중에 하나인)인 MS CEO인 Satya Nadella가 등장해서 GPT를 통해 Azure, Github Copilot에 발전을 했다고 자랑(?)과 홍보(?)하는 시간을 가지면서 숨 고르기를 했다. GPT의 새로운 기능들 개인적으로 이번 이벤트의 하이라이트라고 생각한다. 이게 제품을 만드는 디자이너로서 나에게는 상당히 흥분되고 재미있었다. 사실 며칠 전에 유출된 GPT의 새로운 인터페이스와 신기능들이 나올 것이라는 루머가 있었고, 유출된 루머 그대로 공개가 되었다. 1. GPTs 개념 특정 목적을 위한 맞춤형 ChatGPT 버전을 뜻한다. 누구든 커스텀 버전의 ChatGPT를 만들 수 있다는 의미이고, 그렇게 만들어진 GPT들을 GPTs라고 불리게 된다. 예제로 code.org 나 Canva의 제작 사례를 짧게 이야기한 후에 Zapier 데모를 진행하였다. 2. GPT Builder 사실상 대화하는 것만으로도 나만의 GPT를 프로그래밍하고 배포까지 가능한 노코드 도구를 지원한다. Builder는 ChatGPT 내에서 바로 사용할 수 있다. 간단하게 만드는 과정을 시연을 했다. GPT Builder에 스타트업 창업자들이 사업 아이디어를 생각하고 조언을 구할 수 있도록 돕고 싶다고 하면서 창업자가 조언을 받은 후에는 왜 더 빨리 성장하지 못하는지에 대해 질문을 했다. 답하자마자 바로 오른쪽창에 앱을 미리 보기로 결과를 빠르게 확인할 수가 있었다. 프로필 이미지도 생성해주기도 하는 모습을 보여줬다. 여기에 configuration 탭에서 디테일하게 옵션 등을 설정할 수 있다. instruction(현재 GPT에서 지원하는 Custom Instruction과 유사하다)이나 여기에 자신이 가지고 있는 데이터나 파일을 올리고 자신만의 스타트업 멘토 GPT를 만들었다. 시간 관계상 많은 것은 보여주지 않았으나 디테일하게 작성하게 되면 나만의 GPT를 만들 수 있다는 것에 상당히 흥미로웠다. 이 Builder가 아주 새로운 기능이라는 생각은 들지 않았다. 하지만 흩어져있던 기능을 모아서 통합시키고 목적에 맞게 "나만의" GPT로 만들 수 있게 정리해 줬다는 느낌이 들었다. 3. GPT Store 이렇게 만들어진 GPTs을 배포할 수 있는 스토어를 만들었다. 물론 배포 역시 공개할 것인지 아니면 나만의 것으로 계속 발전시킬 것인지 등을 선택할 수 있어서. Private로 테스트를 해보면서 서비스를 발전시킬 수 있을 것으로 보인다. 또한 스토어에 커스텀 GPT를 올리고 판매할 수 있게 되며, 수익 분배가 이뤄진다고 한다. 아직 구체적인 수익 분배 가이드는 나오지 않은 상태이고 곧 공유가 될 것이라고 한다. 4. Assistant API 위 개념들을 가지고 이전에 맞춤형 어시스턴트를 만드는 것이 상당히 까다로웠다. 실제로 우리 팀 역시 이전에 렌즈 전문점을 위한 어시스턴트를 만들려고 했을 때 그 작은 디테일을 만족스럽게 만들지 못해 포기했던 경험이 있다. (이걸 통해 다시 불씨를 피워봐야 하나? ㅎㅎㅎ) 이제 이런 문제들을 Assistant API가 많은 부분을 해결해 줄 것으로 기대된다. Wanderlust 시연이 이어졌다. 실제 시연 연상을 보면 정말 인상적이었다. 이제는 사용자가 오랜 시간이 들여 입력하거나 정리해서 문의하는 부분을 업로드와 몇 개의 정보를 대화식으로 물으면 알아서 분석하고 인터페이스상에 결과로 보여준다. 사용자는 그냥 확인만이 필요할 뿐이다. 추가 시연으로 음성 입력을 텍스트로 변환하는데 Whisper를 사용하고, 말을 하면 함수 호출을 통해 어시스턴트가 인터넷에 연결하여 사용자를 위해 실제 작업을 수행할 수 있게 상황을 연출했다. DevDay에 참여한 명단 중에 무작위로 5명을 뽑아서 500달러 OpenAI 크레디트를 Whisper의 목소리로 이름을 불러가며 선물로 제공하였다. (나중에는 전원에서 선물을 시연을 하였다. 나도 저기에 있었으면 얼마나 좋을까 잠깐 생각함.) 마무리하며 이 신기능들은 MVT 프로젝트나 관련 강의에 정말 많은 도움이 될 것 같다는 생각이 들었다. 기존에는 botpress와 같은 서비스를 사용했었는데 GPT builder를 테스트해보고 초보자들을 위한 강의안을 바로 바꿔야 할 정도다. 디자이너나 제품을 만드는 사람들 입장에서는 이처럼 쉬운 노코드 생성형 AI 빌더는 당장에는 없어 보인다. 고민은 시간만 늦출 뿐. 바로 사용해보고 싶다는 생각이 든다. 재미난 상상이 머릿속을 맴돌기 시작했다. 그리고 나도 모르게 이전에 기술적으로 해결이 되지 않았던 생각들을 적어둔 기록들을 뒤지는 나의 모습을 보게 되었다. 해당 영상 부분은 꼭 시청해 보길 추천한다. As intelligence gets integrated everywhere, we will all have superpowers on demand. We're excited to see what you all will do with this technology, and to discover the new future that we're all going to architect together. - Sam Altman 이제 더 쉽게 앱을 만들 수 있는 시대가 오고 있다. #openai #chatgpt #ai #conference #컨퍼런스 #devday #event #개발자컨퍼런스 #인공지능
