# "인공지능의 시대가 온다." 그런데 어떻게?

최근 기술과 금융 세계에서 눈부신 소식 두 가지가 우리의 관심을 사로잡았습니다. 하나는 바로 엔비디아가 무려 2조 달러라는 거대한 시가총액을 넘어선 것이고, 다른 하나는 델이 야심 차게 발표한 "모든 PC는 결국 AI PC가 될 것"이라는 미래 전망입니다. 이 두 사건은 기술 산업의 역동적인 변화와 AI 기술의 눈부신 발전을 단적으로 보여주고 있지만, 이에 대한 해석은 사람마다 천차만별입니다.

[AI chip firm Nvidia valued at $2tn](https://www.bbc.com/news/business-68387018)

우선, 엔비디아의 시가총액 2조 달러 돌파는 그 자체로 투자자들 사이에서 AI 기술에 대한 엄청난 기대감을 반영하고 있습니다. 이는 엔비디아가 제공하는 데이터 센터 칩과 같은 AI 기술에 대한 수요가 증가하고 있음을 의미합니다. 특히, 엔비디아의 H100 Tensor Core GPU와 같은 AI 추론 및 훈련 칩에 대한 주문이 급증하고 있는 점은 엔비디아가 시장에서 얼마나 강력한 위치를 차지하고 있는지를 보여주는 증거입니다.

하지만, 모두 긍정적로 보고 있는 것은 아닙니다. 아폴로 글로벌 매니지먼트의 수석 경제학자인 토르스텐 슬뢰크는 AI 시장의 과열을 경고하며, 현재의 상황을 1990년대 닷컴 버블 때보다도 더 심각한 '거품' 상태로 보고 있습니다. 그는 S&P 500 상위 10개 기업의 현재 평가가 기술 버블 시절보다 과대평가되어 있다고 주장하며, 이는 투자자들이 잠재적인 위험에 노출될 수 있음을 시사합니다. ($APO는 연간 운용자금만 800조 가량되는 PEF회사 입니다. - [위키피디아](https://en.wikipedia.org/wiki/Apollo_Global_Management))

[JPMorgan CEO Jamie Dimon says AI is not just hype — 'This is real'](https://www.cnbc.com/2024/02/26/jpmorgan-ceo-jamie-dimon-says-ai-is-not-just-hype-this-is-real.html)

반면 JP모건의 CEO는 최근 인공지능 붐이 거품이 아니며 실물 경제와 맞닿아 있으며, 곧 모두가 이 변화를 체험하게 될 것이라는 이야기를 최근 CNBC 인터뷰에서 진행했습니다. 암 치료법이나 인류가 도달하지 못한 미지의 영역에 도달할 수 있을 특이점이 될 것이라고 언급했지만 인터뷰 말미에 자신은 낙관론자라고 빠져나갈 구멍도 만들었습니다. (ㅋㅋ)

[Dell unveils new hardware and talks up the AI PC](https://www.theregister.com/2024/02/26/dell_ai_pc/)

한편, 델의 발표는 AI 기술의 미래에 대한 다른 한 가지 흥미로운 비전을 제시합니다. 델은 장기적으로 모든 PC가 AI 기능을 탑재하게 될 것이라고 전망하며, 이는 기술 발전과 사용자 요구의 변화를 반영하는 것입니다. 뉴럴 프로세싱 유닛(NPU)과 같은 AI 하드웨어가 점차 CPU와 통합되면서, AI 기술이 일상적인 컴퓨팅 작업에 깊숙이 스며들 것임을 예상할 수 있습니다.

![이 글을 기반으로 삽화를 그려달라니 이런 것을...](https://upload.cafenono.com/image/slashpagePost/20240228/204257_0gRIc3JutAexUXh2Gv?q=75&s=1280x180&t=outside&f=webp)

**최근 많은 분들을 직접 뵙고 인공지능 모델을 소개하거나 세팅 해드리고 있는데 이야기 하다보면 정말 개인 및 기업 모두들 인공지능에 대한 니즈는 확실하고 결국에는 '나만의 인공지능'을 가지고 싶어한다는 것을 실제로 느끼고 있습니다. **이는 보안의 문제가 가장 크더라구요. 기업은 내부 자료나 기밀자료의 유출을 막으면서도 AI를 사용하고 싶어하고, 개인은 프라이버시 문제로 나의 모든 걸 인공지능이 학습하는걸 크리피하게 생각하다 보니 **결국은 온디바이스/로컬형태의 인공지능을 원하고 현재로서 그 해결책은 sLM을 파인튜닝하는 방식**으로 많이들 이뤄지고 있는 것 같습니다.

**국내외 스타트업들도 최근 특정 기업에 맞는 모델을 판매하기 시작했는데 사실상 파운데이션 모델을 만들고 각각의 기업의 데이터를 파인튜닝하고, 중요 자료나 필수 자료들을 VectorDB에 올린후 RAG 먹이고 top_k 등을 최소화 하여 할루시네이션을 적게 이르키는 방법으로 하는데 현재로선 이 방법이 손이 많이 가더라도 돈은 명확하게 되는 것 같습니다.** 몇몇 곳은 파운데이션으로 쓰는 모델도 오픈 소스화 된 모델에 파인튜닝 및 마개조로 자체 모델이라고 하는 경우도 있는데... 뭐 모델이 성능만 나오면 되는거 아니겠어요? 불법도 아니고.

개인적으로는 **누가 누가 sLM을 UI/UX적으로 훈련 및 사용하기 쉽게 만드나의 영역이 될 것 같습니다. 저는 이걸 Local에서 할 수 있게 만드는 방법에 요즘 관심이 많습니다. **실제로 개인의 집에서 4070~4090 혹은 애플 실리콘칩에서 돌리는 방법으로요. 폐쇄망이나 기업 혹은 디바이스 내에서 쓰는 걸 생각하면 이쪽으로 야마를 잡는게 더 뭔가 재밌을 것 같습니다. 이와 관련해 이야기를 하고 싶으신 분들언 언제든 DM이나 메일을 주세요. (슬래시페이지에 DM기능이 생겼다고 합니다.)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).