🌐 Click the globe icon at the top right to easily switch between different languages.

Blog

요즘 핫한 ‘AI Agent’ ... 도대체 뭘까?

카테고리

✏️ 리서치

발행일자

Jun 23, 2025

안녕하세요, 더인벤션랩입니다. 최근 생성형 AI와 함께 ‘AI Agent’라는 키워드가 자주 보이고 있는데요,

“ChatGPT 이후의 AI는 어디로 향하고 있을까?“

“Agentic AI? Agent AI?”

“MCP가 요즘 핫하다던데 어떤걸까?”

이런 궁금증을 해소하기 위해서 한 달 동안 AI Agent를 주제로 한 스터디를 진행했고 직접 AI Agent를 개발해보기도 했습니다. 여기서 더 나아가 내용을 정리해 내부 타운홀 미팅 때 공유하는 시간을 가졌는데요 😊 이번 포스트를 통해서도 내용을 공유해보고자 합니다.

인공지능은 언제부터 시작됐을까?

인공지능은 저희가 생각했던 것보다 훨씬 오래 전부터 있었습니다. 1950년, 앨런 튜링이라는 수학자가 ‘컴퓨팅 기계와 지능’이라는 논문 발표와 함께 튜링 테스트를 제안하며 최초의 인공지능 개념이 탄생했습니다.

튜링 테스트란?
기계가 인간과 얼마나 비슷하게 대화할 수 있는지를 기준으로 기계에게 지능이 있는지를 판별하는 시험입니다. 실험 참가자가 상대방이 AI인지 인간인지 모르는 상태에서 문자로 대화하고 어느 쪽이 인간일지 맞추는 식으로 진행됩니다. 이때 AI가 실제 인간으로 지목되는 경우가 50%가 넘으면 튜링 테스트를 통과하는 것으로 보고 있습니다.

⭐ OpenAI의 GPT의 경우, 올해 4월 GPT 4.5 모델이 처음으로 튜링 테스트에 통과했습니다.

그러나 1970년대부터 데이터를 처리할 수 있는 컴퓨터의 성능 한계, 데이터의 부족 등의 기술적 한계로 인공지능은 침체기를 맞이하게 됩니다. 이후 2000년대에 들어서며 딥러닝이 등장하고, 2010년대부터 기술적 한계가 극복되면서 AI는 세상에 있는 다양한 분야에 활용되기 시작했습니다.

그리고 지금 시대의 AI

2022년 ChatGPT가 등장하며 AI의 대중화가 시작됐습니다. 이전까지만 해도 AI는 전문가나 개발자만 다룰 수 있었지만 이제는 누구나 아이디어만 있다면 활용할 수 있는 실용 기술로 자리잡고 있는 추세입니다. 텍스트, 이미지, 코드를 작성하고 데이터까지 분석하는 도구들이 더 이상 복잡한 개발 지식 없이도 접근 가능해지면서 ‘혼자서도 창작하고, 기획하고, 나아가 사업화까지 가능한 시대’가 열리게 되었습니다.

이때 ChatGPT, Claude, Gemini 등등.. 우리가 흔히 사용하고 있는 생성형 AI는 텍스트를 잘 이해하고 대답하는 언어모델(Large Language Model)이라고 할 수 있는데요, 그런데 여기서 더 나아가 사용자의 개입 없이 스스로 맥락을 인식하고 작업을 수행하는 자율형 AI, 즉 AI Agent 가 새롭게 주목받고 있습니다.

Agentic AI와 AI Agent

AI Agent라는 개념은 엔비디아의 CEO 젠슨 황이 CES 2025 기조연설에서 ‘Agentic AI’라는 단어를 사용하며 공식적으로 대중들에게 알려지게 되었습니다. 하지만 Agentic AI와 AI Agent는 조금 다른 역할과 정의를 가지고 있습니다. 일전에는 두 용어를 혼용하며 사용했었는데, 최근 AI에 대한 논의가 진행됨에 따라 두 가지가 구분되기 시작했습니다.

용어	설명
Agentic AI	스스로 목표를 설정하고, 주변 상황을 인식하고 판단하며 작동하는 AI
AI Agent	사용자의 정의된 명령에 의존하여 반복적인 작업을 스스로 처리하는 AI

쉽게 말해, Agentic AI는 스스로 생각하고 움직이는 존재이고, AI Agent는 사용자의 명령 기반의 보조자에 가깝다고 할 수 있겠습니다. 두 가지 모두 사용자의 개입 없이 자동화되어 있지만, AI가 스스로 맥락을 고려할 수 있는가? 가 가장 큰 차이점이라고 느꼈습니다.

아래는 AI Agent Market Map 이미지인데요, AI Agent라는 용어가 대중들에게 공개된 지 불과 반 년 정도 되었지만 수많은 서비스들이 출시됐음을 확인할 수 있습니다. (아래의 이미지보다 더 많은 서비스들이 있을지도 모릅니다)

AI Agent의 작동 흐름

① 입력 (Input) : 사용자가 “무엇이든 물어보세요”라는 프롬프트에 텍스트 혹은 이미지 등으로 질문이나 명령을 입력합니다.

② Vision Language Model (VLM) 처리 : 입력이 이미지나 복합 정보인 경우, Vision Language Model (예: GPT-4V, Qwen 2.5 VL, OmniParser)이 이를 해석합니다. 혹은 텍스트 입력일 경우 바로 다음 단계로 넘어가기도 합니다.

③ 동작 실행 요청 : 사용자의 요청에 따라 화면 조작이나 웹 브라우저 상에서 실행할 작업이 필요한 경우, 데스크탑 또는 브라우저 샌드박스 환경에서 시뮬레이션을 실행합니다.

④ Tool Calling (도구 호출) : 사용자의 요청에 따라 툴을 호출해야 할 경우, 명령을 내려 Tool을 호출합니다.

⑤ DB / Memory와 연동 : 필요시 DB, Memory와 연결합니다.

⑥ LLM으로 정보 전달 : VLM이 이해한 내용을 Large Language Model(예: GPT-4o, sonnet 3.7, Deepseek V3)에 전달하여, 툴 조작, 기억 저장소 연동, 질문에 대한 응답 생성 등의 작업을 수행

⑦ 분석하기 : LLM이 툴 사용 결과, 메모리, DB 등에서 받은 정보를 바탕으로 분석을 수행함

⑧ 결과 출력 : 사용자에게 화면에 결과를 시각적으로 출력함(예: 텍스트, 이미지, 웹브라우저의 실행 상태 등)

AI Agent 개발의 어려움

AI Agent를 구현할 수 있는 다양한 자동화 Tool이 나오며 기대감이 커지고 있지만 막상 실무에 적용하려고 하면 생각보다 어려움이 많다는 것을 느끼게 됩니다.

•

시스템 간 연동의 복잡성

AI Agent가 작동하려면 여러 외부 시스템과의 연동이 필요합니다. 예를 들어, Gmail, Slack, GitHub, Notion 등의 API를 연결하려면 각기 다른 인증 방식(OAuth, API Key 등)을 이해하고, 요청 방식(GET, POST 등)과 응답 구조를 분석해야 하죠. 툴이 하나씩 늘어날수록 연동 코드도 함께 늘어나고, 이에 따른 복잡도와 유지보수 비용이 기하급수적으로 증가하게 됩니다.

•

데이터 입력 세팅의 어려움

데이터를 Agent가 읽을 수 있는 형태로 입력하려면, 어떤 데이터 구조로 넣을지, 어떤 타이밍에 넣을지, 어떤 형식으로 처리할지를 사전에 세팅해야 합니다. 이 과정에서 작은 실수 하나로 인해 오류가 발생하거나, 재설정이 반복되는 경우가 많습니다.

•

로직 중첩과 예외 처리의 어려움

LLM 기반 Agent는 다양한 작업을 유연하게 처리할 수 있는 장점이 있지만, 작업이 늘어날수록 로직이 중첩되기 쉬워지고, 의도하지 않은 방식으로 명령이 해석되어 에러 발생 혹은 비정상적인 동작이 일어나기도 합니다. 이로 인해 코드 수정 및 프롬프트 조정이 반복되며 유지보수가 어려워지는 문제로 이어집니다.

•

툴이 추가될 때마다 반복되는 설정 작업

새로운 툴을 하나만 추가해도, 해당 툴에 맞는 API 연결, 작동 방식에 따른 프롬프트 설계, 동작 조건에 맞는 로직 설계 등 모든 것을 처음부터 다시 설계해야 하는 일이 발생합니다. 결국 확장성이 떨어지고, 새로운 툴을 쉽게 붙이기 어려운 구조가 됩니다.

이렇듯 문제들을 한 문장으로 요약하자면 ‘다양한 툴을 연결하고, 사용하고, 확장하는 것이 어렵다’ 라고 정리할 수 있습니다.

MCP(Model Context Protocol)

앞서 이야기한 어려움을 극복하고자 만들어진 것이 바로 MCP입니다. MCP(Model Context Protocol)는 어플리케이션이 LLM에 Context를 제공하는 방식을 표준화한 개방형 프로토콜이며, 쉽게 말하자면 AI가 외부 도구를 쉽게 이해하고 사용할 수 있도록 만든 표준화된 설명서이자 규칙입니다.

Claude 개발사인 앤트로픽이 2024년 11월 말 처음 오픈소스로 공개 및 발표한 프로토콜이며 최근 AI 개발자 커뮤니티를 중심으로 부상하기 시작했습니다.

위의 이미지는 MCP를 설명할 때 가장 많이 활용되는 이미지인데요, MCP는 USB C타입이다!라고 말할 수 있습니다. 예전에는 기기마다 포트 모양이 달라서 USB, 5핀, 8핀, C타입 등 다양한 케이블을 사용했어야 했는데 지금은 C타입 하나의 케이블만 있으면 모두 다 연결할 수 있는 것처럼 MCP라는 하나의 규칙만 있다면 여러가지 툴을 쉽게 연결할 수 있습니다.

아래에는 MCP의 구성과 요리사에 비유한 예시를 작성하겠습니다.

항목	설명	예시
MCP 호스트	전체시스템을 관리하는 중심 역할	Claude Desktop, IDE, AI 도구 등
MCP 클라이언트	각 서버와 1:1로 연결해 데이터를 주고 받음	Claude Agent, IDE 내부의 연결 모듈 등
MCP 서버	실제 데이터를 제공하거나 도구 기능을 수행	파일 서버, 데이터베이스 서버, 번역 서버 등
로컬 데이터 소스	내 컴퓨터의 정보를 담당	내 컴퓨터의 문서, 사진, 엑셀 파일 등
원격서비스	외부 정보를 담당	날씨 API, 뉴스 사이트, 이메일 서비스 등

MCP 호스트는 식당의 매니저임. 손님(사용자)의 주문을 받고, 각 요리사(MCP 서버)에게 어떤 요리(사용자의 요청)를 만들어야 하는지 지시함. 이때 MCP 클라이언트는 웨이터처럼 각 요리사와 주문을 전달하고, 요리가 완성되면 매니저에게 가져다주는 등 1:1로 소통함. 요리사(MCP 서버)는 식당 냉장고에 있는 재료(로컬 데이터 소스) 또는 배달오는 재료(원격 서비스)를 활용해서 요리(사용자의 요청)을 함.

MCP가 변화시킬 업무 환경

그러면 MCP가 부상하며 앞으로의 업무 환경은 어떻게 변화하게 될까요?

앞으로는 MCP를 활용해 반복적이고 시간이 오래 걸리는 작업들을 AI Agent를 기반으로 자동화할 수 있게 되면서 사람은 더 의미있는 일에 시간을 쓸 수 있을 것으로 기대됩니다. 또한 흩어져 있던 데이터를 손쉽게 통합할 수 있게 되어 데이터에 기반한 빠르고 정확한 의사결정이 가능한 data-driven한 조직으로 변화해갈 수 있을 것입니다.

•

예시 | HR 온보딩 자동화

신입사원이 자주 묻는 연차 신청, 복리후생, 사내 툴 사용법 등 정보를 Notion 또는 Google에 정리하고 AI Agent와 연동. Slack에서 “@AI. 연차 신청 어떻게 해?”처럼 자연어로 질의하면 즉시 답변이 제공되도록 자동화.

•

예시 | 고객 VOC 자동 분석

Google Form에 수집된 고객 설문과 리뷰 데이터를 AI Agent와 연동해 주제별 클러스터링과 감성 분석을 자동화. Notion 대시보드에 실시간으로 정리되어 “최근 불만 키워드는 뭐야?”처럼 자연어로 질의하면 즉시 인사이트 확인 가능함.

•

예시 | 제품 문서 작성 자동화

사용자 피드백, 경쟁사 리서치, 릴리즈 노트 등 제품 출시 전후 문서를 AI Agent가 자동 정리. Google, Notion 등 다양한 입력을 연결해 기능 요약, UX 비교, 노트 초안까지 자동 생성. PM은 “이번 릴리즈 요약해줘”처럼 자연어로 질의하면 문서가 자동 완성됨.

•

예시 | 팀 협업 및 일정 관리

회의 일정 생성부터 리마인드, 회의록 작성 및 공유까지 전과정을 AI Agent가 자동화. Google Calendar, Meet, Docs, Notion, Slack 등을 연동해 “오늘 회의 요약해주고 다음 일정 등록해줘”처럼 자연어로 질의하면 자동 정리된 회의록 확인 가능 및 자동 일정 등록.

AI Agent는 아직까지 대중화되지 않았지만, 지금 이 순간에도 수많은 개발자 커뮤니티와 툴 생태계에서 빠르게 확장되고 있습니다. 이번 스터디를 통해 단순한 기술 트렌드 파악을 넘어 ‘우리라면 실제 업무에 AI Agent를 어떻게 사용해볼 수 있을까?”를 고민해볼 수 있는 기회를 가질 수 있었습니다.

앞으로도 사내 구성원들과 함께 최신 트렌드를 공부하고 직접 사용해보고 공유하는 시간을 이어나가도록 하겠습니다 😊✨

'The Invention Lab Blog' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'The Invention Lab Blog'을 구독하세요!

Contact
서울시 서초구 강남대로53길 8, 마이워크스페이스4호점 8층 2호
contact@roailab.com