행동하는 AI Agent: 오케스트레이션 & MCP

1. 챗봇에서 에이전트로

 

오늘날 에이전틱 AI(Agentic AI)에 대한 학계와 산업계의 관심이 뜨겁다. 2022년 말 ChatGPT 출시 이후, 그동안 우리는 거대 언어 모델(LLM) 기반의 챗봇이 인간의 질문에 유창하게 답변하는 능력에 매료되었다. 그러나 오늘날 발전된 흐름을 거쳐 지난 날을 돌아보면, 이 시기의 AI는 읽기 전용 패러다임에 국한된다. 검색 증강 생성(RAG) 기술을 통해 기업의 방대한 지식베이스에 접근할 수 있게 되었지만, AI는 여전히 관찰자이자 조언자의 역할에 머물렀던 것이다. 사용자가 "다음 분기 예산이 얼마지?"라고 요청하면 AI는 훌륭한 답변과 보고서를 작성할 수 있었지만, "예산안을 승인하고 ERP 시스템에 반영해 줘"라는 요청에는 처리할 수 없었다.

   

이제 우리는 이 한계를 뛰어넘어 읽고 쓰는 작업을 넘어, 주체적으로 작업을 계획하고 행동하여 우리 업무를 실질적으로 대행하는 "에이전트의 시대"로 진입하였다. 에이전틱 AI는 단순히 텍스트를 생성하는 도구가 아니라, 또 하나의 노동자로서 인식(Perception), 추론(Reasoning), 계획(Planning), 그리고 실행(Execution)의 인지 아키텍처를 갖추고 있다. 이들은 데이터베이스의 자료를 읽을 뿐만 아니라, API를 통해 데이터를 수정하고, 이메일을 발송하며, 코드를 실행하여 실제 세계의 상태(State)를 변경할 수 있다. 이러한 변화는 단순한 기능의 추가가 아니라, AI 시스템의 설계 철학, 그리고 인간과의 협업 방식을 근본적으로 재정의하는 거대한 전환이다.

 

AI Agent (출처: 구글)

 

에이전트 시스템은 능동적이고 목표 지향적이다. "이번 주 일정을 정리해 줘"라는 모호한 목표가 주어지면, 에이전트는 이를 "캘린더 확인", "이메일 내 초대장 검색", "충돌 일정 조정", "참석 여부 회신"이라는 하위 작업으로 스스로 분해하고 순차적으로 실행하는 것이다.

이번 칼럼은 이러한 행동을 가능하게 하는 두 가지 핵심 기술 축인 오케스트레이션과 모델 컨텍스트 프로토콜(MCP)을 소개하고, 이를 통해 변화할 미래의 업무 방식을 조망하고자 한다.

 

2. 기술적 중추: 오케스트레이션

AI가 단순한 챗봇을 넘어 복잡한 업무를 수행하려면, 가장 먼저 필요한 것은 "나는 누구고 무엇을 해야 하는 지", "어떠한 도구로 어떠한 행위를 해야 하는 지", 그 생각의 흐름을 그리는 능력이다. 그것을 설계하는 것이 바로 '오케스트레이션(Orchestration)'이다. 오케스트레이션이란 단순히 여러 기능을 순서대로 실행하는 것을 넘어, 현재 상태와 작업 맥락, 그리고 의사결정까지, 일련의 지휘 통제 과정을 의미한다. 마치 오케스트라 지휘자가 전체 악기의 조화를 이끌듯, AI 모델이 도구와 데이터를 적재적소에 활용하도록 통제하는 '두뇌'를 설계하는 것이다.

 

LangChain 로고 (출처: LangChain)

 

LLM 애플리케이션 개발을 주도하고 있는 오케스트레이션 프레임워크는 랭체인(LangChain)이다. 랭체인은 이름에서 알 수 있듯이 작업의 흐름을 체인(사슬)처럼 선형적으로 연결하는 데 최적화되어 있다.

• 구조: 입력 - 검색 - 프롬프트 구성 - LLM 호출(답변 생성)

이러한 구조는 챗봇이나 단순한 RAG 시스템을 구축하는 데 표준으로 쓰인다. 그러나 실제 업무는 직선적이지 않다. 우리는 계획을 세우고, 실행하다가 막히면 다시 계획을 수정하고, 결과를 검토하여 부족하면 재시도하는 순환 과정을 거친다. 선형적 체인은 이러한 반복과 조건부 분기, 그리고 상태 유지를 구현하기에는 경직되어 있다는 한계가 있다. 물론 LangChain도 tools와 같은 기능을 제공하여 도구 활용 에이전트를 설계하는 데 충분한 기능을 제공하지만, 더 구체적이고 역동적인 에이전트 워크플로우를 그리는 데 한계가 있다는 것이다.

랭그래프(LangGraph)의 등장

 

2024년 등장한 랭그래프(LangGraph)는 이러한 한계를 극복하기 위해 제안되었다. 랭그래프는 애플리케이션을 일종의 상태 기계(State Machine)로 모델링합니다. 여기서 핵심은 순환(Cycle)과 상태(State)이다.

• 상태 (State): 랭그래프의 가장 큰 특징은 공유된 '상태' 객체이다. 에이전트가 작업을 수행하면서 수집한 정보, 수행한 행동의 결과, 발생한 오류 등이 모두 이 상태 객체에 누적되어 기록된다. 이는 에이전트에게 기억(Memory)을 부여하여, "현재 3단계를 진행 중이며, 2단계 도구 실행에서 오류가 발생해 재시도 중"이라는 상황 인식을 가능하게 하는 것이다.
• 노드 (Nodes): 개별 작업을 수행하는 단위이다. LLM 호출, 도구 실행, 데이터 파싱 등이 노드가 된다.
• 엣지 (Edges): 노드 간의 연결이다. 랭그래프는 조건부 엣지를 지원한다. "도구 실행이 성공했으면 종료 노드로 가고, 실패했으면 다시 계획 수립 노드로 돌아가라"는 식의 동적인 흐름 제어가 가능해진 것이다.

 

LangGraph 로고 (출처: LangGraph)

 

 

랭그래프를 통해 우리는 비로소 AI에게 인간과 유사한 사고의 루프를 심어줄 수 있게 되었다.

1. 계획 (Planning): 복잡한 목표를 받으면 먼저 하위 태스크로 분해(Decomposition)한다.
2. 실행 (Execution): 도구를 사용해 작업을 수행한다.
3. 성찰 (Reflection): 결과가 목표에 부합하는지 스스로 검증한다. 만약 결과가 부족하다면, 에이전트는 다시 '계획'이나 '실행' 단계로 되돌아가는 루프(Loop)에 스스로 오른다.

과거의 챗봇이 정해진 레일 위를 달리는 기차였다면, 오케스트레이션된 에이전트는 목적지만 주어지면 경로를 스스로 탐색하고 수정하는 자율주행차와 같다.

 

3. 기술적 중추: 모델 컨텍스트 프로토콜 (MCP)

 

에이전트에게 '생각하는 뇌(Orchestration)'를 심어두었다면, 이제는 세상을 조작할 '손과 발'이 필요하다. 하지만 지금까지 AI에게 손발을 달아주는 과정은 파편화된 생태계에 의해 매우 번거로운 일이었다.

 

기업 환경에는 슬랙, 구글 드라이브, 노션, 사내 DB, ERP 등 수많은 도구가 존재한다. 과거에는 이들을 AI와 연결하기 위해 개발자가 각각의 API에 맞춰 '어댑터'를 일일이 코딩하여 연결해야 했다. 도구가 N개, AI 모델이 M개라면 이론적으로 N x M번의 통합 작업을 해야 하는 비효율의 늪에 빠지게 되는 것이다. 모델이 업데이트되거나 외부 시스템의 API가 변경될 때마다 이 연결 고리는 깨지기 쉬웠고, 유지보수 비용은 기하급수적으로 증가하는 문제가 동반되었다.

 

2024년 말 오늘날 대장급 LLM 중 하나인 Claude 시리즈의 개발사로 잘 알려진 앤트로픽(Anthropic)이 주도하여 발표한 모델 컨텍스트 프로토콜(MCP, Model Context Protocol)은 이러한 파편화 문제를 해결하기 위한 표준이 되었다. MCP는 AI 모델과 외부 시스템 간의 통신을 위한 공용어 역할을 수행한다. 업계에서는 이를 하드웨어의 연결성을 통일한 USB-C 포트에 비유하기도 한다. USB-C 포트 하나로 모니터, 충전기, 하드디스크를 모두 연결하듯, MCP 표준만 지키면 어떤 AI 모델(클라이언트)이든 별도의 코딩 없이 즉시 외부 도구(서버)와 연결될 수 있게 하는 것이다.

 

이것이 AI 발전 흐름에 가지는 의미는 매우 크다. MCP는 단순히 개발 편의성을 높이는 것을 넘어, 폐쇄된 AI를 개방형 생태계로 끌어내는 의미를 갖는다.

 

MCP의 구조

 

MCP는 JSON-RPC 2.0을 기반으로 한 다음과 같은 구조를 가진다.   

• MCP Host (호스트): 사용자가 실행하는 애플리케이션 그 자체이다. (예: Claude Desktop, Cursor, IDE 등) 호스트는 사용자의 입력을 수신하고 LLM을 호출하며, 어떤 MCP 서버를 사용할지 결정하고 에이전트의 전체 실행 흐름과 수명 주기(Lifecycle)를 관리하는 컨트롤 타워 역할을 한다. 호스트는 MCP 서버와 직접 통신하지 않으며, 내부에 탑재된 MCP Client를 통해서만 서버와 상호작용한다.
• MCP Client (클라이언트): 호스트 애플리케이션 내부에 탑재된 MCP 통신 모듈이다. MCP 표준(JSON-RPC 기반)을 구현하여 서버와 1:1 세션을 맺는다. 이는 호스트의 요청을 MCP 규격에 맞게 직렬화하여 서버로 전달하고, 서버의 응답을 역직렬화하여 호스트가 사용할 수 있는 형태로 반환한다. 클라이언트는 의미적 해석이나 판단을 수행하지 않으며, 순수하게 통신과 프로토콜 변환을 담당한다.
• MCP Server (서버): 실제 데이터와 기능을 보유한 독립적인 도구 제공자이다(예: Google Drive Server, Postgres DB Server). 서버는 호출 주체가 누구인지, 어떤 UI나 에이전트에서 사용되는지를 알 필요가 없으며, 자신이 제공할 수 있는 리소스(Resources), 도구(Tools), 프롬프트(Prompts)를 MCP 표준 규격에 맞추기만 하면 된다. 이러한 설계로 서버는 특정 애플리케이션이나 LLM에 종속되지 않고 재사용이 가능하다.

이러한 구조를 통해 MCP는 LLM이 실제 시스템을 조작하는 실행 주체로 동작할 수 있는 기반을 제공한다. 예를 들어, 사용자가 “이번 달 매출 관련 문서를 정리해 달라”는 요청을 입력하면, 에이전트는 Google Drive MCP Server를 통해 관련 폴더의 문서를 검색하고 파일 내용을 읽은 뒤 핵심 내용을 요약하여 새로운 문서로 저장할 수 있다. 같은 방식으로, 에이전트는 Postgres MCP Server에 정의된 도구를 호출해 사내 데이터베이스에서 매출 데이터를 조회하고, 집계된 결과를 바탕으로 보고서를 생성한 후 Slack MCP Server를 통해 팀 채널에 자동으로 공유할 수도 있다.

핵심은 추상화이다. 이 모든 과정에서 에이전트는 각 시스템의 API 구조나 인증 방식, 요청 포맷을 알 필요가 없으며, 단지 MCP 서버가 제공하는 표준화된 도구 정의에 따라 작업을 수행한다.

 

4. 안전장치: Human-in-the-loop

 

행동하는 AI는 강력하지만 때때로 위험하다. 환각(Hallucination)을 일으킨 에이전트가 잘못된 금액을 환불 처리하거나, 전 직원에게 민감한 내부 문서를 메일로 보내버린다면 큰일이기 때문이다. 이것이 기업들이 에이전트 도입에 신중을 기하는 이유일 것이다. 따라서 에이전트의 핵심은 자율성 부여가 아니라, 정교한 통제에 있다고도 볼 수 있다. 이를 가장 확실하게 확보할 수 있는 것이 바로 인간의 개입이다.

 

LangGraph와 같은 프레임워크는 '인터럽트(Interrupt)' 기능을 제공한다. 에이전트가 송금, 파일 삭제, 메일 발송 등 행동을 하기 직전에 시스템은 실행을 일시 정지하도록 한다.

Agent: "분석 결과, A사 공급 계약을 해지하고 B사로 변경하는 이메일을 작성했습니다. 발송하시겠습니까?" Human Manager: [내용 검토 후 수정] -> [승인(Approve)]

 

이처럼 사람이 최종 확인 버튼을 눌러야만 다음 단계로 넘어가는 워크플로우는 AI를 '통제 불능의 자동화'에서 벗어나게 하는 통제 장치를 심어둔 것과 같다. 이는 신뢰 가능한 협업 도구로 만든다. 모든 판단을 AI에 맡기는 것도, 반대로 AI를 단순 보조 도구로 제한하는 것도 아닌, 사람과 AI가 각자의 강점을 발휘하는 구조다. 반복적이고 복잡한 분석과 준비 작업은 AI가 담당하고, 맥락과 책임이 요구되는 결정은 사람이 맡는다.

 

결국 Human-in-the-loop는 에이전트의 성능을 낮추는 제약이 아니라, 기업 환경에서 에이전트를 실제로 사용할 수 있게 만드는 전제 조건에 가깝다. 이 안전장치가 갖춰질 때 비로소 에이전트는 실험실을 벗어나, 조직의 일상적인 의사결정과 업무 흐름 속으로 들어올 수 있지 않을까 한다.

 

5. 결론

 

에이전틱 AI의 확산은 인간 지식 노동자의 역할을 근본적으로 변화시킬 거대한 파도이다. 지금까지 우리는 소프트웨어의 사용법을 배워서 직접 조작하는 시대에 살았다. 또한, AI에게 "좋은 답변"을 얻어내기 위해 프롬프트 엔지니어링에 집중했다. 그러나 정교한 오케스트레이션과 MCP 서버와 연결된 에이전트의 시대에, 우리는 작업을 위임하고 그 결과를 검토하는 관리자의 역할을 맡게 될 확률이 높다.   

나아가 앞으로의 AI 경쟁력은 “얼마나 똑똑한 모델을 쓰는가”에 있지 않을 가능성이 크다. 대신, 어떤 작업을 에이전트에게 맡길지 정의하고, 어떤 지점에서 인간이 개입해야 하는지를 설계하며, 에이전트의 행동이 조직의 목표와 규범을 벗어나지 않도록 관리할 수 있는 역량이 중요해질 것이다. 다시 말해, AI 시대의 핵심 역량은 프롬프트 작성 기술이 아니라 업무를 구조화하고 의사결정의 경계를 설계하는 능력이다.

 

 

참고 문헌

 

Agentic AI & Future of Work

• Bill Gates. AI-powered agents are the future of computing. GatesNotes. (The shift from bots to agents).
• Sequoia Capital. Generative AI’s Act o1: The Reasoning Era Begins. (The economic thesis for reasoning agents).
• Andrew Ng. The Batch: Agentic Workflows. (Defining the 4 design patterns of agentic workflows).

Orchestration & LangGraph

• LangChain Blog. LangGraph: Building Language Agents as Graphs. (Introduction to cyclic graph architecture).
• LangChain AI. LangGraph Persistence and Memory. (Deep dive into state management, checkpointers, and time travel).
• IBM. What is AI Agent Orchestration? (Conceptual framework for enterprise orchestration).

Connectivity & MCP

• Anthropic. Introducing the Model Context Protocol. (The official announcement and architecture of MCP).
• Model Context Protocol. Architecture & Specification. (Technical details on Host-Client-Server model).
• Google Cloud. What is Model Context Protocol? (Explaining MCP as the standard for connecting AI to systems).

Human-in-the-Loop & Safety

• LangChain Documentation. Human-in-the-loop with LangGraph. (Technical implementation of interrupts and approval workflows).