AI Agent 및 자동화로 대표되는 모던 기술 트랜드 속에서 기존의 제한적인 업무를 수행하던 Bot 들은 작은 역할에 머물거나 무시되거나 버려질 수 있습니다. 하지만 사업적인 측면은 물론 최종 사용자의 입장에서도 AI Agent 라는 큰 톱니 사이를 메워줄 효율적인 작은 톱니도 필요합니다. 본 아티클에서는 AI Agent 와 함께 업무의 효율화와 자동화를 민첩하게 완성시켜 줄 수 있는 작지만 단단한 톱니인 Bot 들을 Hybrid Framework 기술로 구현하는 방법 및 목적과 의미를 이야기하고 있습니다. 이 글을 읽고 나면 Agentic AICCAI Contact Center에서 Hybrid Framework의 필요성 및 기술적 Concept과 제안의 개요를 쉽게 습득하실 수 있습니다.

  올해는 ‘AI Agent의 해’로 불릴 만큼, 인공지능 기술이 급변하며 서비스 응용 분야에서 새로운 Agent 기반 요소기술, 모델, 표준화가 지속적으로 제시되고 있습니다. 이는 인공지능이 단순 업무 효율 향상을 넘어, 복잡한 인지 기능을 수행할 수 있는 가능성을 열어주고 있으며, 서비스 응용 분야에서 업무 처리의 완결성을 크게 향상시키고 있습니다. 즉, 단순한 정보 제공을 넘어 자율적인 문제 해결과 자동 학습을 수행하는 시대가 도래한 것입니다.

  그러나 순수한 자율 Agent가 모든 복잡한 문제를 인간의 개입 없이 완벽하게 해결하기에는 여전히 한계가 존재합니다. 예를 들어, 무한 피드백 루프에 빠질 가능성이나, 모든 상황을 처리하기 위한 방대한 계산 복잡성이 요구될 수 있으며, 예상치 못한 문제 발생 시에는 인간의 감독(Human-in-the-loop)이 필요합니다. 또한, Agent가 독립적으로 복잡한 작업을 수행할 수 있다는 이면에는, 여전히 환각 현상에 대한 대비와 목표 설정, 세부사항 조율 등을 위해 전문가의 개입이 필수적이라는 현실이 존재합니다.

  결국, Agent가 보다 넓은 범위에서 상용화되고 실제 비즈니스 환경에 적용되기 위해서는 비즈니스 환경에서 고려되는 다양한 이슈들을 체계적으로 관리하면서 이들이 단순한 독립형 시스템으로 존재하는 것을 넘어, 기존 고객에게 이미 익숙한 대화형 인터페이스인 챗봇 및 보이스봇과 상호 연계하고 인간의 감독이나 협업에도 효과적으로 통합되어 원활하게 작동하는 형태의 지능형 대화 시스템이 요구 됩니다.

이번 글에서는 이러한 환경을 ‘하이브리드 에이전트(Hybrid Agent)’로 정의하고, 그 구성과 연동 체계, 그리고 향후 진화 방향을 실제 구현 기술 관점에서 제시하고자 합니다.

  Bot 과 Agent를 종합적으로 아우르는 Hybrid Framework/Hybrid Agent 가 중요한 이유를 최종 사용자 측면에서의 사용성, 사업적인 측면에서의 효율성과 경제성, 기술적인 측면으로 나누어서 살펴보겠습니다.

  우리는 통신, 카드, 쇼핑 업계에서 발행하는, 불특정 다수를 대상으로 혜택을 제공하는 서비스 앱을 주변에서 쉽게 찾아볼 수 있습니다. 하지만 유사한 서비스를 제공하는 다수의 앱이 존재하여 선택을 망설이게 만들고, 사용자는 공급자가 제공한 서비스의 혜택을 받으려고 해도 탐색부터 설치, 개인정보 입력 등의 복잡한 설정, 활용처, 메뉴 구조 파악 등 이용 방법 습득까지 복잡한 과정을 거쳐야 합니다. 그리고 개인에게 딱 들어맞는 혜택을 제공받기도 여간 쉬운 일이 아닙니다. 사용자 개인에게 맞다고 판단되어 앱에서 터치를 하거나 기존의 챗봇과 대화를 하여도, 나이, 지역, 사용량, 기타 다양한 조건들에 의하여 실망하고 나오거나 불편한 인터페이스, 받아들이기 어려운 답변의 질에 앱을 지워버리거나 탈퇴하는 경우도 많이 발생합니다.

  이런 상황에서 Bot과 Agent 가 매끄럽게 연동되는 Hybrid Framework에서는 사용자에게 익숙한 환경을 제공하면서도, 데이터 활용성을 높여서 최종 사용자에게 매우 잘 들어맞는 서비스를 노출시킬 수 있습니다. 먼저 Hybrid Framework는 단일 창구 등 사용자에게 일관성과 예측 가능성이 주는 편안함을 느낄 수 있도록 합니다. 사용자에게 피로감을 주는 복수의 창이 번거롭게 열리거나, 다른 스타일의 UI를 주지 않고 Single UI를 바탕으로 하여 원하는 답을 찾아가는 시스템과의 소통 비용(Communication cost)를 대폭 줄일 수 있습니다.

  또 다른 장점으로는 기존의 단편적이고 건조한 답변에서 정교화된 맞춤형 답변 서비스를 받을 수 있다는 점입니다. 상품, 혜택 등 초개인화 고객 맞춤 추천을 목표로 하고 있는 K 통신사의 최근 고객 경험 앱의 예를 든다면, Hybrid Framework은 기존의 레거시가 주로 담당하는 인구 통계학에 바탕을 둔 서비스와 단순 규칙 기반의 서비스뿐만 아니라, LLM 기반의 AI Agent가 관여하는 요금 조회, 납부, 멤버십, 혜택의 데이터, 그리고 과거의 사용자 로그를 복합적으로 분석하여 개별 최적화된 맞춤형 답변과 추천 서비스를 가능하게 합니다. 서로 다른 영역간 Collaboration이 가능하다는 이야기는 사용자를 위하여 복잡한 과제를 수행할 수도 있다는 이야기이기도 합니다. 과거 머리를 긁적이며 수 분 걸리던 나에게 맞는 서비스나 세부 내역 찾기는 이제 단 몇 초 만에 오차 없이 처리될 것이고 이것이 Hybrid Framework의 단면입니다.

  금융이나 민감한 개인정보 데이터가 오가는 서비스인 경우는 어떨까요? AI Agent만으로 작동하는 경우, 환각(Hallucination)이나 오류에 대한 영향도가 높거나 예민한 서비스들을 마주하기가 곤란할 수밖에 없습니다. 이런 경우에도 데이터 및 업무 흐름의 적정성이 검증된 Bot을 활용하는 Hybrid Framework은 사용자에게 서비스 제공과 안전성의 균형을 담보할 수 있도록 도와줍니다.

  은행, 카드 등 금융계에서도 단순히 AI의 단편적인 서비스를 외부에서 공급받는 것을 넘어서 생성형 AI 로 고객 경험과 생산성 향상을 동시에 만족하려는 트랜드가 이어지고 있습니다. 많은 금융사의 관계자들이 AICC의 활용과 확장을 검토하고 있지만 현실적으로 넘어서야 하는 장벽이 있습니다. 무엇보다도 AI Agent 가 고립되지 않고 기존의 사내 업무 시스템 및 외부 서비스와 Seamless 하게 통합이 되어야 한다는 점입니다. 이 부분이 해소되어야 AICC가 고객 경험 생태계(CX Ecosystem)의 주연이 되면서, 생산성을 향상하면서도 신뢰성을 유지할 수 있습니다. 메이저 금융사인 S사의 경우, 고객이 사용하는 다양한 채널을 통한 접근을 소화하고, 사내에 쌓인 지식/고객 정보와 기간계를 연동해야 하는 과제를 안고 있습니다.

  표준화된 Hybrid Framework은 이러한 문제에 대한 좋은 해답을 가지고 있습니다. 하나의 과업만을 수행하는 Bot/Agent를 넘어, 다양한 의도를 파악하고 할당하는 Orchestration과 협업도구의 연결성MCP,A2A,Automation을 제공하여 AI Agent를 포함한 통합 업무 환경 및 전후방 업무의 자동화를 가능하게 합니다. 뿐만 아니라, 특정 분야에 강점을 지니는 레거시 Bot의 재활용성을 높일 수 있는 구조를 가지고, 신속한 개발과 배포를 가능하게 합니다. 이 부분은 표준화와 함께 명확한 기능의 분담으로 개발과정의 비효율성을 줄여주어 개발 및 유지 보수의 TCO(Total Cost of Ownership) 절감에도 기여합니다. 현실적으로 급변하는 비지니스 환경에서 Agent로 모두 전환할 필요도 없고, Bot 등 레거시 자산을 최소의 비용과 노력으로 지능적으로 처리할 수 있는 효율적인 인터페이스가 중요한 것이라, 사업자 입장에서도 전술한 바와 같이 비용 효율적인 사업에 이득을 기대할 수 있겠습니다.

  미래에 기대할 수 있는 또 다른 강점은 Agent가 매우 많아졌을 때에도 생각해볼 수 있습니다. 명확한 구조와 표준화로 전체적인 가시성을 확보할 수 있고 Agent의 실질적인 효과성의 검증으로 도태되는 Agent도 찾아내어 합리화할 수 있으며, 성능 개선에서도 기대를 할 수 있습니다. S사의 경우 초기 AI 서비스는 높지 않은 성능과 비효율적인 구조로 완결적인 업무 처리로 이어지기가 어렵고, 그로 인해 대면 창구로 안내하는 비효율적 상황이 발생하였습니다. 이 경우에도 RAG (Retrieval Augmented Generation), CRM (Customer Relationship Management), Bot과 연동되는 Multi-Agent 기반의 Framework는 대화의 흐름을 조율하면서 개인의 성향에 맞는 금융상품안내, 상황별 맞춤형 대출, 자산 관리, 절세 방안 등 최적점을 찾아갈 수 있습니다.

  Hybrid Agentic Framework는 Orchestrator Layer를 중심으로 전체 대화 흐름을 <그림 1>과 같이 통합적으로 제어하는 구조로 설계할 수 있습니다.

그림1. 전체 대화 흐름의 통합 제어 개념도

  이 구조에서는 사용자의 입력(음성, 텍스트 등)과 출력을 다양한 채널에서 수신·전달하는 Multi-Channel Gateway가 프론트엔드 역할을 하며, Orchestrator Layer가 입력과 출력을 모두 한 곳에서 처리하면서 대화 세션과 컨텍스트를 지속적으로 관리합니다. 사용자의 입력이 들어오면, 먼저 Intent Classification Service가 데이터를 분석해 의도, 엔티티, 감정 등을 추출하고, 이를 바탕으로 Routing & Orchestration Service가 적합한 처리 엔진(예: AI Agent, 시나리오 봇, 외부 도구 등)으로 분기하여 워크플로우를 오케스트레이션합니다. 외부 서비스 연동이 필요한 경우에는 Protocol Integration Layer가 호출되어, MCP, A2A, ACP(Agent Communication Protocol)등 표준화된 프로토콜을 통해 외부 서비스와의 통신을 중계하게 됩니다. 이 과정에서 메시지 포맷 변환, 인증, 오류 처리, 로깅 등 연동 표준화가 일관되게 이루어집니다.

  실제 업무 처리는 Scenario Bot Engine, AI Agent, 그리고 External Tool에서 이루어집니다. Scenario Bot Engine은 시나리오 기반의 대화 흐름과 예측 가능한 응답을 담당하며, AI Agent는 LLM, RAG 등 고도화된 자연어 이해 및 생성, 복합 질의와 추론, 도구 활동 등을 수행합니다. External Tool은 외부 API, 데이터베이스, 업무 시스템, 레거시 시스템 등과의 연동을 맡습니다. 모든 대화 세션별 컨텍스트와 이력, 사용자 상태 등은 Session/Context Store에 저장되어, 실시간 개인화와 연속 대화, 후처리 자동화 등에 활용됩니다. 또한, Monitoring & Feedback Service를 통해 대화 품질을 모니터링하고, 결과 피드백 및 지속적인 개선이 가능하도록 지원합니다.

  각 컴포넌트 간 연동은 Protocol Integration Layer에서 표준화된 프로토콜(MCP, A2A 등)을 통해 처리됩니다. 모든 연동 메시지는 구조화된 JSON 포맷을 사용하며, protocol_version, request_id, timestamp, source_agent, target_agent, action, payload, metadata 등 공통 필드를 포함합니다. 예를 들어, 고객 정보를 조회하는 요청은 아래와 같은 형태로 전달될 수 있습니다.

그림2. 고객 정보 조회 요청 예

  통합 연동 처리 플로우는 다음과 같이 진행됩니다. 우선, Protocol Integration Layer에서 외부 또는 내부 컴포넌트로부터 표준 메시지를 수신합니다. 이후, 메시지의 protocol_version과 action을 기준으로 MCP, A2A, ACP 등 해당 핸들러로 라우팅하며, 각 프로토콜별로 사전 정의된 스키마와 인증 로직을 적용합니다. 액션 실행 단계에서는 대상 봇, 에이전트, 도구 등에 표준 메시지로 요청을 전달하고 결과를 수신합니다. 처리 과정에서 발생하는 오류는 표준화된 에러코드와 트레이스 ID, 상태 코드로 일관되게 관리되며, 최종적으로 결과 메시지는 통일된 포맷으로 변환되어 반환됩니다. 이러한 구조에서는 신규 프로토콜을 추가할 때 핸들러와 스키마만 등록하면 되므로 전체 연동 구조에 미치는 영향을 최소화할 수 있습니다. 또한, JWT, OAuth2 등 토큰 기반 인증, 메시지 암호화, 접근제어 정책 적용 등 보안 요구사항도 유연하게 대응할 수 있습니다.

  이와 같은 Hybrid Agentic Framework 아키텍처를 적용하면 여러 가지 기술적 장점을 확보할 수 있습니다. 첫째, Orchestrator Layer에서 Scenario Bot과 AI Agent 두 엔진의 결과를 통합·관리함으로써 고객 경험의 연속성과 일관성을 보장할 수 있습니다. 둘째, MSA 아키텍처와 표준 프로토콜, 통합 연동 규격을 통해 새로운 시스템이나 툴을 쉽게 추가할 수 있어 확장성이 뛰어납니다. 셋째, 결과물의 품질 검증과 컨텍스트 동기화가 중앙에서 이루어지기 때문에 서비스 품질과 일관성을 유지할 수 있습니다. 마지막으로, 모든 연동과 데이터 흐름을 중앙에서 통제할 수 있어 보안 및 규정 준수 측면에서도 매우 유리합니다.

이처럼 Hybrid Agentic Framework는 대규모 AICC 환경에서 다양한 AI 및 자동화 엔진, 외부 시스템과의 유연한 연동과 고품질 대화 경험을 동시에 실현할 수 있는 강력한 기술적 기반을 제공합니다.

  하지만 Hybrid Agentic Framework 구조를 도입한다고 해서 시나리오 봇이 본질적으로 지닌 유연성 부족과 고객 경험 저하라는 현실적인 문제를 완전히 해결할 수 있는 것은 아닙니다. 시나리오 기반 챗봇은 미리 정의된 대화 흐름에 따라 작동하기 때문에, 예상하지 못한 질문이나 새로운 요구에 대해 즉각적이고 유연하게 대응하는 데 한계가 있습니다. 실제로, 고객의 다양한 문의에 대해 반복적인 폴백 답변만 제공하거나, 변화하는 비즈니스 환경에 맞춰 지속적인 시나리오 업데이트가 필요하다는 점에서 고객 경험이 저하될 수 있습니다.

  따라서 시나리오 봇의 자체 구조 역시 기존의 선형적 구조에서 벗어나 Agentic 구조로의 개선이 필요합니다. Agentic 구조를 적용하면, 시나리오 봇도 대화 흐름을 동적으로 조정하고, 외부 데이터나 다양한 도구와 연동해 보다 유연하고 확장성 있는 대응이 가능해집니다.

실제 현장에서 시나리오 봇의 한계를 극복하기 위해 두 가지 방식으로 아키텍처를 개선해 보았습니다. 첫 번째로, 고객이 문의할 때 API 호출을 위한 정보 반영, 분기, 간단한 요약 처리 등 다양한 작업을 별도의 추가 학습 없이도 LLM 연동을 통해 쉽게 처리할 수 있도록, 봇 시나리오 저작 도구에 LLM 노드를 확장하여 적용했습니다. 이를 통해 운영자는 복잡한 엔지니어링 없이도 LLM의 자연어 이해 및 생성 능력을 시나리오 내에서 직접 활용할 수 있게 되었고, 고객의 다양한 요구에 더 유연하게 대응할 수 있었습니다.

그림3. Bot 시나리오 저작 도구에 LLM 노드를 확장 적용

3. 정리하자면, 이제야 다 연결되는 느낌이죠? ^(Conclusion)

4. 앞으로는 어디로 가나요? ^{(Future Works)}

5. References

이 글의 작성 과정에서 AX서비스플랫폼담당의 많은 분들(특히 기철님, 근임님, 수용님, 윤재님)께서 도와주셨기에 '제출' 버튼을 세게 누를 수 있었음을 알려드립니다.