KT의 자체 개발 AI 모델 “믿:음 K(Mi:dm K)”가 글로벌 AI 모델들의 성능을 객관적으로 비교 평가하는 지표 AAII(Artificial Analysis Intelligence Index)에 등재되며, 40B 이하 규모의 국내 중소형 모델 중 최고 수준의 성능을 입증했습니다.

이번 Tech Dive에서는 '믿:음 K'가 글로벌 성능평가 플랫폼 상위권에 이름을 올리기까지 여정과, 그 과정에서 축적된 KT만의 모델 학습 노하우 및 성능 향상 기술을 깊이 있게 다뤄보고자 합니다.

1. 글로벌 AI의 격전지, AAII 등재의 의미

AAII(Artificial Analysis Intelligence Index)는 글로벌 AI 평가 전문 기관인 Artificial Analysis가 운영하는 종합 지표입니다. AAII는 특정 기업에 치우치지 않는 독립적인 위치에서 지식, 추론, 수학, 프로그래밍 등 10여 가지 전문 벤치마크 항목과 더불어 속도와 비용 등 사용자 관점에서 종합적인 AI 모델의 장단점을 객관적으로 평가합니다. 이러한 철저한 검증 방식 덕분에 AAII는 글로벌 시장에서 모델의 가치를 판단하는 가장 신뢰할 만한 기준 중 하나로 자리매김하고 있습니다.

그림1. Artificial Analysis Intelligence Index, v3.0 기준

• 에이전틱 AI(Agentic AI) 부문 독보적 성적: 실제 업무 환경에서의 과업 수행 능력을 측정하는 τ²-bench(타우 스퀘어 벤치)에서 87%라는 높은 점수를 기록했습니다. 이는 글로벌 탑티어 모델인 Gemini 3와 어깨를 나란히 하는 수준입니다.
  
  

• 고난도 추론 지표 상위권: MMLU Pro, GPQA, HLE 등 전문 지식과 논리적 추론이 필요한 영역에서 치우침 없이 고르게 우수한 성능을 입증했습니다.
  
  

• 40B 이하 모델 중 최고 성능: 국내 매개변수 40B 이하급 모델 중 종합 성능 점수 1위를 달성하며, 효율성과 지능을 동시에 확보했음을 증명했습니다.

2. 믿:음 K 라인업의 완성

KT는 지난 2025년 7월, 자체 개발한 한국적 AI 모델 믿:음 K 2.0 모델을 공개했습니다. 한국의 정신과 사고방식, 그리고 한국의 지식과 문화를 충분히 학습해 한국 사람들을 더 잘 이해하고 자연스러운 소통이 가능한 Base모델(11.5B)과 Mini모델(2.3B)을 연구, 실험 및 상업적 목적으로도 제한 없이 사용 가능한 오픈소스로 출시했습니다. 그리고 마침내, 모델 구조의 개선 및 Mid-training을 거친 2.5 버전을 완성했습니다.

믿:음 K 2.5 Pro 모델의 특징

• 모델 스케일링 및 아키텍처 확장 :기존 믿:음 K 2.0 Base모델(11.5B) 대비 약 3배 확장된 32B 규모로 모델 파라미터를 확장하여 지식 밀도 및 추론 성능을 극대화했습니다. 모델이 확장된 만큼 Context Window를 128K 토큰으로 확장(기존 32K)하여 장문의 프롬프트 및 초장문 문서(Long-context)에 대한 분석 및 정보 추출 성능을 높였습니다. 이는 한글 문서 약 300~400 페이지 분량에 해당하는 문서를 다룰 수 있는 성능입니다.
  
  

• 다국어 지원 범위 확대(Quadrilingual) : 기존 한국어-영어의 Bilingual 체계에서 일본어와 중국어를 추가한 4개 언어에    대한 학습을 완료했습니다. 각 언어 별로 선별된 고품질 데이터를 활용하여 해당 언어의 고유한 문맥과 각국의 문화적 특성을 반영하는 수준을 목표로 개발했습니다.

• 데이터 거버넌스 및 고도화된 전처리 :K 데이터 얼라이언스 등 공공 및 민간 부문과의 광범위한 파트너십을 통해 일반적인 웹 상에서 수집이 어려운 독점적 도메인 데이터(Proprietary Domain Data)를 확보하고, 정밀한 데이터 큐레이션 파이프라인과 품질 필터링을 거쳐 모델을 학습하기 위한 고품질 데이터셋을 구축하였습니다. 이 데이터셋은 외산 모델이 따라오기 힘든 독보적인 한국어 이해도 및 현지 맥락 생성 능력을 보장합니다.
  
  

• SFT 스타일 가이드 및 페르소나 일관성 :믿:음 K 2.5 Pro 모델의 사용자 경험(UX)을 극대화하기 위해 독자적인 응답 스타일 가이드(Response Style Guide)를 정의했습니다. 미세 조정(SFT) 과정에서 답변의 구조적 안정성, 톤앤매너, 페르소나의 일관성을 강화하여 사용자 요구에 부합하는 정교한 지시 이행(Instruction Following) 능력을 구현했습니다.
  
  

• 정교한 사후학습(Post-training) 기법 :사전 학습 이후의 단계를 세분화하여 각 단계별로 목적에 최적화된 Reward Design 및 하이퍼파라미터 튜닝을 수행했습니다. 이를 통해 과적합(Overfitting) 및 발산(Divergence) 방지와 치명적 망각(Catastrophic Forgetting) 억제 등 학습의 불확실성을 줄여 모델을 강건하게 만드는 학습 안정성을 확보하였습니다. 또한 모델 병합(Model Merging) 기술을 도입하여 개별적으로 학습된 모델 Branch를 통합 함으로써 높은 성능과 학습 효율성의 두 마리 토끼를 모두 잡도록 설계했습니다.

3. 한국 기업 환경에 최적화를 위한 고성능 학습 전략

KT는 한국 기업 환경에 최적화된 가장 한국적인 AI를 만들기 위해 노력했습니다. 믿:음 K 2.5 Pro 모델은 보고서 작성, 문서 요약, 데이터 분석, 고객 응대 등 실무 현장에서 즉시 활용 가능한 시나리오에 대응할 수 있도록 개발되었습니다.

그림2. 믿:음 K 2.5 Pro와 주요 모델들의 핵심 역량 비교

^{Model 핵심 기술 01}

고품질 한국어 학습 데이터 추가 확보

• 믿:음 K 2.5 Pro는 공개 한국어 데이터뿐만 아니라 K 데이터 얼라이언스를 통한 공식 협력으로 확보한 한국어 특화 고품질 데이터를 대거 반영했습니다. K 데이터 얼라이언스는 한국의 언어·문화·지식 맥락을 정확히 반영한 신뢰할 수 있는 데이터를 구축·공유하기 위해 공공, 학계, 언론, 교육 등 각 분야 대표 기관이 참여하는 협력 네트워크입니다. 이러한 협력을 통해 각종 문제 풀이, 신문 기사, 한국학 전문 자료 등 한국어의 언어적, 사회문화적 특성이 반영된 양질의 데이터를 확보하여 모델 학습에 반영함으로써, 한국 사회와 문화적 맥락이 자연스럽게 녹아든 한국어 이해·생성에 특화된 언어 모델을 구현했습니다. 특히 한국 경제·금융 용어, 국내 문화·공공 정보 등 한국 고유 맥락이 강하게 반영된 데이터를 포함해, 맥락 의존적 지식 추론과 문화적 일관성을 한층 강화했습니다.
  
  

• 다국어 지원 확대: 믿:음 K 2.5 Pro는 일본어와 중국어 학습 데이터를 추가 학습하여, 영어와 한국어를 지원하던 Bilingual 믿:음 K 2.0 Base 모델을 4개 국어를 지원하는 Quadrilingual 모델로 확장했습니다. 이에 따라 동아시아 주요 언어를 포함한 다국어 환경에서도 모델 활용이 가능해졌습니다.
  
  

• 전문 도메인 특화 데이터 보강: 확보된 원천 데이터를 기반으로 합성 데이터 생성을 통해 STEM, Code, Agent 등 전문 도메인에 특화된 고품질 학습 데이터를 추가 확보함으로써, 수리·논리·절차적 추론 능력과 실사용 중심의 문제 해결 성능을 체계적으로 강화했습니다. 이러한 전문 도메인 데이터 확장은 특정 태스크에 치우치지 않는 범용 추론 성능의 안정화를 목표로 설계되었습니다.

이와 같은 데이터 체계의 고도화는 믿:음 K 2.5 Pro가 도메인 전문성, 추론 능력, 그리고 학습 안정성 측면에서 믿:음 K 2.0 대비 유의미한 성능 향상을 이루는 근간이 되었습니다. 이를 통해 한국어 및 전문 영역에서의 일관된 고성능과 범용 추론 성능의 안정화를 동시에 달성했습니다.

^{Model 핵심 기술 02}
믿:음 K 응답 스타일 정립을 위한 SFT Response Writing

한국 사용자에게 자연스럽고 신뢰감 있는 응답을 제공하기 위해서는 한국적 표현과 말투와 더불어 행정구역, 기관명, 관용 표현 등 한국어 맥락에서 자주 등장하는 지식과 응답 방식을 일관되게 반영해야 합니다. 믿:음 K 2.5 Pro는 이러한 요구를 충족하고 ‘한국적 응답 품질’을 강화하기 위해 SFT 데이터 체계를 전반적으로 개선하였습니다.

• 믿:음 K 응답 스타일 가이드 수립: 기존 SFT 데이터는 데이터 원천과 구축 주체가 다양하여, 동일한 유형의 질의에 대해서도 답변 길이, 문체, 어조, 페르소나가 일관되지 않는 문제가 있었습니다. 이러한 편차는 사용자 경험 측면에서 응답 품질의 신뢰성을 저하시킬 수 있는 요인으로 작용합니다. 이를 해결하기 위해 믿:음 K 고유의 응답 스타일 가이드를 정의하였으며, 다음의 세 가지 핵심 원칙을 설계에 반영하였습니다. 1. 자율적 일관성: 명시적인 지시(Instruction)가 없는 경우에도 모델 스스로 일관된 응답 구조를 선택합니다. 2. 충실한 정보 전달: 답변의 목적에 부합하는 충분한 길이와 논리적인 구조를 유지합니다. 3. 안정적인 페르소나: 동일한 페르소나와 답변의 톤을 유지하여 사용자에게 통일된 경험을 제공합니다.

• 믿:음 K 응답 스타일 가이드에 따른 SFT Response Writing: 태스크의 특성에 따라 Response Writing의 범위를 선별적으로 설정하여 적용했습니다. 질의응답, 텍스트 생성, 이해·분석 등 사용자 경험에 직접적인 영향을 미치는 일반 태스크를 중심으로 가이드를 반영했습니다. 코드·수학·벤치마크·에이전트·안전 등 정확성과 제약 이행이 우선되는 전문 태스크는 품질 저하를 방지하기 위해 제외하고, 특정 형식이나 제약이 명시된 경우에는 스타일 가이드보다 사용자 의도를 우선하도록 설계했습니다.

SFT 데이터 고도화를 통해 믿:음 K 2.5 Pro는 사용자 지시가 명확하지 않은 상황에서도 응답의 길이, 톤, 페르소나의 편차를 효과적으로 최소화했습니다. 이는 실제 서비스 환경에서 사용자에게 한층 더 안정적이고 일관된 사용자 경험을 제공할 수 있는 모델 구현의 밑바탕이 되었습니다.

^{Model 핵심 기술 03}
단계적 Context 길이 확장과 자동화된 데이터 혼합을 통한 Long Context 학습

 실제 서비스 환경에서는 장문의 문서 이해, 다중 문서 추론, 긴 대화 맥락 유지 등 Long Context 처리 능력이 필수적입니다. 믿:음 K 2.5 Pro는 이러한 요구를 충족하기 위해 사전학습 마지막 단계에서 Long Context 학습을 집중적으로 수행했으며, 그 결과 믿:음 K 2.0의 32K 입력 길이 대비 4배 증가한 128K로 토큰 처리 능력을 확장하였습니다.

표1. 믿:음 K 2.5 Pro 모델의 단계적 context 길이 확장 중간 성능 비교

• 단계적 context 길이 확장: 믿:음 K 2.5 Pro는 사전학습 최종 단계에서 단계적 확장 전략 [2]을 적용하여, 기존 32K였던 context window를 128K까지 대폭 확대했습니다. 학습 리스크를 최소화하고 수렴 특성을 안정화하기 위해 입력 길이를 4,096(4K) → 32,768(32K) → 65,536(64K) → 131,072(128K) 토큰으로 총 3단계에 걸쳐 순차적으로 확장했습니다. 표1에서 알 수 있듯이 context 길이를 단계적으로 확장할수록 모델의 장문 이해 성능을 평가하는 RULER 지표가 점진적으로 개선되었습니다. 특히 128K까지 학습한 모델은 GPQA-Diamond와 RULER에서 일관되게 높은 점수를 기록하며 단계적 확장 전략의 효과를 확인할 수 있습니다.

• RegMix 기반 자동화된 데이터 혼합(Data Mixture): 다양한 도메인이 혼재된 학습 환경에서 사람의 직관이나 휴리스틱(Heuristic)에 의존하는 방식은 일관성과 확장성에 한계가 있습니다. 믿:음 K 2.5 Pro는 이를 해결하기 위해 RegMix [3] 기술을 도입했습니다. RegMix는 프록시 모델(Proxy Model)의 성능을 기반으로 최적의 데이터 혼합 비율을 회귀적으로 추정하는 자동화된 데이터 믹싱 전략을 제공합니다. 믿:음 K 2.5 Pro는 Long Context 학습 과정에서 Math, Code 중심의 Reasoning 데이터 비중을 RegMix로 최적화하여, 향후 post-training 성능 향상을 위한 학습 기반을 강화했습니다.

이와 같은 단계적 context 확장과 자동화된 데이터 혼합을 통해 믿:음 K 2.5 Pro는 성능의 저하 없이 장문 이해와 다중 문서 추론 등 복잡한 Long Context 시나리오에 효과적으로 대응할 수 있는 성능을 확보했습니다.

^{Model 핵심 기술 04}
Reasoning 능력 강화를 위한 SFT 학습

대규모 언어 모델이 고차원적인 추론 능력을 갖추기 위해서는 단순히 정답을 생성하는 것을 넘어 문제를 해결하는 논리적 과정 자체를 학습해야 합니다. 믿:음 K 2.5 Pro는 이를 위해 Reasoning에 특화된 SFT 파이프라인을 설계하고 모델이 보유한 지식을 바탕으로 올바른 추론 경로를 생성하는 능력을 집중적으로 학습했습니다.

• 고품질 Reasoning 데이터셋 구축: Math, Code, STEM 등 복합적인 사고가 요구되는 태스크를 중심으로 다양한 모델에서 생성된 추론 경로(Reasoning Trace) 데이터를 수집했습니다. 특히 데이터의 질을 확보하기 위해 반복 표현, 부적절한 줄 바꿈, 언어 혼용 등을 기준으로 엄격한 필터링 과정을 거쳐 추론 학습에 최적화된 고품질 데이터셋으로 정제했습니다.
  

그림3. Reasoning SFT 데이터의 도메인별 Reasoning trace 길이 그래프

• Long Context 기반 Data Packing 전략: 그림3은 Reasoning SFT 데이터의 도메인별 Reasoning trace 길이 분포를 보여줍니다. 학습 데이터의 trace 길이가 수백 토큰부터 최대 64K까지 넓게 분포하는 특성을 고려하여 학습 효율 향상을 위한 Data Packing 전략을 적용했습니다. Packing 미적용 시 pad token 비중 증가로 학습 효율이 저하될 수 있어서 동일한 source에서 생성된 데이터를 대상으로 best-fit packing을 통해 64K 길이에 맞춰 구성했습니다. 그 결과로 약 90% 수준의 데이터 압축률을 달성하여 학습 시간과 자원 효율을 크게 개선했습니다.
  
  

• 2단계 Reasoning SFT 학습 전략: Reasoning 성능의 전문성과 범용성을 동시에 확보하기 위해 학습 과정을 두 단계로 나누어 진행했습니다.
   1️⃣ 1차 학습 (Foundational Reasoning): Math, Code, STEM 데이터를 활용해 모델의 기초적인 논리 및 추론 능력을 강화했습니다.  2️⃣ 2​차 학습 (Task-oriented Specialization): 각 태스크에 특화된 모델들을 개별 학습시킨 후, 모델 병합(Model Merge) 기술 [4] 을 통해 단일 모델에 각 분야의 전문성을 집약했습니다. 모델 병합 및 학습 과정의 안정성을 위해 전 단계에 WSD(Warmup-Stable-Decay) 학습률 스케줄러를 적용했으며, 배치(Batch) 단위에서 특정 데이터가 편중되지 않도록 데이터 비율 기반 블렌딩(Blending) 전략을 사용하여 균형 잡힌 성능을 구현했습니다.

이러한 두 단계 SFT 파이프라인을 통해 믿:음 K 2.5 Pro는 복잡한 수리적 문제나 코드 구현, 다단계 논리 추론이 필요한 상황에서도 안정적인 문제 해결 능력을 갖추었습니다.

^{Model 핵심 기술 05}
Reasoning 모델 학습을 위한 RL 과정 설계 및 학습 최적화

표2. Colocate Synchronous, Fully Asynchronous의 학습 속도 비교

• Verifiable Reward 기반 Reasoning RL 학습: Reasoning RL 단계에서는 긴 reasoning sequence를 안정적으로 학습하기 위해서 token 단위 최적화의 불안정성을 완화할 수 있는 GSPO(Generalized Sequence Policy Optimization) [5] 알고리즘을 적용했습니다. GSPO는 sequence 단위 정책 최적화를 통해 긴 추론 과정에서 발생하는 reward 편중과 학습 불안정성을 효과적으로 제어합니다.이와 함께 RLVR(Reinforcement Learning with Verifiable Reward) 접근 방식을 적용하여 정답의 정확도뿐만 아니라 검증 가능한 결과를 기준으로 보상을 설계했습니다. Reward는 reasoning trace를 제외한 최종 답변 기준으로 계산되며 Math, Code, STEM, Instruction Following, Structured Output 등 태스크 특성에 맞는 검증 로직을 사용해 신뢰성을 확보했습니다. 모든 reward는 정규화하여 특정 sequence에 보상이 과도하게 집중되는 현상을 방지했습니다.
  
  

• Fully Asynchronous RL을 통한 GSPO 학습 속도 최적화:대규모 reasoning RL 학습에서는 rollout 생성과 모델 업데이트를 순차적으로 수행하는 synchronous 방식에서 생성 길이 편차로 인한long tail 문제가 발생해 학습 효율이 저하될 수 있습니다 [6]. 이를 해결하기 위해 믿:음 K 2.5 Pro는 Trainer와 Rollouter를 분리한 Fully Asynchronous RL 구조를 적용했습니다. Rollouter는 최신 정책을 기반으로 샘플을 지속 생성하고, Trainer는 이를 비동기적으로 학습함으로써 rollout 생성과 모델 업데이트를 병렬화했습니다. 그 결과로 GPU 활용률이 개선되었으며 synchronous 방식 대비 학습 throughput이 약 30% 향상되었습니다.

이와 같은 고도화된 RL 설계를 통해 믿:음 K 2.5 Pro는 정답의 정확도는 물론 추론 과정의 효율성과 일관성까지 갖춘 강력한 Reasoning 모델로 거듭났으며, 다양한 Reasoning 도메인에서 SFT 모델 대비 유의미한 성능 향상을 이뤄냈습니다.

4. Agentic AI 시대의 도래

시대의 흐름: Generative AI에서 Agentic AI로

최근 1~2년 사이 AI 기술의 패러다임이 급격하게 변화하고 있습니다. 단순히 질문에 답하고 이미지를 만들어내는 생성형 AI(Generative AI)의 단계를 지나서 스스로 목표를 설정하고 도구를 사용해 과업을 수행하는 Agentic AI가 주목받고 있습니다. 2026년은 Agentic AI가 실제로 산업 현장에서 역량을 발휘할 것으로 기대되는 해입니다. 수많은 기관들이 Agentic AI를 기술 트렌드의 핵심으로 주목하며 많은 기대를 드러내는 이유는 무엇일까요?

• 멀티 에이전트 시스템(MAS)
  하나의 AI가 모든 일을 하는 것이 아니라 전문 분야를 가진 다수의 AI가 각각 업무를 담당하여 협업하는 조직형 AI 구조가 표준이 되고 있습니다. 요금 상담 에이전트, 기술 지원 에이전트, 결제 에이전트 등 다양한 에이전트가 하나의 시스템으로 통합되어 사용자에게 완성된 서비스를 제공합니다.
  
  

• 표준 프로토콜
  AI 에이전트 간의 통신을 위한 MCP(Model Context Protocol) 등이 표준화되면서 서로 다른 제조사의 에이전트들이 협업할 수 있는 환경이 조성되었습니다.
  
  

• 성능 지표의 변화
  기존 데이터셋 중심의 지식 벤치마크 점수보다 실제 산업 환경에서의 문제 해결 능력을 평가하는 에이전틱 지표가 대두되며, AI 모델의 실제 성능을 가늠하는 척도로 떠오르고 있습니다.

Generative AI vs. Agentic AI : 말하는 AI에서 행동하는 AI로

Generative AI가 뛰어난 지식 전달자였다면, Agentic AI는 실무를 대신 수행하는 자율적 대리인이라고 볼 수 있습니다. 두 기술의 본질적인 차이는 자율성(Autonomy)과 실행력(Actionability)에 있습니다.

표3. Generative AI와 Agentic AI의 핵심 특성 비교

Agentic AI를 지탱하는 핵심 역량

• 추론 및 계획(Reasoning & Planning): 복잡한 목표를 받으면 이를 실행 가능한 작은 단위의 작업(Sub-tasks)으로 분해하는 Task Decomposition 능력이 중요합니다. CoT(Chain-of-Thought) 기술을 넘어 각 단계의 결과를 스스로 검토하고 계획을 수정할 수 있어야 합니다.
  
  

• 도구 활용 및 행동(Tool-use & Action): 단순히 텍스트를 출력하는데 그치치 않고 외부 API를 호출하여 이메일을 발송하고, 데이터베이스를 조회하며, 결제 시스템에 접근하는 등 디지털 도구를 직접 조작할 수 있어야 합니다.
  
  

• 메모리와 피드백 루프(Memory & Feedback Loop): 과거의 행동을 기억하고 실패했을 경우 이를 분석하여 실패 원인을 찾아내 다음 행동에 반영할 수 있는 reflection 과정을 통해 모델은 실시간으로 진화할 수 있어야 합니다.

5. 믿:음 K 2.5 Pro, 글로벌 최고 수준 Agentic index 달성

“믿:음 K 2.5 Pro”의 AAII 등재에서 가장 주목할 점은 “에이전틱 AI”로서의 잠재력입니다. 단순히 사용자의 질문에 답하는 수준을 넘어 스스로 목표를 이해하고 필요한 시스템이나 도구를 활용해 과업을 완수하는 능력이 월등히 뛰어납니다.

τ²-Bench Telecom (Agentic Tool Use)

τ²-bench는 단순한 질의응답 성능을 넘어 AI가 실제 업무 환경에서 도구를 사용해 복잡한 과업을 완수하는 Agentic AI 역량을 측정하는 최신 글로벌 벤치마크입니다. 실제 비즈니스 환경을 시뮬레이션하기 위해 가장 복잡한 고객 응대 프로세스를 가진 Telecom(통신) 분야와 Retail(유통) 분야를 핵심 도메인으로 채택하고 있습니다.

(유통은 규정 준수 및 동적 재고 관리에 집중하는 반면, 통신은 기술적 문제 해결에 집중)

• τ²-Bench Telecom은 실제 통신 서비스 문제를 해결하기 위해 상담원과 사용자가 협력해야 하는 기술 지원 시나리오를 정밀하게 시뮬레이션한 이중 제어(Dual-Control) 대화형 AI 벤치마크입니다.

• 기존 벤치마크들의 질문에 대한 답변을 받는 방식과 달리 AI 에이전트와 사용자(시뮬레이터)가 동시에 환경을 제어하는 역동적인 상황을 평가합니다.

• 상담원이 사용자에게 기술적인 문제 해결 과정을 안내하는 능력을 평가하며, 사용자는 수동적인 존재가 아니라 AI의 지시에 따라 능동적으로 협력해야 합니다.

믿:음 K 2.5 Pro가 달성한 87%의 수치는 Gemini 3 등 글로벌 최정상급 AI 모델들과 대등한 수준입니다. 이는 단순 실험에 그치지 않고, 실제 통신사 고객 센터나 기업용 내부 에이전트로 투입되어도 복잡한 API 연동과 고객 응대를 수행할 수 있음을 의미합니다. 또한, 40B 이하의 상대적으로 작은 모델로 글로벌 수준의 지능을 구현했다는 것은 기업들이 저비용 고성능으로 독자적인 AI 에이전트를 구축할 수 있는 발판을 마련한 것입니다.

^{Agentic 핵심 기술 01}
Agentic AI 구현을 위한 데이터셋 구축

Agentic AI가 실제 사용자 환경에서 자율적으로 작업을 수행하기 위해서는, 단일 응답 생성 능력을 넘어 대화의 흐름 속에서 사용자의 의도를 지속적으로 이해·갱신하고, 그 판단에 따라 적절한 행동을 선택·실행하는 능력이 요구됩니다 [8,9]. 이러한 의사결정 과정은 대화가 진행됨에 따라 목표가 구체화되거나 변경되는 상황을 포함하며, 경우에 따라 외부 도구(tool)를 활용한 정보 획득과 작업 수행으로 이어집니다.

그러나 한국어 사용자 환경에서는 간접 표현, 생략, 맥락 의존적 발화가 빈번하게 발생하는 반면에 기존 Tool-Use 및 대화 데이터셋은 대부분 영어 중심이며 단일 턴(single-turn) 구조에 편중되어 있습니다. 이로 인해 실제 사용자 환경에서 요구되는 의도 추적, 문맥 기반 판단, 도구 사용 여부 결정과 같은 agent 역량을 충분히 학습하기가 어렵다는 한계가 있습니다. 믿:음 K 2.5 Pro는 한국어 사용자 환경의 특성과 실제 사용 패턴을 반영하기 위해서 한국어 기반 멀티턴·Tool-Use 데이터셋을 구축하고 이를 모델 학습에 적용했습니다.

• 멀티턴 데이터셋 구축멀티턴 데이터셋은 에이전트가 대화 흐름 속에서 사용자의 의도를 추적하고, 누적된 문맥을 바탕으로 일관된 판단을 수행할 수 있도록 하는 데 목적이 있습니다. 실제 사용자 발화는 대화가 진행되면서 점진적으로 구체화되거나 방향이 전환되며, 이전 발화를 참조하거나 새로운 제약 조건이 추가되는 등 비선형적인 특성을 보입니다 [7]. 믿:음 K는 이러한 대화 특성이 모델 학습 단계에서 충분히 반영될 수 있도록 멀티턴 구조를 기반으로 한 한국어 데이터셋을 설계 및 구축했습니다. 해당 데이터셋은 동적 문맥 관리, 복합 태스크 수행, 그리고 다양한 실제 사용 시나리오를 포괄하는 방향으로 구성되어 장기적인 대화 맥락 이해와 연속적인 의사결정 역량 강화를 목표로 합니다.
  
  

• Tool-Use 데이터셋 구축Tool-Use 데이터셋은 에이전트가 외부 도구를 활용해 실제 작업을 수행하는 과정에서 요구되는 판단과 실행 능력을 학습하기 위한 데이터입니다. 기존 도구 호출 데이터셋은 도구 사용이 전제된 단일 턴(single-turn) 구조에 집중되어 있기 때문에 대화 맥락에 따라 도구 사용 여부를 판단하거나 추가 정보를 요청하는 등의 고차원적 상호작용을 충분히 반영할 수 없습니다. 이를 극복하기 위해 멀티턴 대화 흐름 내에서 도구 실행, 추가 정보 요청, 일반 응답, 범위 외 요청 거절이 자연스럽게 교차되도록 설계된 멀티턴 Tool-Use 데이터셋 구축 파이프라인을 설계했습니다. 한국어를 중심으로 하되 범용적 추론 안정성을 확보하기 위해 영어 데이터를 함께 포함하여 실제 에이전트 환경에서 요구되는 도구 선택 및 실행 판단 역량을 효과적으로 내재화했습니다.

^{Agentic 핵심 기술 02}
Model Merge를 활용한 Agentic 성능 극대화

믿:음 K 2.5 Pro는 Agentic 성능 강화를 위해 Model Merging 전략을 적용했습니다. Model Merging은 여러 모델의 weight를 결합함으로써 각 모델의 단점은 상쇄하고 강점은 극대화할 수 있는 post-training 전략입니다. 구조 변경이나 추가 학습 없이 적용 가능해 안정적이며 post-training 파이프라인에 유연하게 통합할 수 있다는 장점을 지닙니다.

Agent 태스크에 특화된 데이터로 별도의 agent 전용 모델을 구축한 후, 해당 모델과 최종 post-training 모델 간 model merging을 수행했습니다. 이 과정을 통해 수학, 코드, 일반 상식 등 기존 태스크의 성능은 유지하면서 agent 태스크에서 요구되는 의사결정 및 Tool 사용 성능을 선택적으로 향상시켰습니다. 아래의 표4는 두 모델을 Merge 하여 측정한 수학, 코드, 일반 상식, agent 성능을 나타냅니다. Merging 비율을 조정하여 전반적인 성능 균형을 고려한 최적의 agent 성능 지점을 도출했습니다.

표4. Model Merging 적용 전·후 태스크별 성능 비교

6. 한국적 AI, 글로벌 스탠다드가 되다

이번 AAII 등재는 KT의 AI 기술력이 국내에만 머물지 않고 글로벌 기준에 도달했음을 보여주는 이정표입니다. 특히 40B 이하의 효율적인 모델 사이즈로 고성능을 구현했다는 점은 보안을 중시하는 공공/금융 등 제한된 보안 구축형 인프라 상에서 비용 효율적인 AI 도입을 원하는 기업들에게 강력한 선택지가 될 것입니다.

인용

[1] 믿:음 2.0 Korea-centric Bilingual Language Models (Mi:dm 2.0 Korea-centric Bilingual Language Models )

[2] Why Does the Effective Context Length of LLMs Fall Short? (Why Does the Effective Context Length of LLMs Fall Short? )

[3] RegMix: Data Mixture as Regression for Language Model Pre-training (RegMix: Data Mixture as Regression for Language Model Pre-training )

[4] Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time (Model soups: averaging weights of multiple fine-tuned models... )

[5] Group Sequence Policy Optimization (Group Sequence Policy Optimization )

[6] When Speed Kills Stability: Demystifying RL Collapse from the Training-Inference Mismatch (When Speed Kills Stability: Demystifying RL Collapse from the Training-Inference Mismatch | Notion )

[7] CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues (CantTalkAboutThis: Aligning Language Models to Stay on Topic in Dialogues )

[8] MT-Eval: A Multi-Turn Capabilities Evaluation Benchmark for Large Language Models (MT-Eval: A Multi-Turn Capabilities Evaluation Benchmark for Large Language Models )

[9] MT-Bench-101: A Fine-Grained Benchmark for Evaluating Large Language Models in Multi-Turn Dialogues (MT-Bench-101: A Fine-Grained Benchmark for Evaluating Large Language Models in Multi-Turn Dialogues )