안녕하세요 KT에서 Agent, 의료 특화 모델 개발을 하고 있는 이성민이라고 합니다.
저는 2025년 12월 19일부터 24일까지 인도 뭄바이에서 자연어처리(Natural Language Processing) 분야의 국제학회인 IJCNLP-AACL(International Joint Conference on Natural Language Processing & Asia-Pacific Chapter of the Association for Computational Linguistics) 2025 에 참석하여 여러 글로벌 연구자들과 최근 연구 성과에 대해 공유하고, 토론하며, 교류하는 시간을 가졌습니다.
이번 글에서는 제가 학회에서 발표한 연구 논문(ControlMed: Adding Reasoning Control To Medical Language Model) 내용을 알려드리고, 인상 깊게 본 세션 및 최우수 논문 내용 소개를 통해 최근 자연언어처리 연구 트렌드 및 인사이트를 공유하려고 합니다.
학회 소개
제가 참여한 IJCNLP-AACL은 아시아-태평양 권역에서 개최되는 세계적으로 권위 있는 자연언어처리 분야의 국제 학회인데요, 올해에는 AI/LLM Agents, Safety and Alignment in LLMs, Retrieval-Augmented Language Models, Multimodality, LLM Efficiency 등 여러 분야의 자연언어처리 관련 최신 연구 성과들이 발표되었습니다.
이번 학회에서는 총 1,456편의 논문이 ARR(ACL Rolling Review) 시스템을 통해 제출되었습니다. 지역별로는 아시아·태평양 53.5%, 북미 24.5%, 유럽 14% 등 다양한 곳에서 논문이 접수되었다고 합니다. 그 중 리뷰 심사를 마친 450편이 2차로 제출되었고, 최종적으로 Main Conference에 232편의 논문이 채택되었습니다.
학회는 IIT(Indian Institute of Technology Bombay), 인도 공과대학교에서 열렸는데요, 인도 내에서 아주 어려운 난이도의 시험(IIT JEE)에서 고득점을 받아야 입학할 수 있다고 하는 대학교입니다. Google의 CEO인 순다 피차이도 IIT 출신인 것으로 알려져 있습니다.
KT 발표 논문
Motivation
최근, 의료 분야에서도 LLM은 급증하는 수요에 따라 활발히 연구 및 개발되고 있는데요, 특히 임상 의사 결정의 중요성으로 인해 정확성과 설명 가능성을 모두 높인 추론 거대 언어 모델(RLM)이 의료 분야에서 점점 더 중요해지고 있습니다. 하지만 기존의 RLM들은 불필요하게 긴 추론 과정을 생성하는 경향이 있으며, 이러한 비효율성은 추론 비용을 증가시키고 속도를 떨어뜨려 응급 상황에서의 사용을 어렵게 만들 수 있습니다. 이에 따라, 의료 전문가들은 상황에 따라 빠르게 결과를 얻는 것을 필요로 하기 때문에, 의료 RLM은 상황에 따라 추론 효율성과 정확성 사이의 균형(trade-off)을 조절하여 응답을 생성할 수 있어야 합니다.
본 논문에서는 이러한 점을 해결하기 위해 추론 시점에 사용자가 명시적인 제어 마커를 입력하여 추론 길이를 조절할 수 있게 하는 의료 언어 모델(ControlMed)을 도입했습니다. 이 기능은 사용자가 모델의 추론 길이를 동적으로 조정할 수 있도록 합니다.
Method: Dataset & Training
ControlMed는 의료 도메인 특화와 제어 가능한 추론 능력을 동시에 확보하기 위해 아래와 같이 세 단계의 훈련 파이프라인을 거쳐 만들어집니다.
- 대규모 합성 의료 지시 데이터셋 사전학습: 첫 번째 단계 에서는 추론 및 응답 텍스트를 모두 포함하는 대규모 합성 의료 지시 데이터셋을 사용하여 모델을 사전 학습(Pre-training) 합니다. 데이터 구축 방법에 대해서 더 자세히 설명하자면, 데이터를 합성하기 위한 시드 데이터로는 공개적으로 사용 가능한 의료 지시 데이터셋 및 의료 논문, 문헌(e.g., Pubmed) 등을 사용했고, 이를 시드로 하여 하이브리드 LLM 기반 파이프라인을 거쳐 합성 데이터를 생성했습니다. 또한, 언어적 및 사실적 일관성을 보장하기 위해 규칙, 모델 기반 필터링을 진행하여 최종적으로 대규모 합성 의료 지시 데이터셋을 구축했습니다.
- 다중 길이 추론 데이터셋 미세 조정 학습: 두 번째 단계인 지도 미세 조정 학습(Supervised Fine-tuning)에서는 다중 길이 추론 데이터셋을 구축해 추론 길이 제어 능력을 학습시켰습니다. 이 데이터셋은 사전학습 데이터셋에서 긴 추론을 추출하여 SHORT, MEDIUM, LONG과 같은 3가지 모드의 특정 길이 범위로 압축한 결과물로 구성됩니다. 모델은 이 과정에서 길이별 제어 마커(/short, /medium, /long)를 사용해 목표 추론 길이와의 명시적인 연관성을 학습합니다.
- 추론 능력 강화를 위한 강화학습: 마지막 단계에서는 모델 기반 보상점수를 활용하는 PPO(Proximal Policy Optimization) 기반 강화학습을 적용하여, 모델의 사실적 정확성을 추가로 향상시켰습니다. 사전학습 단계에 사용되지 않은 난이도 있는 문제들로 데이터를 수집하여 학습에 사용했습니다.
Results and Analysis
ControlMed를 다양한 영어 및 한국어 의료 벤치마크로 평가했을 때, 기존의 10b 이하 일반, 의료 특화 모델들과 비교하여 동등하거나 더 우수한 성능을 달성했습니다. 특히, MedQA 벤치마크에서 78.0의 정확도를 기록하여 이전 최고성능의 의료 특화 추론 모델인 HuatuoGPT-o1보다 5.4점 높은 점수를 얻으며 우수성을 입증했습니다. 또한 한국어 의료 벤치마크인 KorMedMCQA에서 모든 기준 모델을 능가하는 점수를 기록하여, 모델의 우수한 이중 언어 데이터(영어-한국어) 성능 또한 검증할 수 있었습니다.
앞서 설명한 것과 같이, 다른 모델에 비교하여 우수한 성능을 보일 뿐만 아니라, ControlMed는 제어 마커를 사용하여 추론 길이를 성공적으로 조절할 수 있는데요, SHORT 모드가 MAX 모드 대비 현저히 낮은 누적 토큰 길이를 보임으로써 계산 효율성이 높음을 확인할 수 있었습니다. 이러한 기능은 사용자가 상황에 따라 응답 정확도와 계산 비용 간의 균형을 유연하게 조절할 수 있도록 지원합니다. 추가적인 분석 결과로, 의학 일반 개념(Concepts)을 묻는 질문에 비해 진단(Diagnosis) 영역 질문을 해결하는 데에 더 긴 길이의 추론을 사용하는 것이 더 효과적임을 알 수 있었습니다.
ControlMed는 뛰어난 한국어-영어 의료 특화 성능을 보여줄 뿐만 아니라, 의료 현장에서 상황에 따라 추론의 효율 및 정확도를 자유롭게 조절할 수 있다는 점에서 큰 의미가 있습니다. 또한, 진단처럼 복잡한 문제에서는 좀 더 긴 추론이 필요할 수 있다는 분석을 바탕으로 향후 연구에서는 특정 영역에 특화된 추론 길이를 자동으로 찾아 추론할 수 있도록 하는 방향으로 확장할 수도 있을 것으로 보여집니다.
주요 연구 소개
1. [키노트 세션] LLM-jp: Building a Sovereign LLM Ecosystem through Open and Team Science
해당 키노트 세션에서는 일본의 소버린 LLM인 LLM-jp 에 대해 교토대학교 사다오 쿠로하시 교수님이 소개해주셨습니다. LLM-jp는 일본의 LLM 연구 개발을 위한 프로젝트이고, 이는 일본어 데이터 부족과 외국 모델 의존에 따른 문화적, 경제적 안보 우려에 대한 대응으로 시작되었다고 합니다. 2023년 5월에 약 30명의 연구원으로 출발한 이 프로젝트는 현재 학계와 산업계에서 1,500명이 넘는 참가자가 협력하는 대규모 그룹으로 성장했습니다.
LLM-jp는 10b 부터 305b 까지 다양한 크기의 LLM을 학습하고 있고, 모델의 구조, 사전학습 데이터셋, 미세 조정 데이터셋, 일본어 안정성 데이터셋 심지어 시행착오 내용 및 실패 사례까지 모든 것을 오픈소스로 완전히 공개하는 원칙을 채택하고 있습니다. 발표에서도 10B ~ 172B 규모 LLM을 개발하면서 거친 시행착오 및 노하우들을 전달해 주셨는데요, 학습률 스케줄러, 하이퍼파라미터 세팅, 데이터셋 등 관련해서 모두 공유해주셨습니다. 저도 회사에서도 LLM 모델 학습을 진행하고 있고, 모델 개발을 하다보면 여러 시행착오를 기반으로 더 나은 최적의 데이터셋 및 학습 세팅을 찾곤 하는데요. 이처럼 LLM-jp 프로젝트의 학습 경험과 노하우는 학계와 산업계에서 LLM 개발에 참여하는 많은 연구자들에게 매우 유익한 참고 자료가 될 것으로 기대됩니다.
2. [최우수 논문] Beyond statistical significance: Quantifying uncertainty and statistical variability in multilingual and multitask NLP evaluation
이번 학회의 최우수 논문은 다국어 및 다중 작업 NLP 벤치마크에서 평가 지표의 불확실성과 통계적 정밀도(uncertainty and statistical precision)를 정량화하기 위해 리샘플링 기반 방법을 제안한 연구였습니다.
최근 몇 년간 LLM의 확산과 함께 NLP 분야에서 다국어 연구가 기하급수적으로 성장하면서, 연구 결과가 특정 언어 또는 특정 작업에만 국한되지 않고 얼마나 일반화될 수 있는지 판단하는 것이 더욱 중요해졌는데요, 저자는 실험에서 발생하는 성능 점수의 변동이 단순히 우연인지(random noise) 아니면 모델이 진정으로 우위를 점하는 것인지 판단하기 위해, 이러한 변동성(variability)이 모델 측(model-side) 요인과 데이터 측(data-side) 요인 모두에서 발생한다는 점에 주목했습니다.
- 데이터 측 변동성 (τ): 이는 테스트 세트를 구성하는 과정에서 발생하는 샘플링 오류 또는 벤치마크에 포함된 평가 작업 선택의 변동성을 의미하며, 일반적으로 부트스트랩 리샘플링(bootstrap resampling) 등을 통해 측정됩니다.
- 모델 측 변동성 (σ): 데이터셋이 고정되어 있어도 LLM의 비결정론적 디코딩이나 파인튜닝 과정의 무작위성(e.g., Batch shuffling) 등으로 인해 성능이 변동하는 현상을 말합니다. 생성 모델의 경우 질문마다 여러 개의 응답을 샘플링하여 성능을 측정합니다.
이 논문에서는 실험적 변동성 및 노이즈가 언어 간(between-language, ν) 구성 요소와 언어 내(within-language, η) 구성 요소로 분해될 수 있으며, 이 언어 내 구성 요소(η)는 다시 모델 측(σ) 및 데이터 측(τ) 구성 요소로 나뉜다는 새로운 관점을 제시합니다.
핵심은 이러한 모든 변동성의 원천(모델, 데이터, 언어 간) 중 어느 하나도 무시할 수 없다는 것입니다. 만약 하나의 오류 원천만 분석한다면 전체 변동성을 상당히 과소평가하게 되어, 모델의 상대적 장점에 대해 잘못된 결론을 내릴 위험에 노출될 수 있습니다.
리샘플링 방법은 복잡한 평가 지표의 불확실성을 추정하는 데에도 사용됩니다.
- 모델 간 성능 차이 (Pairwise Differences): 각 리샘플링의 반복마다 모델 간 성능 차이(e.g., Model A−Model B)를 계산하여, 그 차이의 분산을 도출합니다. 이 분산을 사용해 관찰된 성능 차이가 통계적으로 유의미한지(statistical significance) 판단할 수 있습니다.
- 모델 순위 분포 (Model Rankings): 각 리샘플링의 반복마다 모델의 순위를 다시 계산하여, 특정 모델이 1위, 2위 등을 차지할 확률 분포를 경험적으로 추정할 수 있습니다. 이 분포는 어떤 집계 함수를 사용하느냐에 따라 달라질 수 있습니다
결론적으로, 이 연구는 리샘플링이 다국어 NLP, LLM 모델 평가에서 통계적 유의성을 넘어 변동성의 근원과 범위를 이해하는 데 도움이 되는 필수 도구임을 강조합니다. 이러한 접근 방식은 LLM 모델의 평가 결과의 노이즈가 심할 때 단순히 "어떤 모델이 더 나은가" 라는 이분법적인 판단을 내리기보다는, 불확실성을 명확하게 전달하고 연구자가 재현 불가능한(non-replicable) 주장을 피하도록 도울 것으로 예상됩니다.
맺음말
학회 참석 기간 동안 다양한 글로벌 연구자들과 공통의 관심사를 바탕으로 연구 성과를 공유하고, 여러 연구 관련 논의를 나누며 매우 뜻깊은 시간을 보낼 수 있었습니다. 여러 연구자 분들과 나누었던 이야기 중에서 기억에 남는 것이 연구자는 ‘Why’에 대해 알고 싶어해야 하고, 알아야 한다는 이야기를 나누었던 것이 기억에 가장 남습니다. 어떤 결과가 긍정적으로 도출되었더라도 이에 만족하기보다, 그 원인을 면밀히 분석하고 검증하며 연구를 진행하는 태도는 연구자이자 개발자로서 필수적인 역량이라고 생각합니다. 끝까지 글을 읽어주셔서 감사합니다.
참고문헌
- Lee, Sung-Min, et al. "ControlMed: Adding Reasoning Control to Medical Language Model." arXiv preprint arXiv:2507.22545
- Aizawa, Akiko, et al. "Llm-jp: A cross-organizational project for the research and development of fully open japanese llms." arXiv preprint arXiv:2407.03963
- Sälevä, Jonne, Duygu Ataman, and Constantine Lignos. "Beyond statistical significance: Quantifying uncertainty and statistical variability in multilingual and multitask NLP evaluation." arXiv preprint arXiv:2509.22612