안녕하세요. Agentic AI Lab SearchAI 담당 이은경입니다.

저희 팀은 다양한 정보와 지식을 연결해, 사용자의 질문에 필요한 근거를 찾아주는 검색 기술을 연구하고 있습니다. 특히 여러 정보 사이의 관계를 활용하는 GraphRAG에 주목하고 있습니다.

AI를 실제 업무에 활용하려면 자연스러운 답변만으로는 충분하지 않습니다. 여러 문서에 흩어진 정보를 연결하고, 복잡한 조건과 맥락을 고려해 정확한 근거를 찾아야 합니다. 저희가 GraphRAG를 연구하는 이유도 여기에 있습니다.

이번 글에서는 이러한 문제를 해결하기 위한 저희 팀의 GraphRAG 연구와, 질문에 맞춰 그래프 탐색 전략을 조정하는 기술 MOSAIC을 소개합니다. MOSAIC은 2026년 9월 22일 확인한 GraphRAG-Bench 공개 리더보드에서 Medical 분야 1위, Novel 분야 2위를 기록했습니다. 별도의 모델 학습 없이 질문별 탐색 전략을 조정해, 글로벌 벤치마크에서 최상위권 성능을 확보했습니다.

RAG는 외부 정보를 검색해 대규모 언어 모델(LLM)이 답변을 생성할 때 참고하도록 하는 기술입니다. 그중 질문과 의미적으로 유사한 문서를 찾는 방식은 관련 정보를 빠르게 검색하는 데 유용합니다. 하지만 여러 문서의 내용을 연결하거나, 정보 사이의 관계를 따라가야 하는 질문에서는 필요한 근거를 충분히 모으기 어려울 수 있습니다.

예를 들어 특정 서비스의 적용 조건을 묻는 질문이라면, 서비스 소개뿐 아니라 가입 자격, 예외 규정, 다른 서비스와의 관계까지 함께 확인해야 할 수 있습니다. 각각의 문서가 질문과 얼마나 비슷한지만으로는 답변에 필요한 연결 관계를 놓칠 수 있는 것입니다.

GraphRAG는 이러한 정보를 그래프 구조로 연결하고, 그 관계를 검색에 활용합니다. 개념이나 대상을 노드로, 이들 사이의 관계를 연결선으로 표현해 문서에 흩어진 근거를 찾아갈 수 있도록 합니다. LLM은 이렇게 확보한 근거를 바탕으로 복잡한 질문에 답할 수 있습니다.

산업계에서도 이러한 가능성에 주목하고 있습니다. 글로벌 IT 시장조사기관 가트너(Gartner)는 2029년까지 기업의 40%가 AI 응답의 사실적 정확성과 LLM의 추론 능력을 높이기 위해 GraphRAG 기술을 활용할 것으로 전망했습니다.

저희 팀은 GraphRAG가 가진 정보 연결의 가능성을 실제 답변 품질로 이어가기 위해 연구하고 있습니다. 특히 그래프에서 질문에 필요한 근거를 어떻게 찾아낼 것인가에 집중했습니다.

그래프를 구축했다고 해서 모든 질문의 답을 쉽게 찾을 수 있는 것은 아닙니다. 하나의 사실만 확인하면 되는 질문도 있지만, 여러 대상의 관계를 연결하거나 조건에 맞는 정보를 빠짐없이 모아야 하는 질문도 있습니다. 탐색 범위가 너무 좁으면 중요한 근거를 놓치고, 너무 넓으면 불필요한 정보까지 답변에 포함될 수 있습니다.

여기서 저희는 한 가지 질문을 던졌습니다.

“모든 질문에 같은 방식으로 그래프를 탐색하는 것이 과연 최선일까?”

MOSAIC은 이 질문에서 출발했습니다. 질문의 특성에 따라 탐색의 시작점과 범위, 종료 기준, 근거 선별 방식을 조정해, GraphRAG가 답변에 필요한 정보를 더 적절하게 찾도록 하는 기술입니다.

GraphRAG에서는 문서에 등장하는 개체와 관계를 그래프로 표현하고, 이 연결을 따라 답변에 필요한 근거를 찾습니다. 하지만 그래프에 필요한 지식이 담겨 있다고 해서 검색 과정에서 그 지식을 모두 찾아오는 것은 아닙니다. 어디에서 탐색을 시작하고, 어떤 관계를 따라가며, 어디까지 확장할지가 결과에 영향을 줍니다.

예를 들어 특정 현상의 원인을 설명하려면 질문에 직접 등장하지 않은 중간 개념까지 찾아야 할 수 있습니다. 반면 여러 위험 요인을 정리하는 질문에는 다양한 항목을 뒷받침하는 근거가 필요하고, 두 대상을 비교하는 질문에는 양쪽의 정보를 고르게 확보해야 합니다. 같은 사실 검색이나 요약 과제 안에서도 필요한 탐색 방식은 달라질 수 있습니다.

얕게 탐색하면 중요한 중간 연결을 놓칠 수 있습니다. 그렇다고 모든 질문을 깊고 넓게 탐색하면, 관련성이 낮은 정보와 중복된 근거가 함께 늘어납니다. 저희는 이 문제를 해결하기 위해 질문이 요구하는 근거의 구조에 맞춰 탐색 방식을 조정하는 접근에 주목했습니다.

MOSAIC은 질문을 읽고, 이미 구축된 그래프를 어떻게 탐색할지 결정하는 기술입니다. LLM 분석기가 질문에 필요한 근거를 분석한 뒤, 시작점 선택부터 경로 탐색, 종료, 근거 선별까지 제어하는 질문별 탐색 정책을 구성합니다.

이때 저희는 검색 실패 사례를 바탕으로 여섯 가지 판단 기준을 정리했습니다. 중간 개념을 거쳐야 하는지, 답에 몇 개의 항목이 필요한지, 모든 대상의 시작점을 확보해야 하는지, 특정 대상에 얼마나 집중해야 하는지, 개체와 관계 중 어떤 관련성 신호가 중요한지, 근거를 충분하고 완결되게 확보하려면 어떤 설정이 필요한지를 함께 고려합니다. MOSAIC이라는 이름도 이 여섯 기준의 영문 머리글자에서 가져왔습니다.

이 기준들은 질문을 여섯 유형으로 나누기 위한 것이 아닙니다. 하나의 질문에도 여러 요구가 함께 나타날 수 있기 때문입니다. 분석기는 이를 종합해 시작점의 수와 검색 방식, 탐색 깊이와 폭, 시작점 사이의 연결 탐색 여부, 종료 기준, 최종 근거량 등을 정해진 범위 안에서 직접 구성합니다.

실제 검색은 공통 모듈이 수행하며, 질문마다 그래프나 답변 모델을 바꾸지 않습니다. 별도의 학습이나 미세조정 없이 질문별 설정을 적용하는 구조입니다. 그래프 구축과 탐색 제어를 분리했기 때문에, 기존 GraphRAG 파이프라인에 이러한 제어 방식을 결합하는 방향으로 활용할 수 있습니다.

“장기이식은 피부암 위험을 어떻게 높일까?”라는 질문을 보겠습니다. 질문에 등장하는 두 개념만 찾는 것으로는 그 사이의 과정을 충분히 설명하기 어렵습니다. MOSAIC은 다음과 같은 과정을 통해 답변에 필요한 연결을 찾아갑니다.

먼저, 탐색의 출발점을 확보합니다. 장기이식과 피부암을 시작점으로 선택합니다. 질문 전체나 분석기가 만든 대상별 검색 단서를 사용하고, 필요한 경우 개체와 관계의 관련성을 함께 고려합니다. 비교 질문에서도 한쪽 대상에만 검색이 몰리지 않도록 시작점을 확보하는 것이 중요합니다.

다음으로, 관계를 따라 중간 연결을 탐색합니다. 위 질문에는 “면역 억제”라는 표현이 없지만, 장기이식과 피부암 위험 사이를 설명하는 데 필요한 개념입니다. 각 시작점에서 관계 경로를 확장하고, 필요하면 서로 다른 시작점을 잇는 경로도 찾습니다. 질문의 대상 가까이에 집중할지, 중간 개념과 주변 정보로 확장할지도 정책에 반영합니다.

탐색을 언제 멈출지도 함께 조정합니다. 새롭게 확보되는 노드와 관계가 누적된 그래프 구조에서 차지하는 비중을 살펴보고, 추가 탐색의 기여가 작아지면 질문별 종료 기준에 따라 멈춥니다. 최대 깊이까지 모든 질문을 동일하게 탐색하는 데서 발생하는 불필요한 확장을 줄이기 위한 장치입니다.

마지막으로, 답변에 사용할 근거를 선별합니다. 공통 LLM 필터가 경로의 유용성을 평가하고 중복과 주제 이탈을 정리합니다. 근거의 최대량과 최소 보존량을 조정하고, 필요한 경우 서로 다른 대상이나 경로 역할을 뒷받침하는 근거를 보존합니다. 여러 항목이 필요한 질문에서 지나친 필터링으로 답의 일부를 놓치지 않도록 하는 것입니다.

선택한 그래프 근거는 이를 뒷받침하는 원문 구간으로 연결합니다. 그래프에서 찾은 관계 구조와 원문의 상세한 설명을 공통 답변 모델에 함께 전달합니다. 분석기에 정답이나 정답 근거를 제공하지 않고, 질문만으로 검색 정책을 구성하도록 했습니다.

저희 팀은 질문별 탐색 전략이 실제 답변 품질을 높이는지 검증하기 위해 글로벌 GraphRAG 벤치마크인 GraphRAG-Bench에서 KT-MOSAIC을 평가했습니다. 이 벤치마크는 의료 지식인 Medical과 소설 문서인 Novel을 대상으로, 사실 검색·복합 추론·맥락 요약·창의적 생성의 네 과제를 다룹니다. 단편적인 정보 검색부터 여러 근거를 연결하고 종합하는 능력까지 살펴볼 수 있습니다. 

KT-MOSAIC은 공개 리더보드를 2026년 9월 22일 확인한 결과, Average 점수 기준 Medical 76.80%으로 1위, Novel 64.28%로 2위를 기록했습니다. 서로 성격이 다른 두 지식 환경에서 최상위권 성능을 확인했다는 점에서 의미 있는 성과였습니다.

이 성과가 탐색 방식을 조정한 효과인지 확인하기 위해, 동일한 그래프와 답변 모델에서 탐색 범위를 좁게, 중간 수준으로, 넓게 고정한 설정과 MOSAIC을 비교했습니다. 고정 설정은 시작점 수, 최대 깊이, 탐색 폭, 근거량을 함께 조정한 세 가지 탐색 범위입니다.

좁은 탐색에서 중간 탐색으로 범위를 늘리면 성능이 높아졌지만, 더 넓게 탐색하자 오히려 낮아졌습니다. MOSAIC은 가장 좋은 고정 설정인 Medium보다 Overall ACC가 9.96%p 높았습니다. 모든 질문에 같은 탐색 범위를 적용하는 것보다 질문별 조정이 더 좋은 결과로 이어졌습니다.

검색된 근거의 품질도 함께 살펴봤습니다. 정답 근거를 얼마나 찾아왔는지 평가하는 Evidence Recall은 Medical 95.1%, Novel 90.2%였습니다. 정답 근거와 얼마나 내용적으로 유사했는지를 평가하는 Context Relevance도 각각 Medical 86.1%, Novel 82.8%를 기록하며, 답변 성능뿐만 아니라 검색 성능도 향상되었다는 것을 증명했습니다. 즉, 최종 답변과 함께, 답변에 필요한 근거를 확보하는 과정도 검증했습니다.

KT-MOSAIC의 성과는 별도의 검색 모델을 추가 학습하지 않고도 글로벌 벤치마크에서 최상위권 성능을 확보했다는 점에서 의미가 있습니다. 특히 추가 모델 학습 없이 활용할 수 있고 MIT 라이선스로 공개된 HippoRAG2와 비교해, Medical에서 11.95%p(76.80% vs 64.85%), Novel에서 7.80%p(64.28% vs 56.48%) 높은 성능을 기록했습니다. 기업에서 활용을 검토할 수 있는 공개 오픈소스 방법 대비, 질문별 탐색 전략을 통해 답변 품질을 높인 결과입니다.

이러한 개선을 위해 새로운 검색 모델이나 정책 모델을 학습할 필요는 없습니다. 기존 LLM이 질문을 분석해 탐색 정책을 구성하므로, 질문과 정답 근거를 연결한 학습 데이터를 별도로 만들거나 모델을 미세조정하는 과정이 필요하지 않습니다. 질문별 탐색 기능을 적용하기 위해 학습 데이터 구축과 별도 모델의 학습·배포 체계를 추가하지 않아도 된다는 점은, 다양한 업무 영역으로 기술을 확장할 때 중요한 강점입니다.

기존 지식 환경을 활용할 수 있도록 설계했다는 점도 특징입니다. MOSAIC은 그래프를 만드는 방식과 탐색을 제어하는 방식을 분리합니다. 이미 구축한 그래프에서 시작점을 찾고, 관계와 경로를 조회하고, 원문 근거를 확보하는 과정에 질문별 정책을 적용하는 구조입니다. 기존 검색 기능과의 연동을 통해 보유한 지식 그래프를 더 효과적으로 탐색하는 방향으로 고도화할 수 있습니다.

앞선 성능 비교 그림과 순위는 2026년 9월 22일 확인한 리더보드를 기준으로 합니다. 이후 GraphRAG-SDK가 새롭게 등록되면서 순위에 변동이 있었으며, 해당 방법은 그림에 포함돼 있지 않습니다. 다만 상위 방법 간 성능 차이가 근소한 만큼, 실제 활용 관점에서는 점수와 함께 각 방법이 요구하는 기술적 조건을 살펴볼 필요가 있습니다.

GraphRAG-SDK는 FalkorDB를 기반으로 구현돼 있어, 다른 DB를 사용하는 환경에서는 FalkorDB의 추가 운영이나 데이터 이관·연동을 고려해야 합니다. 사전학습된 Graph Foundation Model을 활용하는 G-reasoner는 해당 검색 모델을 별도로 배포하고 운영하는 구성이 필요합니다. KT-MOSAIC은 별도의 검색 모델을 추가 학습하지 않고, 특정 DB 제품을 탐색 정책의 전제로 두지 않는 접근으로 높은 답변 성능과 기존 지식 환경을 활용할 수 있는 설계상의 강점을 함께 확보했습니다.

이번 연구에서 확인한 중요한 점은, 탐색량을 일괄적으로 늘리는 것이 성능 향상을 보장하지 않는다는 것입니다. MOSAIC은 Medium보다 좋은 답변 정확도를 기록하면서 평균 경로 평가 예산은 160에서 145로, 실제 종료 깊이는 4.00에서 2.59로, 최종 보존 근거 수는 7.68개에서 6.52개로 줄었습니다. 질문마다 필요한 탐색에 자원을 배분하는 접근의 가능성을 보여주는 결과입니다.

실제 정책이 질문의 요구에 따라 달라지는지도 확인했습니다. Medical의 2,062개 질문에서 19개의 정책 조합이 구성됐고, 최대 탐색 깊이도 2·3·4단계로 나뉘었습니다. 분석기의 출력과 별개로 질문의 근거 요구를 구분해 살펴보니, 여러 대상을 다루는 질문에서는 연결 탐색이 더 자주 선택됐고, 여러 답 항목이 필요한 질문에는 더 큰 근거량이 배정됐습니다. 이 구분은 사후 분석에만 사용했으며 분석기에 제공하지 않았습니다.

여섯 판단 기준의 영향을 비교한 실험에서는, 답에 필요한 항목 수를 고려하는 지침을 제외했을 때 성능 감소가 가장 컸습니다. 이는 탐색의 깊이와 폭뿐 아니라 질문이 요구하는 답의 범위에 맞춰 충분한 근거를 남기는 것이 중요함을 보여줍니다. 저희 팀은 이러한 결과를 통해 “얼마나 많이 검색할 것인가”와 함께 “어떤 근거를 빠짐없이 확보해야 하는가”를 고려해야 한다는 인사이트를 얻었습니다.

저희 팀은 이번 연구를 바탕으로, GraphRAG를 Ontology 기반으로 지식의 의미와 관계를 구조화하고, 이를 Agent의 판단과 의사결정까지 연결하는 기반 기술로 발전시키고자 합니다.

Ontology는 업무에 등장하는 개념과 속성, 관계를 명시적으로 정의합니다. 이를 기반으로 지식을 구조화하면, Agent가 개별 정보를 찾는 데서 나아가 그 정보의 의미와 적용 조건, 다른 정보와의 관계까지 함께 고려하도록 지원할 수 있습니다.

예를 들어 고객에게 서비스를 제안하는 Agent는 상품 정보뿐 아니라 고객의 이용 조건, 가입 자격, 할인 규정과 예외 사항을 함께 확인해야 합니다. Ontology 기반 GraphRAG는 이러한 지식의 관계를 따라 판단에 필요한 근거를 확보하고, Agent가 가능한 대안을 비교하고 선택 이유를 설명하는 데 활용될 수 있습니다.

저희 팀은 질문에 필요한 근거를 찾는 탐색에서, Agent의 판단에 필요한 지식을 연결하는 탐색으로 연구를 넓혀갈 계획입니다. 지식을 어떻게 표현할지, 업무 상황에 따라 어떤 근거를 확보할지, 그 근거를 Agent의 판단과 행동 선택에 어떻게 연결할지를 함께 연구하고자 합니다.

GraphRAG를 단순히 필요한 근거를 찾는 검색 기술을 넘어, 지식의 의미와 관계를 바탕으로 Agent의 판단·의사결정을 지원하는 기반 기술로 발전시키는 것이 저희 팀이 나아가고자 하는 방향입니다.

참고 자료

[1] GraphRAG-Bench 공개 리더보드

[2] MOSAIC technical report