안녕하세요, KT Agentic AI Lab에서 산업 도메인 워크플로우를 AI Agent로 개선하여 효율과 생산성을 높이는 업무를 담당하고 있는 홍승관입니다. 2026년 5월 25일~29일, 키프로스 파포스에서 개최된 멀티 에이전트 시스템 분야의 권위있는 학술대회 AAMAS (International Conference on Autonomous Agents and Multiagent Systems) 2026에 참가하여 EG-RAG (Evidence Graph RAG)를 제안했습니다. 아쉽게도 중동 전쟁 이슈로 인하여 온라인으로 학회를 참석하게 되어 현장의 생생한 분위기를 느끼지는 못했습니다. 하지만 멀티 에이전트 시스템 분야에서의 최신 기술 동향과 연구자들의 열정을 간접적으로나마 체감할 수 있었습니다.

 오늘은 AAMAS 2026에 발표한 EG-RAG가 어떤 문제를 해결하고자 하였는지, 그리고 AAMAS 2026 학회의 기술동향 및 참관후기를 공유드리고자 합니다.

AAMAS(Autonomous Agents and Multi Agent Systems)는 자율 에이전트 및 멀티에이전트 시스템 분야의 권위있는 학술대회로, 2002년 AGENTS, ICMAS, ATAL 세 학술대회가 합병해 출범했으며, 에이전트 기술 전 분야의 연구자와 실무자를 한데 모으는 IFAAMAS의 플래그십 컨퍼런스입니다. 

특히, 제가 참여했던 트랙으로 올해 가장 눈에 띄는 변화로 "생성형·에이전틱 AI(GAAI)" 트랙이 신설되었습니다. LLM에서의 에이전트 구현, 가치 정렬을 위한 학습, RLHF, 에이전틱 워크플로우 계획·설계, LLM 검증 및 안전성, 생성형 에이전트의 협력과 조정 등을 핵심 주제로 다룹니다.

이번 AAMAS 2026에 발표한 “EG-RAG: Reliable Multi-Document Reasoning via Evidence Graphs” 연구 논문을 아래와 같이 소개해 드리겠습니다.

ChatGPT나 Claude 같은 AI 챗봇에게 최신 정보를 물어보면 어떻게 동작할까요? AI는 인터넷에서 관련 문서를 검색해온 뒤 그것들을 종합해 답변을 생성합니다. 이 방식을 RAG (Retrieval-Augmented Generation)라고 부릅니다.

그런데 문제가 있습니다. 현실의 검색 결과는 깔끔하지 않습니다. 서로 다른 말을 하는 기사들, 오래되어 틀린 정보, 전혀 관계없는 내용까지 한꺼번에 쏟아집니다. 이 혼돈 속에서 AI는 무엇을 믿어야 할지 판단하지 못하고, 자신 있게 틀린 답을 내뱉기도 합니다. 이 문제를 해결하기 위해 EG-RAG (Evidence Graph RAG)를 제안했습니다. 핵심 아이디어는 간단합니다. 검색된 문장들이 서로 어떤 관계인지를 그래프로 그려서, AI가 어떤 정보를 신뢰해야 하는지 구조적으로 판단하게 만드는 것입니다.

기존 RAG 시스템이 실패하는 방식은 크게 아래와 같습니다.

EG-RAG의 핵심은 검색된 문장들을 단순히 이어 붙이는 게 아니라, 문장들이 서로 어떤 관계인지를 명시적으로 분류하는 것입니다. 관계는 세 가지입니다. 서로 같은 말을 하는 "지지(Support)", 서로 다른 말을 하는 "모순(Contradiction)", 그리고 관련은 있지만 직접 연결되진 않는 "중립(Neutral)". 

이 관계들을 그래프로 연결하면 "어느 주장이 가장 많은 증거로 뒷받침받는가"가 수치로 명확해집니다. AI는 이 구조를 바탕으로 훨씬 신뢰할 수 있는 답을 생성합니다.

검색된 수십 개 문서에서 쿼리와 가장 관련 높은 문장 소수만 추려냅니다. 추려진 문장 쌍마다 NLI 분류기를 돌려 "이 두 문장이 서로 지지하는지, 모순인지, 중립인지"를 확률로 계산합니다. 이 확률에 각 문장의 쿼리 관련성을 곱해 문장 간 연결 강도를 수치화하고 그래프 엣지를 만듭니다. 엣지를 바탕으로 관계별 클러스터를 구성하고, 각 클러스터에 신뢰 강도를 부여해 "어느 주장이 얼마나 강하게 뒷받침받는지"를 명확히 합니다. 

마지막으로 이 구조화된 증거를 LLM에 전달해, 단순 텍스트 나열이 아닌 증거의 신뢰도를 기반으로 한 답변을 생성합니다. 또한, EG-RAG는 더 많은 데이터나 더 큰 모델 없이도, 문장 간 관계를 구조화하는 것만으로 RAG의 신뢰성을 크게 높일 수 있음을 보여줍니다.  올바른 답은 더 많은 정보가 아니라, 정보들 사이의 관계를 제대로 이해하는 데서 나온다는 것이 이 연구의 핵심 메시지입니다.

AAMAS 2026의 주요 연구 분야는 ① 학습 및 적응(LEARN), ② 생성형·에이전틱 AI(GAAI), ③ 게임 이론 및 경제 패러다임(GTEP), ④ 조정·조직·규범·윤리(COINE), ⑤ 탐색·최적화·계획·스케줄링(SOPS), ⑥ 표현 및 추론(RR), ⑦ 멀티에이전트 시스템 공학 및 분석(EMAS), ⑧ 사회 모델링 및 시뮬레이션(SIM), ⑨ 인간-에이전트 상호작용(HAI), ⑩ 로보틱스 및 제어(ROBOT), ⑪ 혁신적 응용(IA)으로 구성됩니다. 그 중 제가 참여했던 연구 트랙과 인상 깊었던 연구 트랙에 관하여 설명드리겠습니다.

제가 참여했던 GAAI가 신설되었는데요, RLHF(인간 피드백 기반 강화학습), 복잡한 워크플로우를 위한 에이전트 설계, LLM/에이전틱 시스템의 검증과 안전성, 멀티에이전트 LLM 학습, 에이전트-간 커뮤니케이션, 생성형 에이전트의 협력·조정 등이 핵심 주제입니다. 이는 ChatGPT, Claude 등 LLM 기반 에이전트 붐을 직접 반영하는 트랙으로, 사실상 올해 가장 뜨거운 분야입니다.

구체적인 동향은 아래와 같습니다.

① 멀티에이전트 LLM 협력 - 단일 LLM이 아닌 여러 에이전트가 역할 분담·논쟁·검증을 통해 더 나은 출력을 만드는 구조. 예측, 의사결정, 코드 생성 등 다양한 태스크에 적용됩니다.

② 오프라인 데이터 + LLM 결합 - GPT-4o 같은 LLM을 오라클로 활용해 멀티에이전트 궤적 데이터에 품질 레이블을 자동 부여하고, 불균형한 오프라인 데이터셋에서 MARL을 부스팅하는 연구처럼 LLM을 학습 파이프라인 안으로 끌어들이는 시도가 늘고 있습니다.

③ 안전성·정렬 - 에이전트가 도구를 쓰고 외부 시스템과 상호작용하는 만큼, 단순한 텍스트 안전을 넘어 행동 레벨의 안전 보장 연구가 증가 중입니다.

단일 에이전트와 멀티에이전트 모두를 다루며, 에이전트가 환경과의 상호작용을 통해 정책을 스스로 개선해 나가는 모든 방법론을 포괄합니다. 지도·비지도·강화학습은 물론, 진화적 접근과 적대적 학습까지 폭넓게 받아들입니다. 멀티 에이전트 세팅에서는 협력, 경쟁, 혼합 환경에서 에이전트들이 어떻게 함께 또는 서로 맞서며 학습하는지가 핵심 주제입니다.

주요 동향은 아래와 같습니다.

① 부분 관측 환경에서의 협력 - 에이전트가 전체 상태를 알 수 없을 때 어떻게 협력할지가 핵심 문제입니다. 관측에서 믿음 표현(belief representation)을 추론하고 이를 정책에 반영하는 방식이 대두되고 있습니다.

② Ad Hoc Teamwork - 기존 MARL이 고정되고 완전히 통제된 팀을 전제했던 것과 달리, 낯선 에이전트와도 즉각 협력할 수 있는 적응력을 다루는 연구로, 현실 배포 가능성을 높이는 방향입니다.

③ 통신 제약 하의 협력 - 협력 MARL에서 글로벌 정보에 자주 접근한다는 가정을 버리고, 통신 비용이 높은 분산 환경에서도 성능을 유지하는 알고리즘 연구가 주목받고 있습니다. 에이전트 수 증가에 따른 확장성 문제와 맞닿아 있습니다.

물리 세계에 깊이 연결된 구현된(embodied) 에이전트로서의 로봇을 다루며, 단일 로봇과 멀티로봇 모두에 대한 이론적·응용적 기여를 반영하고, 특히 현실적인 로봇 응용 시나리오에서 동기부여된 문제에 중점을 둡니다.

주요 토픽으로는 로봇 시스템의 조정과 협력, 군집 및 멀티로봇 집단 행동, 적대적 환경에서의 로봇, 인식과 비전, 파운데이션 모델의 로봇 적용, 로봇 계획, 매핑·위치 추정·내비게이션, 조작, 장기 자율성, 실행 모니터링 및 오류 복구가 포함됩니다.

동향은 두 방향이 특히 두드러집니다.

① 파운데이션 모델 × 로봇 - LLM·VLM을 로봇의 고수준 플래너로 활용하는 연구가 급증하였고 자연어 명령을 로봇 행동 시퀀스로 번역하거나, 미지 환경에서 제로샷으로 작업을 수행하는 접근입니다.

② 안전한 멀티로봇 조정 - 분산·안전 임계 환경에서의 자율 에이전트 조정 문제를 다루며, 계산 복잡도를 지수에서 선형으로 줄이는 실시간 계획 알고리즘처럼, 이론적 성능과 실제 안전성을 동시에 만족시키는 연구가 핵심 과제입니다.

이번 AAMAS 2026 참가는 AI 연구가 점점 더 '에이전트 간 상호작용과 사회적 복잡성'을 정면으로 다루기 시작했다는 흐름을 체감한 시간이었습니다. 단일 모델의 성능을 끌어올리는 것에서 나아가, 여러 에이전트가 함께 행동하고 협력하고 때로는 충돌하는 환경에서 어떻게 안전하고 신뢰할 수 있는 시스템을 만들 것인가에 대한 고민이 곳곳에서 드러났습니다. 이번에 인상 깊었던 연구들도 같은 방향에 있습니다. LLM 기반 멀티에이전트 예측 시스템은 AI를 단순한 답변 생성기가 아니라 서로 논증하고 검증하는 구조 안에 놓음으로써 투명성과 정확성을 동시에 높이는 방향을 탐색했고, 안전 임계 환경에서의 멀티에이전트 조정 연구는 이론적 완성도와 실제 배포 가능성을 함께 잡으려는 진지한 시도가 인상적이었습니다. 새롭게 신설된 GAAI 트랙 역시, LLM이 단순히 텍스트를 생성하는 존재를 넘어 실제로 행동하고 책임지는 에이전트로 진화할 때 어떤 문제가 생기는지를 학술적으로 본격화하기 시작했다는 점에서 의미 있게 다가왔습니다.

개인적으로도 이번 학회는 "더 강한 에이전트"보다 "더 잘 협력하고, 더 잘 통제할 수 있는 에이전트"가 앞으로 중요해질 것임을 느낄 수 있었습니다. 이는 현재 진행 중인 에이전트 개발 방향과도 자연스럽게 맞닿아 있습니다. 단순히 성능을 높이는 것을 넘어, 모델이 어떤 맥락에서 어떤 판단을 내리는지를 이해하고 다룰 수 있는 기술이 앞으로의 경쟁력을 좌우할 것이라고 느꼈습니다. 앞으로도 학회와 연구 현장에서 얻은 인사이트를 바탕으로, 실제 서비스 환경에서 신뢰할 수 있고 설명 가능한 AI를 만드는 데 기여할 수 있도록 노력하겠습니다. 감사합니다!