안녕하세요. KT AI Future Lab 노민성입니다. 저는 올해 3월 2일부터 5일까지 스페인 바르셀로나에서 열린 MWC 2026 (Mobile World Congress)에 참석했습니다. 저는 이번 MWC에서 비전문가도 쉽게 RAI(Responsible AI) 평가를 수행할 수 있도록 도와주는 K RAI Assessment라는 아이템으로 출품하여 전시를 진행하였습니다. 이번 글을 통해 제가 MWC에 출품한 K RAI Assessment를 개발하게 된 배경 및 내용에 대해 간단하게 소개하고, MWC를 준비하고 경험하며 느낀 점을 공유드리고자 합니다.
RAI, 왜 중요한가
최신 AI 기술은 기업의 생산성과 경쟁력을 좌우하는 핵심 요소로 자리 잡았습니다. 이에 따라 많은 정부와 기업이 AI 인력 확보와 인프라 구축에 적극 투자하고 있으며, 불과 수년 전과 비교해도 AI는 우리의 일상 깊숙이 스며들고 있습니다.
그러나 AI 도입의 이면에는 간과하기 쉬운 다양한 리스크가 존재합니다. 대표적으로 보안 취약점, 개인정보 유출, AI 거버넌스 부재, AI의 편향성과 불공정성이 있습니다. 이러한 리스크는 법적 책임 노출과 고객 신뢰 손실 등 기업에 실질적 피해를 줄 뿐 아니라, AI를 직접 사용하는 개인에게도 심각한 피해를 초래합니다.
이러한 배경에서 안전하고 신뢰할 수 있는 AI, 즉 책임감 있는 AI(Responsible AI, RAI)의 중요성이 점차 높아지고 있으며, KT를 비롯한 많은 기업들이 RAI 원칙을 반영한 AI 생태계를 구현하기 위해 적극적인 노력을 기울이고 있습니다.
KT의 RAI 활동
그렇다면 KT는 어떠한 RAI 활동을 하고 있을까요?
KT는 RAI 실현에 앞장서 국내 기업 중 가장 빠르게 국내외 동향과 시대적 흐름에 부응해 Responsible AI Center (RAIC)를 2024년에 설립하였으며 다양한 활동을 이어나가고 있습니다.
대표적으로, 안전하고 신뢰성 있는 서비스 제공을 위한 KT Responsible AI Framework (Governance, Principles, Process, People)를 구축하였으며, AI 전 생애 주기에 걸쳐 잠재적 위험을 발굴하고 그 영향을 평가하는 “영향평가”와 예측 불가능한 위험을 다각도로 평가하는 “안전평가” 절차 등을 수립하고 적용하였습니다.
뿐만 아니라, KT Responsible AI Report (K RAI) 및 Responsible AI Technical Report (Responsible AI Technical Report)를 발간하는 등 활동 내용을 적극적으로 공개하고 있습니다. 또한 AI 외부 자문위원회를 지속적으로 운영하며 평가의 객관성과 신뢰성을 높이는 노력도 이어가고 있습니다.
K RAI Assessment 소개
저는 다양한 RAI 업무 중 RAI 평가툴 개발 및 평가 효율화를 주로 담당하고 있습니다. 팀 내에서 RAI 평가를 보다 체계적으로 수행하고자 평가툴을 개발해 활용했으나, 운영 과정에서 몇 가지 아쉬움 점을 발견했습니다.
기존에 내부적으로 사용하던 RAI 평가툴은 평가를 메인 업무로 수행하는 사람이 아니면 활용하기 어렵다는 한계가 있었습니다. 그 이유는 크게 세 가지였습니다. 우선 RAI에 대한 전문 지식이 없으면 평가 자체를 수행하기가 어려웠고, 복잡한 평가 설정 탓에 상당한 시간이 소요되었습니다. 마지막으로, 평가를 완료하더라도 결과를 해석해 실질적인 Action Item을 도출하는 것이 어려웠습니다.
이러한 점들을 해결하기 위해 팀원들과 고민하였고, 그 결과 탄생한 것이 바로 K RAI Assessment입니다. 웹 포털 형태로 제공되는 K RAI Assessment는 사용자의 요청에 따라 안전성·강건성을 포함한 전체 RAI 평가 영역을 손쉽게 지원하여, RAI에 익숙하지 않은 사람도 평가를 원활히 수행할 수 있도록 설계되었습니다. 또한 전 과정에 멀티 에이전트 시스템을 도입해 평가 효율을 높이는 동시에, 사용자와의 상호작용을 통한 평가 리포트 분석 기능을 제공합니다. 이를 통해 누구든 평가 수행부터 결과 해석, 완화 방안 도출까지의 전 과정을 일관되고 효과적으로 진행할 수 있습니다.
MWC에서의 K RAI Assessment
이번 전시를 통해 느낀 것은, RAI 분야에 대한 대중의 인지도가 아직은 높지 않다는 점이었습니다. 그러나 현장에서 RAI의 개념과 필요성을 설명드리면, 대부분의 관람객분들이 그 중요성에 깊이 공감하며 평가 방법에 대해 적극적으로 질문을 이어가셨습니다.
특히, KT가 어떤 리스크를 정의하여 평가를 수행하는지, 그리고 자신들이 생각하는 리스크를 직접 추가해 평가할 수 있는지에 대한 문의가 많았습니다. 이러한 질문들에 답하는 과정에서 K RAI Assessment의 실제 동작을 시연해 드렸을 때, 주의 깊게 지켜보시며 긍정적인 반응을 보여주시는 관람객분들이 많으셨습니다.
또한 최근 주목받고 있는 Physical AI와 AI Agent를 언급하며 앞으로 RAI의 중요성이 더욱 커질 것 같다고 이야기해 주시는 관람객분들도 있으셨습니다. 저 역시 이 점에 크게 공감하며, 기존 모델 중심의 평가와는 달리 Physical AI와 AI Agent에 적합한 평가 체계를 마련하기 위해 보다 철저한 준비가 필요하다는 것을 실감했습니다. 현재, 팀원들과 이러한 새로운 변화의 흐름에 맞춰 어떤 리스크를 정의하고 어떻게 평가할 것인지에 대한 논의를 활발히 이어가고 있으며, 이러한 노력을 바탕으로 모델을 넘어 다양한 AI 영역에서 KT가 RAI를 선도해 나갈 수 있을 것이라 기대합니다.
마치며
이번 MWC 출장을 준비하고 다녀오며 느낀 점은 크게 2가지입니다.
첫 번째로, 좋은 팀원들과 함께 일할 수 있음에 감사한 마음을 가지게 되었습니다. 기존에도 업무를 수행하며 팀원들에게 많은 도움을 받아 항상 감사한 마음을 가지고 있었으나, 이번 MWC를 준비하며 그러한 마음이 더 커지게 되었습니다. 업무 시간이 끝났음에도 불구하고 늦은 시간까지 함께 남아 준비 과정을 도와주시고, 더 좋은 결과물을 위해 끊임없이 고민하고 조언해 주신 팀원분들을 보며 저 또한 더 책임감을 가지고 준비할 수 있었고 한 단계 더 성장할 수 있었던 것 같습니다. 앞으로도 이러한 마음을 잊지 않고, 팀원들이 비슷한 상황에 있을 때 최선을 다해 지원하며 팀원들에게 도움이 되는 사람이 되고자 다짐하게 되었습니다. 아울러 많은 도움을 주신 유관부서 분들께도 진심으로 감사드립니다.
두 번째로, MWC 전시를 관람하며 다양한 기업과 연구자들의 아이템을 살펴보는 것이 큰 동기부여가 되었습니다. 평소 RAI 관련 업무를 수행하며 RAI 관련 정보를 많이 접하지만, MWC에서 다른 기업과 연구자들이 어떤 주제로 출품하였는지 둘러보며 보다 폭넓은 시야를 갖게 되었습니다. 전시 아이템뿐만 아니라 화려한 부스와 열정적인 분위기 등 다양한 모습들이 인상 깊었으며, 매우 의미 있는 시간이었다고 생각합니다. 앞으로 더 많은 동료들이 이러한 기회를 경험할 수 있기를 바랍니다.