개요
안녕하세요. KT Decision Intelligence Lab에서 데이터 사이언티스트 역할을 하고 있는 이욱입니다.
최근 산업 전반에서 AI와 데이터 기반 의사결정의 중요성이 급격히 부상하고 있습니다. 초개인화 서비스, 실시간 마케팅, 네트워크 장애 예측, 고객 이탈 방지, 신규 상품 추천 등 다양한 비즈니스 혁신은 모두 데이터와 AI의 유기적 결합에서 출발합니다. 하지만 데이터가 ‘AI가 곧바로 학습할 수 있는 형태’로 준비되어 있지 않다면, 아무리 뛰어난 AI 기술이 있더라도 현장 적용 속도와 효율은 제한될 수밖에 없습니다.
KT 내부에서는 매일 수십억 건의 데이터가 생성되고 있습니다. 그러나 데이터의 양이 곧 AI 혁신으로 이어지는 것은 아닙니다. 실제 현장에서는 데이터 표준화, 품질 관리, 재사용성 확보, 신뢰성 보장 등 수많은 과제가 존재하며, 이러한 문제들은 AI 모델 개발 속도와 의사결정 품질을 저해하는 주요 요인으로 작용하고 있습니다.
이러한 한계를 극복하기 위해 KT는 K Feature Map(KFM)이라는 새로운 데이터 표준화·카탈로그 체계를 도입하였습니다. KFM은 단순한 데이터 저장소가 아니라, KT의 데이터를 Feature 단위로 정의·표준화·카탈로그화하여 AI가 즉시 활용할 수 있는 형태로 제공하는 데이터 레이어입니다. 즉, KFM은 KT의 모든 데이터를 AI 친화적 언어로 정리한 공용 지도(Map)로, 데이터와 AI를 연결하는 핵심 플랫폼으로 자리매김하고 있습니다.
방대한 데이터에 비해 왜 AI는 더디게 움직일까?
AI가 화두가 된 지는 오래되었지만, 막상 기업 현장에서 데이터를 AI 모델에 바로 활용하기는 쉽지 않습니다. 많은 조직이 “데이터는 충분히 있다”고 말하지만, 정작 모델링 단계에 이르면 데이터가 정의되지 않았거나, 정제되지 않았거나, 신뢰할 수 없는 상태로 존재하는 경우가 많습니다.
KT 역시 매일 수십억 건의 통화·데이터·IPTV 로그를 수집하지만, 이를 모델이 이해할 수 있는 Feature 단위로 바꾸는 과정은 여전히 많은 인력과 시간이 소모됩니다.
-
데이터 엔지니어는 원천 로그를 추출·정제·가공하며, 각 시스템의 스키마 변화나 수집 로직을 일일이 관리해야 합니다.
-
데이터 사이언티스트는 이미 존재하는 피처를 재활용하기 어려워, 매번 같은 파생 변수를 새로 구현합니다.
-
비즈니스 조직은 부서마다 “이탈 고객”, “활성 이용자” 등 주요 지표의 정의가 달라, 분석 결과를 서로 신뢰하지 못합니다.
이러한 과정을 통해 결국 데이터 파이프라인의 각 단계가 단절되고, AI 모델이 만들어지는 속도보다 데이터 정합성을 맞추는 시간이 더 오래 걸리는 상황이 반복됩니다. 그로 인해 다음과 같은 문제점들이 발생합니다.
1. 재사용성 부족
-
유사한 피처를 여러 조직에서 중복 개발하고 있습니다. 예를 들어 ‘고객 이탈 위험도’ 피처가 마케팅, 고객관리, 상품담당 조직에서 각기 다른 정의로 재구현 될 수 있습니다. 이로 인해 팀 간 분석 결과가 달라지고, 유지보수와 검증에도 불필요한 인력이 반복 투입됩니다.
-
글로벌 기업들은 이러한 비효율을 줄이기 위해 Feature Store, Data Catalog 등 데이터 표준화를 도입해 재사용성과 일관성을 확보하고 있습니다.
2. 데이터 불일치(train–serve skew)
-
학습 환경과 운영 환경 간의 Data Drift로 인해, 모델이 서비스에서 기대한 성능을 내지 못하는 사례가 많습니다.
-
예를 들어, 학습 시점에는 결측이 없던 피처가 운영 시점에는 결측이 생기거나, 집계 로직이 미묘하게 달라져 예측 결과가 달라지는 경우가 반복됩니다.
- 새 모델을 개발하기 위해 데이터 파이프라인부터 구축해야 하므로, 아이디어 검증에만 많은 시간이 소요됩니다.
- 현장에서는 “데이터 준비만 2~3주, 모델 실험은 2~3일”이라는 말이 나올 정도로, 데이터 준비 과정이 AI 프로젝트의 주요 병목이 되고 있습니다. 이로 인해 좋은 아이디어가 있어도 실험 속도가 느려 기회비용이 커지고, 팀 전체의 생산성도 떨어집니다.
4. 품질 관리의 부재
-
어떤 데이터가 언제, 어떤 소스로부터 만들어졌는지를 추적하기 어렵습니다. 따라서 데이터 오류나 품질 저하가 발생했을 때 원인 파악과 복구에 장시간이 소요됩니다.
-
Data Lineage, 품질 지표, 이상 탐지 같은 체계적 관리가 부재해, “데이터를 믿기 어려운 환경”이 형성되고 있습니다.
KT는 이러한 문제를 근본적으로 해결하기 위해 ‘KFM(K Feature Map)’이라는 새로운 데이터 레이어를 구축했습니다.KFM은 AI가 이해할 수 있는 표준화된 Feature 단위의 데이터 플랫폼으로, “데이터 준비보다 모델링에 집중할 수 있는 환경”을 만드는 것을 목표로 합니다.
K Feature Map이란 무엇인가?
KFM(K Feature Map)은 KT의 방대한 데이터 자산을 AI 실행 단위인 Feature로 정의하고, 이를 표준화·카탈로그화한 체계입니다. 즉, “KT의 모든 데이터를 AI가 올바른 학습을 할 수 있도록 안내해주는 지도(Map)”로서, 데이터와 AI를 연결하는 핵심 허브 플랫폼입니다.
-
왜 필요한가?
AI/데이터 분석 현장에서 가장 큰 난제는 “데이터를 어떻게 정의하고, 어떤 단위로 사용할 것인가”입니다.
같은 데이터라도 프로젝트마다 정의가 다르고, 집계 방식이나 기준 시점이 달라지면 결과 해석이 달라집니다.
KFM은 이러한 혼선을 해소하기 위해, 모든 데이터를 AI가 이해할 수 있는 Feature 단위로 분해하고, 그 정의·산출 과정·
품질 기준을 표준화합니다.
-
Feature란?
-
표준화·카탈로그화란?
또한, KFM은 단순한 데이터 저장소(Data Warehouse)가 아닙니다.
데이터 웨어하우스가 원천 데이터를 보관하는 공간이라면, KFM은 그 데이터를 AI가 즉시 학습에 사용할 수 있도록 Feature 단위로 정제·표준화·품질 검증까지 완료한 ‘AI 친화적 데이터 레이어’입니다.
K Feature Map 주요 기능 및 기술적 구성
표준화된 피처 정의
KFM은 모든 데이터를 AI가 이해할 수 있는 Feature 단위로 정의하고, 이를 전사적으로 표준화합니다. 이로써 부서·팀·프로젝트별로 상이했던 데이터 정의 및 해석의 불일치를 해소합니다. 아래 표와 같이 각 피처의 이름과 그에 따른 정의를 예시로 서술합니다.
|
Feature명 |
정의 |
설명 |
|---|---|---|
|
상품 가입 기간 |
모바일 상품을 가입한 기간 |
가입자 이력 피처 |
|
OTT Heavy User |
월간 OTT 이용 시간 > 30시간 |
콘텐츠 소비 성향 피처 |
|
고가 단말 보유 |
최근 1년 내 출고가 100만원 이상 단말 사용 |
디바이스 가치 피처 |
KFM은 이런 정의를 데이터 사전(Feature Catalog)에 등록하여, 조직 전체가 동일한 언어로 데이터 활용을 보장함으로써 부서/팀/프로젝트별로 달랐던 데이터 정의와 해석의 혼선을 없앱니다.
피처 카탈로그 & 메타데이터 관리
KFM은 단순히 Feature 정의만 하는 것이 아니라, 메타데이터와 품질 정보를 체계적으로 관리합니다. 아래 표와 같이 생성주기, 출처, 데이터 계보, 품질 지표 등이 그 예시입니다.
|
구분 |
설명 |
|---|---|
|
생성 주기 |
실시간 / 일 / 월 단위 등 적재·갱신 주기 명시 |
|
출처(Source) |
통신망 로그, 결제 이력, IPTV 시청 로그 등 원천 데이터 |
|
Lineage(데이터 계보) |
어떤 원천 데이터를 거쳐 Feature가 생성되었는지 추적 |
|
품질 지표(Quality Metrics) |
결측률, 이상치 비율, 최신성, PSI*, KL Divergence** 등 |
* PSI: Population Stability Index, 데이터 변화 분포 평가지표 중 하나로 수치형 변수를 검증할때 쓰임
** KL Divergence: Kullback–Leibler divergence, 데이터 변화 분포 평가 지표 중 하나로 범주형 변수를 검증할때 쓰임
이러한 정보가 함께 관리되어, “이 피처는 믿고 쓸 수 있는가?”를 데이터 사이언티스트가 바로 확인할 수 있습니다.
K Feature Map 아키텍처
KFM 아키텍처는 원천 데이터의 수집부터 AI/분석 서비스 적용까지 전 과정을 표준화·자동화하여, 데이터 기반 혁신의 토대를 제공합니다. 각 계층은 데이터 품질, 신뢰성, 재사용성, 확장성을 극대화하는 역할을 수행합니다.

Step 1. 원천 데이터 집적층
통화 로그, 데이터 사용량, IPTV 시청 이력, 결제 정보 등 고객의 다양한 활동 데이터가 이 계층에 집적됩니다. 데이터는 포맷과 주기가 상이한 원시(raw) 형태로 수집되며, 방대한 규모의 원천 데이터를 활용하여 주제 영역 별로 데이터를 생성합니다.
Step 2. 데이터 정제 및 Feature화 단계
데이터 정제, 결측치 처리, 이상치 탐지, 집계, 실시간 이벤트 처리 등의 과정이 수행됩니다. 데이터 품질 검증과 모니터링이 자동화되어 있어 오류나 품질 저하 발생 시 즉시 감지 및 알림 기능을 구현하였습니다. 이를 통해 데이터는 AI 및 분석에 바로 활용할 수 있는 Feature 단위로 변환됩니다.
Step 3. KFM Feature Store 관리
정제된 Feature 데이터는 KFM Feature Store에 저장되어 관리됩니다. 이 저장소는 Feature Catalog(정의 및 설명), Metadata(출처, Lineage, 주기, 품질), Storage(Batch·Realtime) 등 다양한 관리 기능을 제공하며, 조직 전반에서 동일한 기준과 언어로 데이터를 활용할 수 있도록 지원합니다.
Step 4. AI·분석 서비스 활용
최종적으로 변환된 Feature들은 마케팅 타겟팅, 고객 이탈 예측, 개인화 추천, Agent API 등 다양한 AI·분석 애플리케이션에서 즉시 활용됩니다. KFM 기반 데이터 활용을 통해 데이터 준비 시간은 단축되고, 모델의 일관성과 신뢰성이 확보되며 Feature 재사용이 가능해 개발 효율성과 확장성이 크게 향상됩니다.
K Feature Map 도입 효과 및 실제 적용 가능 시나리오
| 구분 | Before (KFM 도입 전) |
After (KFM 도입 후) |
|---|---|---|
| 피처 개발 속도 |
2~3주 소요 (팀별 파이프라인 구축) |
2~3일 이내 (카탈로그 호출) |
| 피처 중복 |
동일 피처 중복 개발 다수 |
표준 정의 1회 → 전사 공유 |
| 데이터 불일치 |
학습/서빙 환경 불일치 자주 발생 |
Train–Serve 일관성 확보 |
| 품질 관리 |
수동 검증, 추적 어려움 |
lineage·품질 지표 자동 관리 |
KFM 도입 정량적 효과
-
신규 모델 개발 리드타임 70% 단축: 기존에는 데이터 준비와 파이프라인 구축에만 2~3주가 소요되었으나, KFM 도입 후에는 표준화된 Feature를 즉시 호출하여 2~3일 이내로 단축. 실제로 2024년 하반기 마케팅 타겟팅 모델 개발 프로젝트에서 데이터 준비 기간이 80% 이상 단축
-
피처 중복 개발 50% 이상 감소: 동일/유사 Feature의 중복 개발이 줄어들어, 연간 약 200건 이상의 중복 개발이 방지됨. 부서 간 Feature 공유가 활성화되어, 신규 프로젝트의 데이터 준비 비용이 대폭 절감
-
동일한 Feature 정의를 학습/서빙 환경 모두에서 사용하여 AI 모델 정확도 5 ~ 10% 증가 → 데이터 불일치(train–serve skew) 최소화하여 모델 실험과 서비스 운영 간 데이터 품질 지표의 차이를 줄여, 현업 신뢰도 향상
-
대규모 데이터 환경에서도 1초 이내 응답 성능 확보를 위한 Serving Latency 최적화 → Redis, Kafka와 같은 캐시/스트리밍 파이프라인과 연계하여 실시간 예측 지원
KFM 도입 정성적 효과
-
데이터 신뢰성 강화: Feature 정의·출처·품질 지표를 투명하게 관리되어, 모든 데이터 사용자에게 신뢰할 수 있는 데이터 환경 구축
-
협업 활성화: 표준화된 Feature Catalog 기반으로 데이터 엔지니어·분석가·비즈니스 담당자 간 협업 강화를 통해 고객 이탈 예측, 개인화 추천 등 다양한 프로젝트 활용 사례 증가
-
데이터 기반 의사결정 체계 확산: 데이터 접근성과 품질 향상으로 실험 속도·AI 모델 성능 개선, 데이터 기반 의사결정 문화 확산
-
재사용성과 확장성 확보: 한 번 정의된 Feature를 다양한 도메인·프로젝트에서 다시 활용하고, 신규 데이터 결합으로 활용 범위 확대
KFM 기반 데이터 활용 시나리오
K Feature Map(KFM)은 모바일, 인터넷, TV 등 주요 서비스 영역의 다양한 데이터 피처를 통합하여, AI·ML 기반의 분석과 예측 모델링에 활용할 수 있는 통합 데이터 플랫폼입니다. 이를 통해 각 도메인의 업무 과제를 데이터 기반으로 해결하고, 예측·추천·이상 탐지 등 다양한 형태의 지능형 서비스를 구현할 수 있습니다. 아래는 구체적인 시나리오 예시를 작성했습니다.
시나리오 1) 인터넷 와이파이 트래픽 예측
-
배경
-
재택근무·온라인 학습 확산과 OTT·게임 서비스 이용 증가로, 와이파이 트래픽은 계절·이벤트·요금제에 따라 급격히 변동하고 있습니다.
-
KT는 네트워크 품질을 안정적으로 유지하기 위해, 지역·시간대별 와이파이 트래픽을 사전에 예측하여 장비 증설·부하 분산 계획을 수립할 필요가 있었습니다.
-
특히, K Feature Map(KFM) 에 저장된 가입자·요금제·단말·서비스 이용·위치 기반 피처를 활용하면, 기존 단순 통계 기반 예측보다 훨씬 정교한 수요 예측이 가능할 것으로 기대되었습니다.
-
-
활용 피처 (KFM 기반)
-
통신 서비스 피처: 요금제 유형, 월 별 데이터 사용량, 와이파이 접속 빈도
-
인터넷 피처: 인터넷 n개월 이전 사용량
-
라이프스타일 피처
-
-
적용 모델
-
트래픽 데이터는 시점 간 상관성이 강한 전형적인 시계열 형태, 과거의 장기 패턴(주기·계절성·이벤트 영향)을 반영 가능 → LSTM(장단기 메모리 딥러닝 알고리즘)을 활용하여 시계열성 형태 및 과거 장기 패턴 학습하여 결과 도출
-
타깃: 인터넷 다음 월 사용량
-
-
결과
-
예측 결과를 활용해 부하 분산 계획 자동화율 90% 달성
-
예측→조치 리드타임 24시간 → 2시간 이내 단축
-
-
현장 적용
-
네트워크 운용팀 대시보드에서 예측값 시각화 및 트래픽 경보 알림 자동화
시나리오 2) Agent기반 IPTV / 콘텐츠 개인화 추천
-
배경
-
KT의 IPTV 및 모바일 미디어 서비스에서는 콘텐츠의 다양성이 폭발적으로 증가하면서, 고객 개개인에게 “무엇을 보여줄 것인가”가 핵심 경쟁력이 되었습니다.
-
기존에는 단순히 전체 시청 순위나 장르별 인기 콘텐츠를 기반으로 추천이 이루어졌지만, 이제는 고객의 취향, 이용 맥락, 디바이스 패턴을 반영한 세밀한 개인화 큐레이션이 요구되고 있습니다.
-
이를 해결하기 위해 K Feature Map을 활용한 AI 기반 추천 모델과 LLM Agent를 결합한 차세대 개인화 시스템을 설계할 수 있습니다.
-
-
피처
-
OTT별 사용량 통계
-
고객 별 앱 웹 사용 카테고리 top_k
-
-
활용 모델
-
Candidate generation을 하여 후보군 필터링 개발
-
LLM Agent를 활용하여 생성한 후보 리스트를 요약·설명하고, 대화형 인터페이스로 추천 제공
-
-
결과
-
고객의 메타 정보를 활용한 AI 서비스를 기반한 초개인화 추천 가능
-
대화형 큐레이션으로 인한 보기 쉬운 인터페이스로 인해 CTR 증가
-
향후 계획 및 맺음말
KFM은 앞으로 Agent 연계 및 자연어 질의 자동화, 멀티 도메인 확장, 데이터 파이프라인 자동화, 현장 피드백 루프 고도화를 중심으로 발전합니다. 단기적으로는 KFM 분석 에이전트와 메타데이터 정비를 추진하여 AI가 이해할 수 있는 데이터 환경을 마련하고, 중기에는 대화형 BI로 확장해 자연어 기반 데이터 탐색·시각화·인사이트 자동화를 구현합니다. 장기적으로는 LLM 기반 멀티모달 에이전트로 진화시켜 자연어, 데이터, 문서를 통합 질의할 수 있는 Query-Free 데이터 활용 체계를 완성할 예정입니다. 또한 통신 중심의 KFM을 금융·커머스·OTT 등 외부 도메인으로 확장하여 Cross-domain AI 서비스로 진화시키고, 데이터 파이프라인과 MLOps의 완전 자동화를 통해 데이터→피처→모델→서비스 전 과정을 유기적으로 연결합니다. 이와 함께 현장의 피드백을 반영하는 순환적 데이터 생태계를 구축하여, 데이터 품질과 활용성을 지속적으로 향상시킬 계획입니다.
KFM은 KT의 모든 데이터를 AI 친화적으로 표준화한 공용 데이터 언어이자 비즈니스 성장을 이끄는 데이터 지도(Map)입니다. 데이터 과학자는 더 빠르고 안정적인 실험 환경을, 비즈니스 담당자는 동일한 기준과 언어로 협업할 수 있는 체계를 확보함으로써 데이터 기반 의사결정의 속도와 신뢰성이 크게 높아졌습니다. 앞으로 KFM은 단순한 데이터 관리 시스템을 넘어, AI·데이터·비즈니스가 연결되는 혁신의 중심 플랫폼으로 발전합니다. 통신을 넘어 금융, 커머스, OTT 등 다양한 도메인으로 확장되며, KT의 모든 데이터가 AI와 비즈니스 혁신의 핵심 자산으로 활용되는 데이터 중심 성장의 토대가 될 것입니다.