K Model의 전 라인업을 아우르다, 학습 기술 설계자의 시선

요즘 어떤 팀에서 어떤 일들을 하고 계신가요?

저는 KT A‑Intelligence 팀에서 일하고 있습니다. 저희 팀은 K Model 전 라인업을 개발하고 있고, 크게 네 가지 축으로 나뉩니다.

협력 모델: Microsoft와 함께 개발한 SOTA K(GPT‑4o 기반). 한국적 지식과 윤리를 반영해 올해 9월 출시했습니다.
오픈소스 기반 모델: Meta Llama 기반의 Llama K. CPT(Continual Pre‑Training), SFT/RL 등 전 과정을 독자 개발했고, 마찬가지로 9월 공식 출시했습니다.
특화 모델: 금융·법률·의료 등 특정 도메인에 맞춘 반완성형 모델로, 각 도메인의 니즈에 빠르게 적용할 수 있도록 설계했습니다.
독자 모델: 믿:음 K의 SFT/RL 과정을 독자 모델 개발팀과 협업해 진행하며, KT 전체 K Model 개발에 기여하고 있습니다.

그중에서도 어떤 역할을 맡고 계신가요?

저는 모델 학습을 위한 기술 설계와 개발을 총괄합니다.LLM 개발의 핵심은 목적에 맞는 학습 파이프라인과 고품질 데이터 확보입니다. 특히 대규모 GPU 자원을 효율적으로 활용하고, 데이터 정제·개선을 체계화하는 기술이 중요하죠. 현재 Llama K와 특화 모델의 학습 파이프라인 설계, 데이터 구축→정제→개선까지 전반을 책임지고 있습니다. 고성능 모델의 토대를 다지는 역할이라고 보시면 됩니다.

지금까지 어떤 커리어를 걸어오셨나요?

2022년 KT 입사 후, AICC 사업에 활용할 KT‑ELECTRA 모델 개발과 경량화를 진행했습니다. 이 모델은 금융 고객사의 AICC 서비스에 적용되었고, 후후 앱의 보이스피싱 탐지 모델로도 쓰였습니다. 이후 kt cloud HAC 환경 기반 LLM 학습 파이프라인을 개발하며 본격적으로 LLM 업무에 뛰어들었고, 작년부터는 학습 기술 설계와 데이터 정제/개선 등 전체 학습 프로세스를 총괄하고 있습니다.

이 일을 하면서 언제 가장 뿌듯함을 느끼세요?

제가 하는 일은 미지의 바다를 항해하는 기분과 닮았습니다. 목표를 향해 가다 보면 예상치 못한 길로 빠지기도 하고, 때로는 정확한 항로를 찾아내기도 하죠.그 과정에서 올바른 방향을 정의했을 때, 그리고 모델이 목표 성능을 달성했을 때 가장 큰 보람을 느낍니다. 단기 목표는 독자 모델의 성공적 개발, 장기 목표는 신뢰받는 전문가로 성장해 PM 역할까지 수행하는 것입니다.

이 일을 잘하려면 어떤 역량이 필요할까요?

다양한 프로젝트 경험이 큰 도움이 됩니다. Kaggle·DACON 같은 플랫폼에서 팀 프로젝트를 해보는 것도 좋은 시작이에요.무엇보다 끈기와 호기심이 핵심입니다. LLM 개발은 시행착오가 많은 분야이기에, 실패를 견디고 다시 도전하는 태도와 새 기술을 탐구하는 마음가짐이 필요합니다.

기억에 남는 프로젝트가 있다면 소개해 주세요.

가장 인상 깊었던 프로젝트는 Llama K 개발입니다. 처음부터 학습하면 비용·시간이 크기 때문에, 오픈소스 기반의 한국적인 실용 모델을 만드는 것을 목표로 했습니다. 처음에 세 가지 목표를 세웠습니다.

기존 Llama 성능 유지
한국적 지식 확장
지시 이행 성능 강화(Instruction Following)

작년 상반기부터 학습 파이프라인을 개발했고, 작년에 74B 모델을 두 차례 개발하며 목표 1·2를 달성했습니다. 올해 9월에는 목표 3까지 달성한 지시 이행 성능을 강화한 74B 모델을 출시해, KT의 공식 Llama K 첫 상용 모델을 선보였습니다.

그 프로젝트에서 어떤 역할을 하셨나요?

저는 Multi‑GPU/Node 기반 학습 파이프라인을 설계·구현했습니다. 당시 8개 이상의 GPU 학습 경험이 없었기에, 100장+ GPU를 활용할 수 있는 파이프라인을 새로 설계해야 했습니다. 4D Parallelism(Data/Tensor/Context/Pipeline) 구조를 적용해 효율적 분산 학습을 구현했고, Llama‑Pro, Chat Vector, LongPO, GRPO 등 최신 학습 기법을 빠르게 반영했습니다. 이 기술적 기반을 통해 Llama K의 목표 성능 달성에 기여했습니다.

프로젝트에서 가장 신경 쓴 부분은 어떤 거였나요?

데이터가 성능의 핵심이라고 봅니다. 그래서 정제와 개선에 가장 많은 공을 들였습니다.작년 2월, 한국어 특화 Reward 모델을 개발해 안정성과 지시 이행 성능을 높일 수 있는 데이터 정제 기술을 마련했고, 고품질 데이터 확보에 집중했습니다.

협업 중에 어려운 상황이 생기면 어떻게 풀어나가세요?

협업을 하다 보면 일정·방향 조율에서 충돌이 생깁니다. 그럴 때 저는 늘 상대방의 입장을 먼저 생각하며 내부 점검부터 합니다.내부에서 할 수 있는 것을 다 해본 뒤 외부 소통을 시작하는 것이 예의이자 배려라고 믿고, 실제로 갈등 완화에 큰 도움이 되었습니다.

앞으로 함께할 동료들에게 전하고 싶은 말이 있다면요?

“난 해적왕이 될 거야! 너, 내 동료가 돼라!” - 원피스 루피의 말처럼, 저희는 글로벌 경쟁력을 갖춘 K Model 개발을 함께 항해할 동료를 찾고 있습니다.수많은 도전과 시행착오 속에서도 방향을 잃지 않기 위해서는 기술에 대한 호기심, 문제 해결을 향한 끈기, 함께 성장하려는 열정이 꼭 필요합니다. 저희 팀은 새로운 기술과 가능성에 끊임없이 도전하고, 서로의 강점을 존중하며 배우는 문화를 지향합니다. 함께라면 더 멀리 갈 수 있습니다.