요즘 어떤 팀에서 어떤 일들을 하고 계신가요?
저희 A‑Intelligence 팀은 KT의 언어 모델 라인업 중 범용 모델과 특화 모델 개발을 담당합니다.
-
범용 모델은 크게 오픈소스 기반 모델과 협력 모델로 나뉩니다.
-
오픈소스 기반 모델: Meta의 Llama를 확장한 Llama K
-
협력 모델: Microsoft와 함께 만든 GPT 기반 SOTA K
-
-
특화 모델은 금융·법률·의료 등 특정 도메인에 최적화된 모델로, 전문 지식과 기술을 사전 학습해 빠른 사업 적용이 가능하도록 설계된 반완성형 모델입니다.
그중에서도 어떤 역할을 맡고 계신가요?
저는 Llama K 모델 개발과 금융 특화 모델 개발을 담당하고 있습니다. Llama K는 740억(74B) 파라미터 규모의 모델로, Meta의 Llama를 기반으로 한국어·한국 문화·한국어 지시 이행(Instruction Following) 추론 (Reasoning) 능력을 강화했습니다.실용성을 중심으로 설계되었고, 믿:음 K 2.0과 SOTA K 사이의 중간 규모 모델로 포지셔닝되었습니다. 25년 9월 공식 출시를 완료했습니다.
지금까지 어떤 커리어를 걸어오셨나요?
KT 입사 15년 차입니다.이전에는 전자회사에서 근무하다가 2011년 경력 채용으로 KT에 합류했습니다. 입사후 중앙연구소에서 IoT·로봇 관련 업무를 하며 말하는 키봇 PoC를 통해 대화 시스템과 처음 인연을 맺었고, 이후 기가지니 대화 서버 개발, DialogKit 개발, AI Core 서비스 개선 TF 등 대화 시스템 중심 업무를 이어왔습니다.또한 K Intelligence Studio의 전신 LETS 개발에도 참여했고, 현재는 언어 모델 개발에 집중하고 있습니다.
이 일을 하면서 언제 가장 보람을 느끼세요?
70B 이상 대규모 모델을 Pre‑training 단계부터 직접 개발할 수 있다는 건 국내에서는 흔치 않은 기회입니다.이런 프로젝트는 회사 차원의 전폭적 지원 없이는 불가능하고, 개인적으로도 정말 값진 경험이라고 생각합니다. 그래서 이 기회를 준 조직과 회사에 의미 있는 성과로 보답하는 것이 제 미션이고, 동시에 큰 책임감도 느끼고 있습니다.
이 일을 잘하려면 어떤 역량이 필요할까요?
무엇보다 새로운 지식에 대한 호기심과 탐구심, 그리고 수많은 실패를 견디고 다시 도전할 수 있는 회복 탄력성이 중요합니다.여기에 끈기와 문제 해결 능력이 더해져야 이 분야에서 꾸준히 성장할 수 있다고 봅니다.
기억에 남는 프로젝트가 있다면 소개해주세요.
가장 기억에 남는 건 Llama K 개발 초기입니다.당시 목표는 Llama 8B 모델 기반으로 한국어 능력 강화였고, 많은 시행착오를 겪으며 고군분투했습니다. 대규모 LLM 개발은 책으로 배울 수 없는 영역이라, 논문·커뮤니티 글을 참고하며 빠른 실험과 방향 설정에 집중했습니다.처음엔 Llama 8B → 11.6B 확장 모델을 만들었고, 가능성을 확인한 뒤 2024년 연말에는 70B → 74B 확장 모델을 완성했습니다. 25년 9월에는 지시 이행 능력과 Agentic 성능 강화를 거쳐 74B 모델 상용화에 성공했습니다. 이 모델이 바로 KT의 Llama K 입니다. 당시에는 모든 걸 처음부터 만들어야 하는 상황이었지만, 팀원들의 열정과 Lab의 전폭적 지원 덕분에 상용화라는 성과를 낼 수 있었습니다. 정말 고생스럽고 의미 있는 프로젝트였습니다.
그 프로젝트에서 어떤 역할을 하셨나요?
저는 프로젝트 매니저(PM)로서, 개발이 초기 목표에 맞게 진행되는지 점검하고, 일정 리스크를 사전 파악, 팀원들이 집중해야 할 핵심 영역 분석·조언을 맡았습니다.
예를 들어:
-
Tokenizer 확장 여부
-
Transformer Layer 확장 개수
-
학습할 Layer vs 고정할 Layer 선정
-
데이터 수량·구성
-
Data feeding 전략·annealing 방식
-
Alignment 학습 데이터·방법
이런 요소를 하나하나 점검하고, 실험 설계 아이디어 제시, 명확한 방향 설정을 지원했습니다.모든 걸 실험으로 검증할 시간은 부족했기에, 우선순위 설정과 집중 포인트 조율에 주력했습니다.
프로젝트에서 가장 신경 쓴 부분은 어떤 거였나요?
가장 중요하게 생각한 건 모델이 실제 사용자에게 실질적 가치를 줄 수 있는가였습니다. 예를 들어, 공공 부문에서는 특정 포맷에 맞춰 한글 문서 작성이 필요한데, 기존 오픈소스 모델들은 이런 제약 조건을 잘 따라주지 못했습니다.그래서 세부 튜닝과 실사용 환경 맞춤 개선에 집중했습니다.
협업 중에 어려운 상황이 생기면 어떻게 풀어나가세요?
여러 조직과 협업하다 보면 일정·방향 조율 충돌이 생기기 마련입니다.그럴 때 저는 항상 “혹시 우리가 잘못하고 있는 건 아닐까?”라는 시선으로 먼저 내부를 점검합니다.내부적으로 할 수 있는 건 다 해본 뒤 외부와 소통하는 것이 상대방에 대한 예의이자 배려라고 생각합니다. 실제로도 갈등을 줄이는 데 큰 도움이 됐습니다.
앞으로 함께할 동료들에게 전하고 싶은 말이 있다면요?
저희 팀은 대규모 언어 모델 개발이라는 도전적 과제를 함께 풀고 있습니다.정답이 없는 문제 앞에서 방향을 설정하고, 제한된 자원 속 최선의 결과를 만들어야 하는 순간이 많습니다. 하지만 그만큼 배우는 것도 많고, 함께 만들어가는 성취감도 큽니다.기술에 대한 열정, 문제 해결에 대한 끈기, 그리고 서로에 대한 존중이 우리 팀의 핵심입니다.여러분의 새로운 시각과 에너지가 큰 힘이 될 거라 믿습니다. 함께 의미 있는 성과를 만들어가요!
