어떤 팀에서 일하고 계신가요?
저는 KT AI Alignment팀에서 근무하고 있습니다. 저희 팀은 자체 개발한 믿:음 2.0 모델을 기반으로, 사내·외 AX(AI Transformation) 사업에서 필요한 특화 Agent를 개발합니다. 각 사업에서 요구되는 합성 데이터 생성부터 모델 학습 및 평가까지 전 과정을 수행하며, 태스크별 최적 성능을 달성하는 것이 목표입니다. 문서 기반 QA·요약·번역, Text-to-SQL, 사용자 의도 분류, 한국어 문법 교정 등 다양한 태스크를 진행하고 있으며, 최근에는 RAG(Retrieval-Augmented Generation), Function Calling, 멀티에이전트 협업 구조 등 최신 LLM 트렌드를 적극 반영하고 있습니다.
맡은 핵심 역할은 무엇인가요?
저는 사업 요구사항을 충족할 수 있도록 학습·평가 데이터 설계 및 생성을 담당합니다. 이후 해당 데이터로 학습한 모델을 정량·정성 평가해 최적 모델을 선정합니다. 특히 Instruction Following과 RAG 기반 태스크에서 모델의 강건성을 높이는 데이터 전략을 설계하고, 실제 서비스 환경에서 안정적으로 동작할 수 있는 모델을 만드는 데 집중하고 있습니다.
AI 분야로 오기까지의 커리어 여정은?
약 3년간 게임회사의 NLP부서에서 근무했습니다. KT 입사 후에는 믿:음 모델의 Instruction Following, RAG, Function Calling 성능 향상을 위한 데이터 구축 작업을 수행했고, 경기도교육청 PoC, 신한카드 PoC, 경기도청 BMT 등 다양한 프로젝트에 참여했습니다. 최근에는 사내 AICC Agent 개발을 위해 타 부서와 협업하며, 실제 고객 접점에서 활용 가능한 AI 솔루션을 만드는 데 주력하고 있습니다.
이 일을 하며 가장 뿌듯했던 순간은 언제인가요?
모델 테스트 중 “우리 모델이 이런 것까지 할 수 있다고?”라는 순간이 있습니다. 열심히 설계한 데이터로 학습한 모델이 목표했던 태스크에서 뛰어난 성능을 보일 때 큰 보람을 느낍니다. 단기적으로는 다양한 AX 사업에 참여해 저희 팀이 개발한 특화 모델과 Agent가 여러 도메인에서 활약하는 것을 목표로 하고 있습니다. 장기적으로는 AI가 산업과 사회를 어떻게 바꿀지 직접 목격하고, 그 변화의 중심에서 기여하고 싶습니다.
이 직무에서 성공하려면 어떤 역량이 필요할까요?
기본적으로 LLM 학습 프레임워크에 대한 이해와 모델 학습·평가 경험이 큰 도움이 됩니다. 하지만 그보다 중요한 것은 적응력과 문제 해결 능력입니다. 새로운 도메인과 태스크가 주어질 때 요구사항을 빠르게 분석하고, 최적의 학습 전략을 설계하는 역량이 필요합니다. 또한, 폭넓은 아이데이션과 반복 작업 자동화를 위해 LLM·툴 활용 능력도 업무 퀄리티와 속도 개선에 큰 역할을 합니다.
가장 도전적이었던 프로젝트는 무엇이었나요?
가장 기억에 남는 프로젝트는 경기도청 BMT(Blind Model Test)입니다. 공공·행정 도메인에서 QA, 요약, 번역을 비롯해 회의 관리, 보도자료 작성 등 다양한 태스크를 수행할 수 있는 모델이 필요했습니다. 데모까지 주어진 시간은 2주도 채 되지 않았고, 그 안에 데이터 수집·생성, 모델 학습, 평가를 모두 완료해야 했습니다. 저는 요약 및 수리 추론 QA 태스크를 맡아 합성 데이터 생성과 모델 평가를 담당했습니다. 특히 RAG 성능 강화가 핵심 과제였기 때문에, 학습 데이터 생성 과정에서 문서의 길이 및 관련성 등을 종합적으로 고려하여 retrieval 결과의 다양성을 녹여내고자 노력했습니다. 또한, 모델의 출력 포맷과 스타일을 사용자 친화적으로 설계하기 위해 팀원들과 지속적으로 논의했습니다.
결과적으로 BMT에서 우수한 성적을 거두었고, KT 컨소시엄이 해당 사업을 수주하는 데 기여했습니다. 이 프로젝트를 통해 짧은 시간 안에 고품질 모델을 만드는 민첩성과 팀워크의 힘을 다시 한번 느낀 경험이었습니다.
협업 과정에서 갈등은 어떻게 풀어가나요?
PoC나 BMT는 일정이 촉박해 주말 근무나 야근이 불가피할 때도 있습니다. 하지만 팀원들과의 신뢰와 유대감 덕분에 매번 극복할 수 있었습니다. 또한, 협업 시 의도 전달이 어긋나는 경우가 종종 발생하는데, 그럴 때는 각자가 이해한 내용을 명확히 공유하고, 요구사항을 구체적으로 문서화하는 방식으로 문제를 해결합니다. 결국 소통의 투명성이 갈등을 줄이는 핵심이라고 생각합니다.
예비 동료에게 전하고 싶은 한마디는?
개성 넘치고 유쾌한 팀원들이 기다리고 있습니다! 함께 믿:음 모델을 진화시키고, 다양한 산업에서 AI Agent를 구현하는 여정에 합류해 주세요. 도전과 성장이 공존하는 팀에서, 여러분의 아이디어가 곧 혁신이 됩니다.
