Interviews

SOTA K, 글로벌 협력에 기반한 한국적 AI의 시작

이시윤_썸네일.png



요즘 어떤 팀에서 어떤 일들을 하고 계신가요?

저희 A‑Intelligence 팀은 이미 학습된 대규모 모델(Pre‑trained LM)을 바탕으로 범용 모델특화 모델을 함께 개발합니다. 

  • 범용 모델은 여러 주제를 폭넓게 이해·처리하는 데 강점이 있고,
  • 특화 모델의료·금융·법률처럼 특정 도메인의 문제를 깊이 있게 풀어내는 데 최적화되어 있습니다.

현재는 Microsoft와 협업한 SOTA K(built on GPT‑4o), 팀에서 자체 개발 중인 Llama K 같은 범용 모델을 만들고 있고, 동시에 도메인별 특화 모델도 연구하고 있습니다. 최근에는 믿:음 K 2.0 프로젝트에도 참여하고 있습니다. 모델을 만들 때는 기존 모델이 가진 일반 지식(General Knowledge)을 유지하면서 새로운 도메인 지식을 자연스럽게 흡수하도록 하는 게 중요합니다. 그래서 데이터 수집 → 학습 → 평가 → 성능 분석까지 전 과정을 직접 수행하고, 실제 서비스와의 연결까지 함께 고민합니다.

그중에서도 어떤 역할을 맡고 계신가요?

저는 팀 내에서 SOTA K의료 특화 모델 개발을 담당하고 있습니다. Microsoft 엔지니어들과 협업하면서 GPT‑4o 기반 모델에 한국적 문맥과 지식을 풍부하게 반영하려고 노력했고, 의료 모델데이터 수집 → 학습 설계 → 성능 평가까지 End‑to‑End로 직접 챙기고 있습니다. 성격과 규모가 다른 두 프로젝트를 함께 진행하면서 다양한 경험을 축적할 수 있었던 것 같습니다.

지금까지 어떤 길을 걸어오셨나요?

저는 2021년 스타트업에서 자연어처리(NLP)로 커리어를 시작했습니다. 초기에는 인코더 모델을 대상으로 OCR 문서 정보 추출, 도메인 특화 모델 개발을 담당했고, 이후 생성형 모델로 넘어가 연장 사전학습(Continual Pre‑training)과 검색증강생성(RAG, Retrieval‑Augmented Generation) 프로세스 개발을 연구했습니다. 이런 경험을 바탕으로 2024년 8월 KT에 합류했고, 현재는 SOTA K의료 특화 모델 개발을 중심으로 일하고 있습니다.

이 일을 하면서 언제 가장 뿌듯함을 느끼세요?

LLM 개발은 한 번에 끝나는 일이 아닙니다. 수많은 가설을 세우고, 데이터를 다듬고, 실험을 반복하면서 조금씩 나아가는 과정이죠. 우여곡절 끝에 실험 결과가 예상대로 나오고, 특히 성능이 눈에 띄게 향상될 때 느끼는 성취감이 정말 큽니다. 
지금은 진행 중인 프로젝트를 잘 마무리하는 것이 단기 목표이고, 장기적으로는 축적된 직무 경험을 바탕으로 현재 하고 있는 직무에서 계속해서 경쟁력 있는 사람으로 성장하는 것이 목표입니다.

이 일을 잘하려면 어떤 역량이 필요할까요?

기술적 지식과 별개로 시각화 능력커뮤니케이션 스킬이 정말 중요하다고 생각합니다. 개발자의 결과물은 대개 숫자와 기술 용어로 표현되기 때문에, 이를 타인에게 명확히 설명하고 설득력 있게 전달하는 능력이 필요합니다. 프레젠테이션과 시각화로 내가 한 일을 논리적으로 정리해 보여주는 역량이 큰 도움이 됩니다. 또 이 분야는 매일 새로운 기술이 쏟아지는 곳이라, 논문이나 오픈소스빠르게 실험해보고 자기 것으로 만드는 자세가 중요하다고 생각합니다.


이시윤1 (3).JPG


기억에 남는 프로젝트가 있다면 소개해주세요.

가장 기억에 남는 건 최근 진행한 SOTA K 개발 프로젝트입니다. GPT‑4o 기반으로 한국어와 한국 문화에 특화된 글로별 협력 모델을 만들자는 목표로 시작했고, 작년 10월부터 약 7~8개월 동안 사내 4개 Lab이 협업했으며 Microsoft 엔지니어들과 매주 미팅을 이어갔습니다. 개발 과정에서 시행착오도 많았지만, 안전성 테스트까지 통과해 상용화에 성공했을 때 정말 뿌듯했습니다. 규모와 완성도 면에서 제 커리어 중 가장 큰 프로젝트였던 것 같습니다.

그 프로젝트에서 어떤 역할을 하셨나요?

프로젝트는 파트장님이 전체 리딩을 맡으셨고, 저는 실무 전반을 서포트했습니다. SFT와 RLHF 데이터 구축, 모델 출력 평가 파라미터 최적화, 시스템 프롬프트 테스트, 고객사 PoC 등 다양한 실무를 담당했고, 사내 행사 발표AI Festa 2025에서 모델 소개도 맡아 개발 외 커뮤니케이션 경험도 할 수 있었습니다.

프로젝트에서 가장 신경 쓴 부분은 어떤 부분이었나요?

무엇보다 SOTA K 'SOTA(State of the Art)'라는 의미에 걸맞은 성능을 확보하는 것이 가장 중요했습니다. 정량 지표뿐만 아니라 답변의 자연스러움·완성도 같은 정성적 품질도 함께 고려했습니다. 단순히 점수만 좋은 모델이 아니라 사용자가 믿고 쓸 수 있는 모델을 만드는 게 목표였죠.

협업 중에 어려운 상황이 생기면 어떻게 풀어나가세요?

여러 팀이 함께하면 일정·방향 조율에서 충돌이 생길 수 있습니다. 그럴 때는 한발 물러서 “이 프로젝트의 진짜 목적은 무엇인가?”를 먼저 생각합니다. 그 관점으로 보면 감정에 휘둘리지 않고 문제의 본질을 명확히 인식실질적 해결책을 찾을 수 있었습니다.

앞으로 함께할 동료들에게 전하고 싶은 말이 있다면요?

AI 분야는 정말 매일 새로운 기술이 쏟아지는 곳입니다. 그래서 끊임없이 배우고 실험하는 자세가 중요하죠. 하지만 그만큼 보람도 큽니다. 내가 만든 모델이 실제 서비스에 적용되는 순간의 감동은 정말 말로 다 할 수 없습니다. 두려움 없이 도전하고 함께 성장할 준비가 되어 있다면, 분명 멋진 결과를 함께 만들어갈 수 있을 것입니다!

이시윤2 (2).JPG


이시윤

KT에서 협력 모델과 의료 특화 모델 개발을 담당하고 있습니다.

이전 글