우리 팀은 어떤 비전을 그리고 있나요
AI Agent Engineering팀은 최첨단 AI 기술을 연구하고, 이를 바탕으로 KT의 사내 표준 Agentic AI 플랫폼을 설계 및 구축하는 일을 합니다. 작년 연구 성과를 바탕으로 올해는 AI Agent Ops 플랫폼을 구축했는데요. AI 기술의 발전뿐 아니라, 사내 컴플라이언스·보안·거버넌스 기준에 부합하는 플랫폼을 만들기 위해 여러 유관 부서와 협업하며 KT만의 엔지니어링 표준을 세우는 프런티어 역할을 자임하고 있습니다.
제 직무를 소개합니다
제 직무는 AI Engineer입니다. 그중에서도 Agentic AI 시스템을 설계·개발·구축하는 엔지니어링 작업을 맡고 있습니다. 지금은 특히 AI Agent의 설계 및 구축에 집중하고 있고요. 장기적으로는 누구나 쉽게 자율적이고 지능적인 AI Agent를 만들고, 평가하고, 통제할 수 있도록 핵심 플랫폼을 만드는 데 주력하고 있습니다. 이를 위해 개발팀이 인프라 환경에 적응하지 않고도 빠르게 Agent를 설계·배포할 수 있도록 표준화된 아키텍처와 지원 체계를 설계하고 있어요.
지금까지 어떤 길을 걸어왔나요?
개발자로 커리어를 시작해, 소프트웨어 아키텍처와 프레임워크 엔지니어링에 흥미를 느끼게 되었습니다. 이후 MSA 아키텍처 연구를 2년간 수행했고, KT NexR로 이직해 Kubernetes 엔지니어링과 솔루션 아키텍트로 활동했습니다. 그때 다뤘던 솔루션이 빅데이터 기반 분석·학습 솔루션이었는데, 이 경험이 현재의 AI Engineer 업무에 큰 자산이 되고 있어요.
기억에 남는 프로젝트가 있다면요?
최근 진행한 AI Agent Ops 플랫폼 구축 프로젝트가 가장 기억에 남습니다. 4개월간 진행된 이 프로젝트는 사내 보안, 거버넌스, 컴플라이언스 요건을 충족하는 AI Agent 개발 및 운영 환경을 제공하는 것이 목적이었습니다. AI Agent Engineering팀 11명, AI Model Engineering팀, 정보보안단 등 센터 주요 인력들과 협력해 추진한 대형 프로젝트였고요. 저는 이 프로젝트에서 플랫폼의 아키텍처 설계 및 구축, 그리고 AI Agent 설계 표준의 정립을 담당했습니다.
특히나 어려웠던 점은 기존 Azure 랜딩존의 틀을 깨야 했다는 점이에요. 수십 번 아키텍처를 설명하고 설득하는 과정은 결코 쉽지 않았지만, 기술과 정책, 요구 사이의 조율자로서 중요한 역할을 수행했다고 생각합니다. 작지만 가장 효과적이었던 결정은, 개발팀의 인프라 신청 작업을 저희가 직접 대행하기로 한 것이었어요. 이 작업이 너무 복잡해 개발팀이 Agent 개발 자체를 포기할 수도 있었기 때문에, 사소하지만 전략적인 선택이었다고 생각합니다.
기술적 갈등은 어떻게 조율하셨나요?
AI Agent는 특성상 다양한 데이터, 도구, 다른 Agent와의 연동이 필요한 복합적인 애플리케이션입니다. 하지만 동시에 사내 표준 거버넌스를 따라야 하죠.
예를 들어, 동일한 모델을 각 환경(dev/stg/prd)에 중복 배포해야 하고, 프롬프트 로깅도 성능 이슈로 인해 프로세스를 재설계해야 했습니다. RAG 데이터를 다룰 때도 자유롭게 업로드·인덱싱하는 게 쉽지 않았고요. KT에 없는 Azure ACA 기반 CD 아키텍처를 새로 설계하고, 배포 자동화 툴도 자체 구현했습니다. 보안과 성능, 유연성 사이에서 현실적인 트레이드오프를 하며 표준을 하나씩 정립해 나가는 과정이었습니다.
무엇이 나를 움직이게 하나요?
제가 신입 때부터 추구해온 가치는 ‘정체되지 않기’였습니다. 늘 새로운 걸 배우고, 시도하고, 도전하는 과정이 고되지만 이만큼 강력한 셀프 동기부여도 없더라고요. 기술을 공부하고, 새 흐름을 탐색하는 일이 스스로에게 가장 큰 원동력이 됩니다. 이 철학은 제 커리어 전환에서도 드러났습니다. 신입 시절 좋은 기회를 많이 얻었지만, 더 주체적인 역량 발휘를 위해 개인 사업을 시도했어요. 실패했고, 친구도 잃었지만 정말 많은 걸 배웠습니다. 그 뒤로는 자만을 경계하고, 철저한 준비의 중요성을 잊지 않게 됐습니다.
이 일엔 어떤 자세가 필요할까요?
제가 똑똑하거나 언변이 뛰어난 사람은 아닙니다. 그래서 조금 더 빨리 방향을 정하고, 더 끈기 있게 노력합니다. AI Engineer로서 필요한 건 결국 GRIT – 열정과 끈기라고 생각해요. 스스로 부족하다는 걸 알기에 더 많이 움직이게 됩니다. 끈기를 갖고 밀어붙인 대표적인 사례는 타 부서를 설득해 Azure 랜딩존 아키텍처를 새롭게 설계했던 일이에요. 수많은 테스트와 조정, 협의를 반복하며 결국 새로운 표준을 안착시켰죠.
위기 상황에서도 흔들리지 않는 방법?
감정은 누구에게나 있지만, 업무에서는 이성적인 포커페이스가 중요하다고 생각합니다. 문제의 본질을 먼저 파악하고, 객관적으로 사고할 시간을 갖는 것이 우선이에요. 이건 타고나는 게 아니라 꾸준한 노력과 태도로 충분히 기를 수 있다고 생각해요.
예비 동료에게 전하고 싶은 말
경험하고, 도전하세요. 그게 일상이든, 여행이든, 일기든 상관없어요. 그런 작은 경험 하나하나가 결국 내면을 빛나게 만드는 디딤돌이 됩니다.
그리고 두 가지 조언을 드리자면, 소프트 스킬: 매사에 솔선수범하세요. 자신을 객관화할 줄 아는 사람은 때로 갈등이 있어도 비난받지 않습니다. 기술적 태도: 맡은 분야에 열정을 다하고, 끈기를 가지세요. 그게 가장 큰 자산이 됩니다. 마지막으로, 협업을 잘하는 사람은 정보와 맥락을 갖춘 사람이라고 생각해요. 상대의 입장을 이해하고, 인정할 것과 협의할 것을 구분할 줄 아는 자세가 중요합니다. 웃으며 인사하는 것부터 시작해보세요. 생각보다 훨씬 강력한 무기입니다.
