GPU 자원, 생각한 대로 나눠지지 않는다: 멀티노드와 파티셔닝에서 만난 인프라의 벽
안녕하세요, KT IT부문 AX플랫폼본부에서 LLM 및 Azure OpenAI 모델 서빙/회수를 담당하고 있는 최원석입니다. 지난 편에서는 새 모델을 서빙할 때 버전 호환성 때문에 겪었던 문제 두 가지를 공유했습니다. 이번 편은 조금 다른 결의 문제입니다 — 모델은 문제없이 로드되는데, GPU 자원을 원하는 대로 나누거나 확장하려는 순간 인프라 레이어의 구

안녕하세요, KT IT부문 AX플랫폼본부에서 LLM 및 Azure OpenAI 모델 서빙/회수를 담당하고 있는 최원석입니다. 지난 편에서는 새 모델을 서빙할 때 버전 호환성 때문에 겪었던 문제 두 가지를 공유했습니다. 이번 편은 조금 다른 결의 문제입니다 — 모델은 문제없이 로드되는데, GPU 자원을 원하는 대로 나누거나 확장하려는 순간 인프라 레이어의 구

1. ACL 2026 학회 개요 ACL(Association for Computational Linguistics)은 자연어 처리(NLP)와 전산언어학 분야에서 세계 최고 권위를 인정받는 최상위 국제 학술대회입니다. 전 세계의 연구진과 산업계 전문가들이 모여 초거대 언어 모델, 기계 번역, 음성 인식 등 최신 연구 성과를 공유하며, 엄격한 피어 리뷰를 통과

안녕하세요, KT IT부문 AX플랫폼본부에서 LLM 및 Azure OpenAI 모델 서빙/회수를 담당하고 있는 최원석입니다. 모델 서빙 파트에서는 그동안 사내에서 서빙되는 모든 모델의 배포를 직접 담당해왔습니다. 그런데 최근 셀프서빙 체계가 도입되면서, 앞으로는 각 팀이 필요한 모델을 직접 서빙 요청하고 운영하는 구조로 점차 바뀌어 갈 예정입니다. 이 변화

Intro 복잡한 물리 도메인을 디딤돌 삼아, 신규 시나리오 개발 기간을 70% 단축하는 백엔드 프레임워크 설계 안녕하세요. IT부문 IT플랫폼본부에서 IoT플랫폼 개발을 담당하고 있는 윤영로입니다. 최근 생성형 AI가 다양한 업무와 서비스에 적용되면서 LLM의 활용처가 급속도로 넓어지고 있습니다. 특히 단순한 질의응답을 넘어, 스스로 실행 계획을 세우고

안녕하세요. IT부문 AX플랫폼본부에서 AI 모델 Token 최적화 기술 분석 및 설계를 맡고 있는 이예진입니다. 최근 생성형 AI가 다양한 업무와 서비스에 적용되면서 LLM 사용량도 함께 증가하고 있습니다. 특히 단순 질의응답을 넘어 스스로 작업을 계획하고 여러 Tool을 활용하는 AI Agent의 사용이 확대되면서, 하나의 작업을 수행하기 위해 소비되는

KT에서는 기획·설계 단계를 AI와 함께 진행하는 사내 AI 웹 포털 kode:crew를 만들어 활용하고 있습니다. VSCode 등 개발 도구 설치 없이 브라우저만으로, 여러 역할의 AI 에이전트와 함께 요구사항 정의,아키텍처 설계,표준/보안 검증을 할 수 있는 플랫폼입니다. 이 글은 kode:crew를 실제로 업무에 활용하는 PO·BA의 하루를 담아봤습니

안녕하세요, KT AX미래기술원 Frontier AI Lab 김현우입니다. 2026년 7월 6일부터 11일까지 서울 코엑스에서 열린 ICML 2026(International Conference on Machine Learning)에 참석해 공동 연구 논문을 발표하고, AI 분야의 최신 기술 동향을 현장에서 확인하는 기회를 가졌습니다. 이번 출장에서는 논문

안녕하세요, AX미래기술원 Frontier AI Lab 김미현입니다. 저는 믿:음 K 언어 모델을 개발하는 일을 하고 있습니다. 2026년 6월 2일부터 7일까지 미국 덴버에서 개최된 CVPR 2026에 참석하여 KT 공동 연구 논문을 발표하고, 인공지능 분야의 최신 연구 동향을 현장에서 직접 확인하는 기회를 가졌습니다. 이번 출장에서는 단순히 논문 발표에

0.들어가며 Snowflake Summit 26에서 가장 인상 깊었던 것은 새로운 AI 기능의 수가 아니었습니다. 더 근본적인 변화는 데이터 플랫폼의 역할이 바뀌고 있다는 점이었습니다. 과거의 데이터 플랫폼이 데이터를 모으고 분석하는 공간에 가까웠다면, Agentic AI 시대의 데이터 플랫폼은 AI가 신뢰할 수 있는 맥락을 이해하고, 필요한 데이터를 찾아

SAP는 이제 ERP를 파는 것이 아니라, AI가 업무를 이해하고 실행하는 비즈니스 플랫폼을 만들고 있다. 시작하며 안녕하세요. ERP 혁신 과제를 담당하고 있는 프로세스혁신팀 심경언 입니다. 2026년 5월, 미국 올랜도에서 진행한 SAP Sapphire에 참석하였습니다. 이번 행사에서 가장 크게 느낀 점은, SAP가 더 이상 ERP를 단순한 업무 처리
