GPU 자원, 생각한 대로 나눠지지 않는다: 멀티노드와 파티셔닝에서 만난 인프라의 벽
안녕하세요, KT IT부문 AX플랫폼본부에서 LLM 및 Azure OpenAI 모델 서빙/회수를 담당하고 있는 최원석입니다. 지난 편에서는 새 모델을 서빙할 때 버전 호환성 때문에 겪었던 문제 두 가지를 공유했습니다. 이번 편은 조금 다른 결의 문제입니다 — 모델은 문제없이 로드되는데, GPU 자원을 원하는 대로 나누거나 확장하려는 순간 인프라 레이어의 구

안녕하세요, KT IT부문 AX플랫폼본부에서 LLM 및 Azure OpenAI 모델 서빙/회수를 담당하고 있는 최원석입니다. 지난 편에서는 새 모델을 서빙할 때 버전 호환성 때문에 겪었던 문제 두 가지를 공유했습니다. 이번 편은 조금 다른 결의 문제입니다 — 모델은 문제없이 로드되는데, GPU 자원을 원하는 대로 나누거나 확장하려는 순간 인프라 레이어의 구

들어가며 안녕하세요? AX플랫폼본부 플랫폼개발담당 서동희입니다. 저는 '26년 8월 27일 코엑스에서 진행된 Snowflake의 브레이크아웃 세션 발표자로 참여하여 KT의 BIDW Modern. 사업 여정과 겪었던 고민, 차세대 AI Ready 데이터 플랫폼으로 진화 과정에 대해 발표하였습니다. 이 글에서는 발표했던 내용에 대해 설명드리고 발표하며 느꼈던

안녕하세요, AX Data Lab에서 데이터 전략 업무를 맡고 있는 김하빈, 황설욱, 장현지입니다. AX Data Lab은 KT의 CDO(Chief Data Officer) 조직으로서, 전사 데이터 현안을 발굴하고 AI 전환의 기반을 다지는 핵심 과제를 이행하고 있습니다. 특히 분기마다 경영진과 유관 부서가 함께 모여 데이터 현안 추진의 우선순위를 결정하는

Intro 안녕하세요. 클라우드 AI 플랫폼(ASTRA)의 운영 업무를 담당하고 있는 AX플랫폼본부 “김현모, 오명환, 이창민” 입니다. 클라우드 AI 플랫폼은 KT의 여러 AI 서비스가 공통으로 사용하는 Microsoft Azure 기반 통합 플랫폼입니다. 모델 서빙, Agent 운영, Observability까지 하나의 기반 위에서 제공하며, 지원 중인

KT Evidence Unit과 Document AI 연구 동향 2026년 9월 20일 · KT AX미래기술원 Frontier AI Lab Physical AX담당 한연지 안녕하세요, KT AX미래기술원 Frontier AI Lab Physical AX담당에서 문서 AI를 연구하고 있는 한연지 책임연구원입니다. 2026년 8월 30일부터 9월 4일까지 오스

1. ACL 2026 학회 개요 ACL(Association for Computational Linguistics)은 자연어 처리(NLP)와 전산언어학 분야에서 세계 최고 권위를 인정받는 최상위 국제 학술대회입니다. 전 세계의 연구진과 산업계 전문가들이 모여 초거대 언어 모델, 기계 번역, 음성 인식 등 최신 연구 성과를 공유하며, 엄격한 피어 리뷰를 통과

▶ KT 자체 개발 AI 기술, 美 라이스대 개발 LLM 라우터 전문 벤치마크에서 2위 ▶ 업무 유형과 난이도, 분야 분석해 최적 AI 모델 자동 선택…품질ㆍ비용 함께 고려 ▶ 토큰 팩토리 모델 라우팅 기술로 활용… 기업의 효율적인 멀티모델 AI 운영 지원 LLM 라우터 전문 공개 벤치마크 ‘RouterArena’ 리더보드에서 KT의 ‘KT-ModelRou

▶ 과기부 ‘AI기반 다크팩토리 설계·구축 솔루션 개발’과제에 참여 ▶ KT, 다크팩토리 ‘모듈형 Edge AIDC’ 등 주요 인프라 연구개발 담당 ▶ 산업 맞춤형 피지컬AI 솔루션 상품화 추진으로 글로벌 AX 시장 공략 KT AI기반 다크팩토리 설명 이미지 KT(대표이사 박윤영)가 과학기술정보통신부 주관 ‘AI기반 다크팩토리 설계·구축 솔루션 개발’ 과제

▶ 자율형 Agent·RAI 신뢰성 개선·프롬프트 압축 등 핵심 AI 기술 확보 ▶ KT, AI 모델·플랫폼 적용 위한 연구성과 기술 검증 및 내재화 추진 ▶ 에이전틱AI·토큰 효율화 등 관련 분야에서 연구개발 협력 확대 방침 행사 참석자들이 기념사진을 촬영하는 모습 KT(대표이사 박윤영)가 서울대학교, KAIST 연구진과 함께 ‘서울대-KT-KAIST 산

▶ AX미래기술원 주관으로 AX역량·R&D성과 전시 및 관련 주제 발표 ▶ 멀티모달 AI, Agentic AI, Hyper AI Network 등 KT 미래 기술 총망라 ▶ ‘AX Full Stack’ 실행 체계 제시…연구 성과를 실제 사업·서비스로 확장 AX Tech Connect 2026 행사에서 KT 담당자가 전시 아이템 시연 모습 KT(대표이사 박윤
