[서울타임즈뉴스 = 최남주 기자] LG유플러스가 아마존웹서비스(AWS)와 협력해 구축한 AI 인프라 운영 자동화 플랫폼을 공개하며, 생성형 AI 시대에 대응하는 서비스형 AI 운영 전략을 본격화했다. 실제 서비스 환경에서 안정적으로 작동하는 ‘운영 중심 AI’ 체계를 마련했다는 점에서 의미가 크다.

LG유플러스는 AWS가 주최한 ‘2026 Modern Agentic Applications Day’ 행사에서 AI 모델을 서비스로 연결하는 통합 플랫폼 구축 사례를 발표했다. 이번 발표는 생성형 AI와 에이전트 기술을 활용해 인프라 운영을 자동화하고, AI 개발부터 서비스 운영까지 전 과정을 하나로 묶은 구조를 소개했다.

핵심은 기존 AI 개발 환경의 구조적 한계를 해소한 데 있다. 그동안 AI 모델은 학습과 평가, 배포, 운영 단계가 분리돼 있어 서비스 적용 과정에서 반복 작업과 비효율이 발생했다. LG유플러스는 이를 하나의 파이프라인으로 통합해 개발과 운영 간 단절을 최소화했다. 데이터 수집부터 모델 배포, 운영까지 이어지는 일관된 흐름을 구축함으로써 AI를 언제든 서비스에 적용할 수 있는 ‘모델 준비 상태’를 유지하는 것이 가능해졌다는 설명이다.

이를 뒷받침하는 기반은 하이브리드 인프라다. LG유플러스는 자체 온프레미스 GPU 자원을 AWS의 관리형 쿠버네티스 서비스인 Amazon EKS와 연동해 하나의 클러스터로 통합했다. 컨트롤 플레인은 AWS 완전관리형으로 운영해 인프라 관리 부담을 줄이고, 개발자와 운영 조직이 서비스 품질 개선에 집중할 수 있는 환경을 마련했다. 온프레미스와 클라우드를 유기적으로 결합한 구조를 통해 확장성과 안정성을 동시에 확보한 것이다.

GPU 활용 방식의 변화도 눈에 띈다. 기존 장비 단위 고정 할당에서 벗어나 필요한 만큼 자원을 유연하게 배분하는 구조를 적용해 GPU 유휴 시간을 줄였다. 이는 AI 모델 학습과 서비스 제공 속도를 높이는 동시에 비용 효율성까지 개선하는 효과로 이어진다.

LG유플러스는 이번 플랫폼이 AI를 기술이 아닌 ‘서비스’로 전환하는 데 핵심 역할을 한다고 강조했다. 플랫폼이 인프라 운영 부담을 줄이는 동시에, 서비스 품질과 안정성을 지속적으로 개선할 수 있는 구조를 제공한다는 것이다. 향후에는 데이터 기반 의사결정과 자동화된 운영 체계를 고도화해 AX(인공지능 전환) 전략을 가속화할 계획이다.

권기덕 LG유플러스 AX엔지니어링Lab장은 “LG유플러스는 AX 서비스 가속화를 위해 데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI-DLC(AI 주도 개발 라이프사이클) 기반의 엔지니어링 플랫폼 역량을 강화하고 있다”며 “앞으로도 AWS와의 기술 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높여 나가겠다”고 말했다.