AWS AI/ML Stack 기반 MLOps 구축
교육 모델 개발과 서빙 등을 위한 파이프라인을 구축했습니다. NVIDIA GPU 와 AWS Inferentia 를 동시에 구성해 워크로드별로 최적 구성을 선택할 수 있게 했습니다.
AWSPythonNVIDIA GPUAWS InferentiaAmazon SageMakerNVIDIA Triton Inference Server
MLOps 구축
MLOps 의 구축 방식은 다양하며 모델·애플리케이션의 특성부터 예산, 비즈니스 로드맵까지 다양한 요소를 고려해야 합니다. 라이트스택은 자체 보유한 아키텍트와 오픈소스 딜리버리 역량을 바탕으로 난이도 높은 MLOps 아키텍처를 구축한 경험을 가지고 있습니다.
AWS InferentiaNVIDIA GPUTriton Inference Server
Customizable MLOps Engineering
다양한 스택에 대한 경험
MLOps 최적화를 위해 필요한 다양한 스택 구성 역량을 보유하고 있습니다.
빠른 러닝 커브 극복
변화하는 기술 환경을 극복하는 데 익숙하며, 베스트 프랙티스에 통합하는 역량을 갖추고 있습니다.
E2E MLOps
모델 개발부터 모델 서빙, 모니터링까지 모든 구성 요소를 구축할 수 있습니다.
Infrastructure as Code (IaC)
AWS CloudFormation, Helm 등을 이용해 아키텍처를 빠르게 Provisioning 합니다.
문서화는 기본
모든 과정을 문서화하며 이해하기 쉽게 도식화합니다. 개발자 친화적인 방식으로 작업합니다.
내재화를 위한 교육 지원
구성한 아키텍처에 대한 교육을 함께 지원해 팀이 운영·개선을 직접 할 수 있도록 합니다.
사례 연구
HPC 기반 ML 학습 플랫폼 (EDISON)
KISTI 의 HPC 기반 ML 학습 플랫폼은 GPU 를 이용한 ML 학습 모델 실행 같은 고도의 기술 인프라를 자동화된 방식으로 제공합니다.
HPCKubernetesSlurmInfinibandKeycloakNVIDIA GPU ClusterJupyterHub