GPU as a Service

AI 시대,
GPU도 필요한 만큼 사용하세요

What is GPU as a Service?

GPU형 서비스(GPU as a Service)란 무엇인가요?

GPUaaS는 GPU 구매 비용, 물리적 한계, 관리 복잡성 등을 극복하기 위해 탄생한 새로운 구독 모델입니다. 오픈소스컨설팅에서는 자원 관리 효율성을 개선하고 다양한 워크로드에 맞춰 오픈스택 기반으로 GPU 구성을 유연하게 설정합니다.

아키텍처

GPU 가상화를 위해 여러 솔루션을 담을수 있는 OpenStack은 아래 아키텍처처럼 최적화된 GPU 서비스를 구성합니다.

VM - MIG (Multi-Instance GPU)
  • NVIDIA의 MIG 기술을 활용하여 하나의 GPU를 여러 개의 인스턴스로
    나누어 사용할 수 있는 방법


Ironic MIG(Multi-Instance GPU)
  • 오픈스택에서 제공하는 베어 메탈 프로비저닝 서비스를 이용해서
    Kubernetes를 배포하면서 MIG를 사용할수 있도록 구성


VM - vGPU (Virtual GPU)
  • 가상 머신에 GPU 리소스를 할당하여 여러 VM이 GPU를 공유
  • VM - Hostpath-through
  • 물리적인 GPU를 VM에 직접 할당하여 성능을 극대화하는 방법


Ironic GPU
  • 베어메탈 프로비저닝 서비스를 이용해, 단일 물리서버에서 GPU를
    사용할수 있도록 구성

GPUaaS on OpenStack 의 장점

자원 효율성 향상

GPU 자원을 필요에 따라 동적으로 할당하여
사용률을 극대화하고 비용을 절감합니다.

유연성 및 확장성

워크로드에 맞춰 GPU 구성을 유연하게 변경하고
필요에 따라 GPU 자원을 쉽게 확장할 수 있습니다.

관리 효율성 증대

중앙 집중식 관리 도구를 통해 GPU 자원을 효율적으로 관리하고 운영 복잡성을 줄입니다.

향상된 사용자 경험

간편하게 GPU 자원을 요청하고 사용할 수 있으며
개발 및 연구 생산성을 향상합니다.

고객 사례

AI/ML 워크로드나 고성능 데이터 분석을 위해 오픈소스 소프트웨어 기반으로 
GPUaaS를 도입한 주요 사례를 확인하세요.

전자 기업 A사

AL/ML 워크로드와 고성능 데이터 분석을 위해 오픈소스 소프트웨어 기반으로 GPUaaS를 오픈소스컨설팅과 도입했습니다.

빅데이터 처리와 개발자를 위한 VM/VM worker용 컨테이너/Bare Metal 컨테이너를 제공했습니다.

글로벌 표준 오픈소스 기반으로 클라우드 네이티브 환경 구축,
클라우드 전문가와 상담을 통해 궁금한 점을 해결하세요!

Digital Transformation Partner

오픈소스컨설팅의 전문가에게 문의하기


(주)오픈소스컨설팅

사업자등록번호  114-86-94359     |     대표자 장용훈

서울특별시 강남구 테헤란로83길 32(나라키움삼성동A빌딩), 5층

T. 02-516-0711.  F. 02-516-0722  E.sales@osci.kr


© Open Source Consulting Inc. All rights Reserved.


📨 열린기술레터 구독

오픈소스컨설팅 엔지니어와 개발자가 전하는 기술 Tip과 IT 정보 및 트렌드를 가장 발빠르게 전달해 드립니다.

개인정보 수집 및 이용

뉴스레터 발송을 위한 최소한의 개인정보를 수집하고 이용합니다. 수집된 정보는 발송 외 다른 목적으로 이용되지 않으며, 서비스가 종료되거나 구독을 해지할 경우 즉시 파기됩니다.