Kakao i Machine Learning::공공 환경에서 시작하기::공공 환경 인스턴스 타입

페이지 이동경로

공공 클라우드 환경 인스턴스 타입

안내

  • Nvidia Driver는 470.103.01 버전을 이용합니다. Cuda Runtime 버전은 11.6 입니다.
  • 공공 클라우드 환경에서만 제공하는 인스턴스 타입입니다. Kakao i Machine Learning의 다른 환경에서 제공하는 인스턴스 타입의 종류는 인스턴스 타입 문서를 참고하시기 바랍니다.
  • 공공 클라우드 환경에서 워크스페이스 쿼터 변경 기능은 제공하지 않습니다. 고성능 컴퓨팅 지원 사업 관련하여 쿼터 변경이 필요한 경우, 사업 문의 채널(kc_helpdesk@kakaoenterprise.com)로 문의하시기 바랍니다.

제공하는 인스턴스 타입

공공 클라우드 환경에서는 아래와 같은 인스턴스 타입을 제공합니다. 개발 환경에 적합한 인스턴스 타입을 선택하여 시스템을 구성할 수 있습니다.
인스턴스 타입 이름 규칙은 [GPU 카드 개수][GPU 카드]-[vCPU 개수]-[인스턴스 특성(CPU, 메모리 사양의 비율)]입니다. 예를 들어, 1A100-16-MO 인스턴스 타입은 1개의 A100 GPU 카드, vCPU 16개, 128GiB 메모리를 함께 제공합니다. (MO:Memory Optimized, vCPU와 메모리 비율 1:8)

인스턴스 타입 vCPU 메모리(GB) 제공되는 GPU GPU 개수 GPU 메모리(GB)
0.14A100-2-MO 2vCPU 16GB A100(MIG) 0.14(≒1/7)개 5GB (MIG 기반 분할)
1A100-16-MO 16vCPU 128GB A100 1개 80GB (80GB*1개)
2A100-32-MO 32vCPU 256GB A100 2개 160GB (80GB*2개)
A100-64-MO 64vCPU 512GB A100 4개 320GB (80GB*4개)
8A100-128-MO 128vCPU 1,024GB A100 8개 640GB (80GB*8개)
주의
2023 공공 고성능 컴퓨팅 지원 사업 참여자는 선정된 상품(10TF, 20TF, 40TF, 80TF, 320TF, 1PF)에 따라 지원되는 인스턴스 타입과 개수가 달라집니다. 자세한 사항은 NIPA 고성능 컴퓨팅 지원 사업을 참고하시기 바랍니다.

안내
0.14A100-2-MO 인스턴스 타입은 A100 GPU 카드를 0.14(1/7)개 제공합니다.

  • 해당 인스턴스는 MIG(Multi-Instance GPU) 기능을 기반으로 하며, 하나의 A100 GPU 카드를 논리적으로 7개의 카드로 나누어 제공합니다.
  • 논리적으로 나누어진 각 카드는 격리되어 파티셔닝되며 메모리, 캐시 등의 자원에 대해 독립적으로 사용할 수 있습니다.

2023년 고성능 컴퓨팅 지원 사업

2023 고성능 컴퓨팅 지원 사업은 NIPA에서 중소·벤처기업 육성과 인공지능 산업 발전을 위해 추진 중인 사업으로, 카카오엔터프라이즈가 함께 합니다.
참여 기업은 신청한 상품을 지원받을 수 있으며, 신청한 상품(10TF, 20TF, 40TF, 80TF, 320TF, 1PF)에 따라 제공되는 인스턴스 타입과 개수가 정해집니다. 지원하는 인스턴스 타입 및 개수 내에서 자유롭게 이용할 수 있습니다.

인스턴스 상품
상품명 지원하는 인스턴스 타입 지원하는 인스턴스 개수 총 A100 개수 총 A100(MIG) 개수 총 스토리지 실 제공 사양
10TF 0.14A100-2-MO 4개 0개 4개 2TB 11.14 TF
20TF 1A100-16-MO 1개 1개 1개 2TB 22.29 TF
0.14A100-2-MO 1개
40TF 2A100-32-MO 2개 2개 1개 2TB 41.79 TF
0.14A100-2-MO 1개
80TF 4A100-64-MO 4개 4개 1개 2TB 80.79 TF
0.14A100-2-MO 1개
320TF 8A100-128-MO 2개 16개 4개 10TB 323.14 TF
0.14A100-2-MO 4개
1PF 8A100-128-M 6개 52개 4개 10TB 1,025.14 TF
4A100-64-MO 1개
0.14A100-2-MO 4개

안내
스토리지는 워크스페이스에 종속된 자원으로 워크스페이스에 소속된 사용자가 공유하여 사용할 수 있습니다.

  • default 스토리지에 인스턴스 생성, 데이터세트, 모델 등이 저장되며 사용자가 용량을 임의로 변경하거나 분할해 사용할 수 없습니다.
이 문서가 만족스러운 이유를 알려주세요.
이 문서에 아쉬운 점을 알려주세요.
평가해주셔서 감사합니다.

더 자세한 의견은 documentation@kakaoenterprise.com 으로 제보해주세요.