Pytorch로 CLI 학습하기
Kakao i Machine Learning을 처음 사용하시는 분들을 위해, MNIST(Modified National Institute of Standards and Technology) 데이터세트와 Python 학습 스크립트를 활용한 학습 튜토리얼을 제공하고 있습니다. 이 문서는 KiML CLI로 모델을 학습하는 방법을 안내합니다.
- CLI는 Shell 환경에서 Kakao i Machine Learning 플랫폼을 사용하는 인터페이스입니다.
kiml
명령어를 사용하며,--help
로 인자값을 확인할 수 있습니다.
Step 1. Kakao i Machine Learning 로그인하기
KiML CLI에 로그인하는 방법은 다음과 같습니다.
로그인하기
코드예제CLI 로그인 Syntax
kiml login
ApplicationID : {사용자 액세스 키 ID}
ApplicationSecret : {사용자 액세스 보안 키}
파라미터 | 설명 |
---|---|
{사용자 액세스 키 ID} | Kakao i Cloud 사용자 액세스 키 ID |
{사용자 액세스 보안 키} | Kakao i Cloud 사용자 액세스 보안 키 |
Step 2. 워크스페이스 생성하기
다음 단계는 워크스페이스(Workspace)를 설정하는 작업입니다.
안내
- 공공 클라우드 환경에는 워크스페이스 생성 기능을 제공하지 않습니다.
- 워크스페이스에 대한 자세한 설명은 워크스페이스 문서를 참고하시기 바랍니다.
- 리소스 할당 및 제한에 대한 자세한 설명은 리소스 할당 및 제한 문서를 참고하시기 바랍니다.
- 워크스페이스 CLI 명령어
kiml workspace
에 대한 자세한 설명은 CLI 명령어 참조 문서를 참고하시기 바랍니다.
아래 명령어를 실행하여 워크스페이스를 생성합니다.
코드예제워크스페이스 생성
kiml workspace create {workspace-name}
Step 3. 명령어를 실행할 워크스페이스 지정하기
KiML CLI 명령어를 실행할 워크스페이스를 지정합니다. 지정한 기본 워크스페이스로 CLI 명령어가 실행됩니다. 기본 워크스페이스가 설정된 경우, Step 3을 생략할 수 있습니다.
코드예제기본 워크스페이스 설정
kiml workspace set {workspace-name}
Step 4. 스토리지에 데이터 업로드하기
AI 모델 학습에 사용되는 데이터는 Kakao i Machine Learning 원격 저장소인 스토리지에 업로드해야 합니다. 본 튜토리얼에서는 MNIST 데이터를 업로드하여 학습을 진행합니다.
-
MNIST 데이터 파일(data_mnist.zip)을 다운받습니다.
mnist_data.zip 파일
-
다운받은 MNIST 데이터 파일(data_mnist.zip)의 압축을 해제합니다.
-
압축 해제한 MNIST 데이터 파일(data_mnist.zip)이 저장된 위치로 working directory를 변경합니다.
-
다음 명령을 실행하여 mnist_dataset 디렉토리를 디폴트 스토리지에 업로드합니다.
코드예제mnist_dataset 디렉토리 업로드
kiml data upload mnist_dataset default/mnist_dataset
-
원격 저장소에
mnist_dataset
데이터세트가 정상적으로 업로드되었는지 확인합니다.코드예제mnist_dataset 업로드 확인
kiml data list default/mnist_dataset
Step 5. 데이터세트 만들기
해당 단계는 데이터세트를 만드는 작업입니다. 앞서 스토리지에 업로드한 MNIST 데이터를 데이터세트로 지정하여, 학습에서 활용할 수 있도록 합니다.
-
kiml dataset create
를 사용하여 데이터세트를 생성합니다.튜토리얼 Tip
본 튜토리얼에서는 방금 스토리지에 업로드한 데이터세트를 등록하므로,--path
옵션의 값을/default/mnist_dataset
으로 지정했습니다. 일반적으로는/{storage-name}/path
형태로 사용자가 등록하기 원하는 스토리지 경로를 지정할 수 있습니다.코드예제데이터세트 생성
kiml dataset create mnist-dataset --path /default/mnist_dataset
-
kiml dataset list
를 사용하여 등록된 데이터세트 정보를 확인합니다.코드예제데이터세트 정보 확인
kiml dataset list
Step 6. 학습 실행하기
Kakao i Machine Learning에서 머신 러닝 모델 학습을 실행하기 위해 학습 코드를 준비하고, 이어서 실험과 실행을 생성합니다.
학습 코드 준비하기
-
MNIST 소스 코드를 저장할
src
폴더를 만듭니다. -
아래 mnist.py 파일을 다운받아
src
폴더에 저장합니다.mnist.py 파일
-
CLI의 작업 디렉토리를
src
로 변경합니다.
실험 생성하기
실험(Experiment)을 생성한 후, 해당 실험 하위에 학습을 위한 실행(Run)을 생성할 수 있습니다. 실험은 하나의 학습 과제에 대한 다양한 학습 파라미터와 데이터의 적용 결과를 비교하기 위해 만들어진 개념입니다. 실험은 지정된 스크립트인 실행의 묶음으로, 다양한 실행 기록을 담고 있는 실행 집합입니다. 실험은 워크스페이스별로 저장되며, 실행 정보는 지정한 실험 하위에 자동 저장됩니다.
코드예제실험 생성
kiml experiment create mnist-experiment
실행 생성하기
실행(Run)은 기계학습 모델 학습을 위한 스크립트의 단일 작업으로, 학습을 실행합니다.
실행을 생성하는 방법은 다음과 같습니다.kiml run submit
으로 실행을 생성합니다. CLI에서는 tar.gz 파일로 압축하지 않고 업로드할 수 있습니다. 학습 코드는 실행할 위치를 기준으로 업로드하지 않고, 업로드할 경로를 옵션으로 지정할 수 있습니다. 실행할 엔트리포인트는 km run submit
마지막 인자로 전달합니다. 아래 예시에서 엔트리포인트는 mnist.py이며, 이 스크립트의 Argument는 --
다음에 전달됩니다.
튜토리얼 Tip!
공공 클라우드 환경 인스턴스 타입은1A100-16-MO
, 인스턴스 개수는1
로 설정하였습니다.
또한 이전 단계에서 생성한mnist.py
파일을 제출하도록 하였습니다.
코드예제실행 생성
kiml run submit --dataset mnist-dataset --experiment mnist-experiment --image cosmos-pytorch1.10.0-cuda11.3-cudnn8-py3.7-ubuntu18.04 --instance-type 1A100-16-MO --num-replica 1 "python mnist.py --data_dir /app/input/dataset/mnist-dataset --output_dir /app/outputs"
파라미터 | 설명 |
---|---|
--dataset | 학습에 사용할 데이터셋 명칭 - 튜토리얼: mnist-dataset - 지정된 데이터셋은 /app/input/dataset/{데이터세트 이름} 으로 마운트됨 |
--experiment | 실행을 묶어서 관리할 실험 이름 입력 - 생성된 실험 이름 입력 - 튜토리얼: 이전 단계에서 만든 mnist-experiment 입력 |
--image | 학습에 사용될 이미지 이름 - 본 튜토리얼에서는 기본 이미지(base-image)로 제공되는 cosmos-pytorch1.10.0-cuda11.3-cudnn8-py3.7-ubuntu18.04 이미지 사용 |
--instance-type | 학습에 사용될 리소스 유형 지정 - 공공 클라우드 환경: 1A100-16-MO 입력- 환경별 인스턴스 타입 전체 목록: kiml instance-type 명령어로 조회 가능 |
--num-replica | 분산학습 시 사용할 인스턴스의 개수 - 리소스 유형을 4GPU 유형을 선택하고 인스턴스 개수를 3으로 지정한 경우에는 총 12장의 GPU를 사용 |
--source-directory | 모델을 학습할 소스 코드 디렉토리 - 튜토리얼에서는 생략 - 기본값: pwd |
SCRIPT | 실행을 수행하기 위한 스크립트 - 스크립트에 argument를 전달할 경우에는 -- 문자를 삽입한 뒤 기입- python 또는 torchrun 으로 시작- 입력 불가 특수문자 : & , \ , ; , | - 튜토리얼: "python mnist.py --data_dir /app/input/dataset/mnist-dataset --output_dir /app/outputs"
|
안내
- Kakao i Machine Learning에서 제공하는 인스턴스 종류는 인스턴스 타입 문서를 참고하시기 바랍니다.
- 분산학습 실행에 대한 설명은 분산 학습하기(CLI) 문서를 참고하시기 바랍니다.
실행 로그 조회하기
-
실행(Run) 목록에서 방금 생성한 실행의 이름을 확인합니다. 실행 이름은 자동으로 생성됩니다.
코드예제실행 이름 확인
kiml run list
-
확인한 실행 이름을 입력하고 실행 로그를 확인합니다.
-f
,–follow
옵션은 로그를 실시간으로 조회하도록 유지합니다.코드예제실행 로그 확인
kiml run log mnist-run --follow
실험 결과 확인하기
Kakao i Machine Learning는 텐서보드(Tensorboard)를 통하여 실험 결과를 실시간으로 조회하는 기능을 제공합니다. 또한 원격 저장소에 접근하여 생성된 모델 파일 및 로그 내용을 확인할 수 있습니다.
주의
학습 코드에서 텐서보드 로그를 output으로 생성해야만 텐서보드에서 결과를 조회할 수 있습니다.
코드예제텐서보드 로그 output으로 생성
# Parameters
log_dir = os.path.join(args.output_dir, 'log')
summary_writer = SummaryWriter(log_dir=log_dir)
-
아래 명령을 실행하여 텐서보드를 실행합니다.
코드예제텐서보드 실행
kiml experiment tensorboard mnist-experiment
-
학습이 완료되면, 생성된 모델 파일과 로그 내용은 원격 저장소에 실험 및 실행 별로 생성된
outputs
디렉터리에서 확인할 수 있습니다.코드예제디렉터리 확인
kiml data list default/experiments/<experiment-id>/runs/mnist-run/outputs
-
아래 명령을 실행하면 앞에서 조회한
outputs
폴더를 다운로드 받을 수 있습니다.코드예제outputs 폴더 다운로드
kiml data download default/experiments/<experiment-id>/runs/mnist-run/outputs ./
미지원 기능 안내
공공 클라우드 환경에서는 모델 추론 및 배포 기능은 지원하지 않습니다. 자세한 내용은 공공 환경 주의사항 문서를 참고하시기 바랍니다.
Step 7. 모델 등록하기
모델은 ML 모델의 수명 주기를 관리할 수 있는 모델 저장소입니다. Kakao i Machine Learning 플랫폼에서 학습한 실행을 모델로 등록하거나, 외부에서 학습한 모델을 불러올 수 있습니다. 이 단계에서 Step 5에서 생성하고 학습 완료된 실행을 모델로 등록합니다.
아래 명령을 실행하면 앞에서 생성한 실행을 모델로 등록합니다.
코드예제생성한 실행 모델로 등록
kiml model create mnist-model \
--experiment mnist-experiment \
--run mnist-run
Step 8. 엔드포인트 생성하기
모델을 배포하기 위해서는 모델이 요청받을 엔드포인트를 생성하고, 이어서 엔드포인트에 배포를 생성해야 합니다.
-
아래 명령을 실행해 먼저 엔드포인트를 생성합니다.
코드예제엔드포인트 생성
kiml endpoint create mnist-endpoint
-
생성한 엔드포인트의 정보를 조회할 수 있습니다.
코드예제엔드포인트 정보 조회
kiml endpoint describe mnist-endpoint
Step 9. 배포 생성하기
이 단계에서는 Step 6에서 등록한 모델을 Step 7에서 생성한 엔드포인트에 배포합니다.
안내
본 튜토리얼에서는 Pytorch 모델을 위한 Triton 사용 방법을 안내합니다. Tensorflow 모델은 Tensorflow Serving을 사용합니다.
- Tensorflow 모델에 대한 자세한 설명은 TensorFlow로 학습하기 > CLI 문서를 참고하시기 바랍니다.
-
아래 명령을 실행하여 작업 폴더에 config.pbtxt 파일을 생성합니다.
코드예제config.pbtxt 파일 생성
cat << EOF > config.pbtxt platform: "pytorch_libtorch" input [ { name: "input__0" data_type: TYPE_FP32 dims: [ 1, 1, 28, 28 ] } ] output [ { name: "output__0" data_type: TYPE_FP32 dims: [ 1, 10 ] } ] EOF
-
아래 명령을 실행하여 배포를 생성합니다.
안내
config.pbtxt 파일은 터미널 작업 폴더에 넣어두면 자동으로 업로드됩니다.코드예제Triton 배포 생성
kiml deployment create mnist-deployment \ --endpoint mnist-endpoint \ --serving-framework triton \ --instance-type ${instance_type} \ --num-replica 1 \ --image cosmos-tritonserver-22.06-py3 \ --cluster ${cluster_name} \ --model-spec name=mnist-model \ --triton config=config.pbtxt
파라미터 설명 {cluster_name} 배포가 생성될 클러스터 환경 이름
- Testbed 환경:testbed
입력{instance_type} 배포를 구성할 인스턴스 타입 이름
- Testbed 환경:1V100-12-MO
지정
Step 10. 배포된 모델 테스트하기
배포한 모델의 테스트를 원하는 경우, 테스트 방법은 아래와 같습니다.
-
아래 명령을 실행하여 엔드포인트 상세 정보를 조회한 후, 엔드포인트 URL과 API Key를 확인합니다.
코드예제엔드포인트 상세 정보 조회
kiml endpoint describe mnist-endpoint
코드예제결과 화면
* ID | ac9457b6-a9f3-4d41-bc47-40208e1e7378 * Name | mnist-endpoint * Deployments | mnist-deployment * URL | f166ca98-d0e6-43bb-8dfa-bc30d1587aa2.endpoint.production.ml.k9etool.io/latest/api * API Key | fe06b3ba-a7e8-419c-af31-f6e84a81c034-ac9457b6-a9f3-4d41-bc47-40208e1e737834aa0e2c761ddf5a253df30529dac41bb128e735af4d8afd f2571sdfss94a * Description | * Tags | * Created At | 2022-10-21T19:55:28+09:00
-
위 결과에서 확인한
{api_key}
,{endpoint_url}
을 기입하여, 터미널에서 아래 테스트 코드를 실행합니다.코드예제테스트
curl -X POST ${엔드포인트 주소}/v2/models/model/infer \ -H "Authorization: Bearer ${API Key}" \ --data-raw '{ "inputs" : [ { "name" : "input__0", "datatype":"FP32", "shape" : [ 1, 1, 28, 28 ], "data" : [[[[0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0] , [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.07058823853731155, 0.16862745583057404, 0. 30588236451148987, 0.6117647290229797, 0.9921568632125854, 0.9921568632125854, 0. 8235294222831726, 0.8549019694328308, 0.11764705926179886, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.2235294133424759, 0.7803921699523926, 0. 9921568632125854, 0.9882352948188782, 0.9882352948188782, 0.9882352948188782, 0. 9882352948188782, 0.9921568632125854, 0.9882352948188782, 0.8666666746139526, 0. 24705882370471954, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.4941176474094391, 0.9647058844566345, 0.9882352948188782, 0.8392156958580017, 0. 4941176474094391, 0.2862745225429535, 0.08235294371843338, 0.08235294371843338, 0. 08235294371843338, 0.529411792755127, 0.9843137264251709, 0.5333333611488342, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.08627451211214066, 0. 929411768913269, 0.9254902005195618, 0.5686274766921997, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 7019608020782471, 0.9058823585510254, 0.21568627655506134, 0.250980406999588, 0. 16862745583057404, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0. 3333333432674408, 0.9882352948188782, 0.3960784375667572, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.08627451211214066, 0.9882352948188782, 0.9215686321258545, 0.9921568632125854, 0. 9372549057006836, 0.06666667014360428, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.3333333432674408, 0.9921568632125854, 0.3294117748737335, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.6627451181411743, 0.9921568632125854, 0.9019607901573181, 0.4156862795352936, 0. 03529411926865578, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.3333333432674408, 0.9882352948188782, 0.3294117748737335, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 6627451181411743, 0.9882352948188782, 0.5137255191802979, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0] , [0.0, 0.0, 0.0, 0.0, 0.0, 0.3333333432674408, 0.9882352948188782, 0.5568627715110779, 0. 01568627543747425, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.04313725605607033, 0.8274509906768799, 0. 9882352948188782, 0.45098039507865906, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.10980392247438431, 0.9372549057006836, 0.9882352948188782, 0.5411764979362488, 0. 250980406999588, 0.16862745583057404, 0.0, 0.0, 0.0, 0.0, 0.0, 0.08627451211214066, 0. 9882352948188782, 0.9882352948188782, 0.8274509906768799, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0] , [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.21960784494876862, 0.9882352948188782, 0.9882352948188782, 0. 9921568632125854, 0.9372549057006836, 0.8274509906768799, 0.8274509906768799, 0. 8274509906768799, 0.1764705926179886, 0.0, 0.08627451211214066, 0.9882352948188782, 0. 9882352948188782, 0.8274509906768799, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.3490196168422699, 0.41960784792900085, 0.7254902124404907, 0. 45098039507865906, 0.4156862795352936, 0.07058823853731155, 0.0, 0.0, 0.08627451211214066, 0. 9921568632125854, 0.9921568632125854, 0.8313725590705872, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0] , [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 08627451211214066, 0.9882352948188782, 0.9882352948188782, 0.9529411792755127, 0. 1882352977991104, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.007843137718737125, 0.686274528503418, 0. 9882352948188782, 0.9921568632125854, 0.2823529541492462, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 6627451181411743, 0.9882352948188782, 0.9921568632125854, 0.658823549747467, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.4941176474094391, 0.9882352948188782, 0.9921568632125854, 0.7960784435272217, 0. 03529411926865578, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.10588235408067703, 0.8980392217636108, 1.0, 0. 9921568632125854, 0.08235294371843338, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.5137255191802979, 0. 9921568632125854, 0.9882352948188782, 0.08235294371843338, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 3803921639919281, 0.9921568632125854, 0.9882352948188782, 0.29019609093666077, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.7176470756530762, 0.9882352948188782, 0.5960784554481506, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.16470588743686676, 0.886274516582489, 0.38823530077934265, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0], [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0. 0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0]]]] } ] }'
표배포 모델 테스트 호출 방식
메서드 요청 URL POST {엔드포인트 주소}/v2/models/model/infer
표테스트 코드 Path Parameters
파라미터 설명 {엔드포인트 주소} 엔드포인트 정보의 엔드포인트 {API Key} 엔드포인트 정보의 API Key -
정상적으로 실행된다면 아래와 같이 응답을 확인할 수 있습니다.
코드예제성공 응답
{"model_name":"model","model_version":"1","outputs":[{"name":"output__0","datatype":"FP32","shape":[1,10],"data":[-7.412685394287109,-11.19141674041748,-2.4548983573913576,-4.434718132019043,-5.006168365478516,-5.374503135681152,-11.610991477966309,0.5824547410011292,-4.415952205657959,3.276334524154663]}]}%