Jak používat CLI katalogu NVIDIA® GPU Cloud (NGC) na serveru GPU společnosti E2E.

Tento článek pro CLI katalogu NGC, který vysvětluje, jak používat CLI.

Úvod

NVIDIA® GPU Cloud (NGC) Catalog CLI je rozhraní příkazového řádku pro správu obsahu v registru NGC. CLI funguje v rámci shellu a umožňuje vám používat skripty k automatizaci příkazů. S NGC Catalog CLI můžete

Zobrazit seznam obrázků kontejnerů Docker s akcelerací GPU, předem trénovaných modelů hlubokého učení a skriptů pro vytváření modelů hlubokého učení.
Stáhněte si modely a modelové skripty.
Poznámka: V současné době NGC Catalog CLI neposkytuje možnost stahování obrázků kontejnerů. Chcete-li stáhnout obrázky kontejnerů, použijte příkaz docker pull z příkazového řádku Docker.

Tento dokument poskytuje úvod do používání CLI katalogu NGC. Úplný seznam příkazů a možností získáte pomocí -h možnost, jak je vysvětleno v Použití NGC CLI .

Poznámka :Aktuálně NGC CLI funguje pouze s Ubuntu-18 pro ostatní OS si prosím prostudujte naši dokumentaci NGC GUI:https://www.e2enetworks.com/help/knowledge-base/get-started-with-nvidia-docker-and-ngc-container-registry/#how-to-access -ngc-software-catalog

Stažení obsahu v rámci registru NGC

Obsah v registru NGC je buď uzamčen nebo odemčen. Odemčený obsah je volně k dispozici ke stažení pro hostující uživatele. Chcete-li stáhnout zamčený obsah, musíte se zaregistrovat k uživatelskému účtu komunity NGC.

Hostující uživatelé

Hostující uživatelé mají přístup na webovou stránku NGC, aniž by se museli přihlašovat. Hostující uživatelé si z webu mohou stáhnout CLI katalogu NGC a začít jej používat k prohlížení obsahu a stahování odemčeného obsahu.

Uživatelé z komunity

Chcete-li být uživatelem komunity a stahovat zamčený obsah NGC, musíte se zaregistrovat k účtu NGC, přihlásit se pomocí svého účtu na webovou stránku NGC a poté vygenerovat klíč API. Pokyny naleznete v příručce Začínáme s cloudem NVIDIA GPU.

Použití CLI katalogu NGC

Chcete-li spustit příkaz NGC CLI, zadejte „ngc“ a poté příslušné možnosti.

Chcete-li zobrazit popis dostupných voleb a popisy příkazů, použijte volbu -h za libovolným příkazem nebo volbou.

Příklad 1 :Chcete-li zobrazit seznam všech dostupných možností pro ngc, zadejte

root@localhost:~# ngc -h
 usage: ngc [--debug] [--format_type] [-h] [-v] {config,diag,registry} …
 NVIDIA NGC Catalog CLI
 optional arguments:
   -h, --help            show this help message and exit
   -v, --version         show the CLI version and exit.
   --debug               Enables debug mode.
   --format_type         Change output format type. Options: ascii, csv, json.
 ngc:
   {config,diag,registry}
     config              Configuration Commands
     diag                Diagnostic commands
     registry            Registry Commands

Příklad 2: Chcete-li zobrazit popis obrazu registru příkaz a možnosti, zadejte

root@localhost:~# ngc registry image -h
 usage: ngc registry image [--debug] [--format_type] [-h] {info,list} …
 Container Image Registry Commands
 optional arguments:
   -h, --help      show this help message and exit
   --debug         Enables debug mode.
   --format_type   Change output format type. Options: ascii, csv, json.
 image:
   {info,list}
     info          Display information about an image repository or tagged
                   image.
     list          Lists container images accessible by the user

Příklad 3 :Zobrazení popisu informací o obrázku registru příkaz a možnosti, zadejte

root@localhost:~# ngc registry image info -h
 usage: ngc registry image info [--debug] [--details] [--format_type]
                                [--history] [--layers] [-h]
                                
[:]
 Display information about an image repository or tagged image.
 positional arguments:
   
[:]  Name of the image repository or tagged image,
                    
[:]
 optional arguments:
   -h, --help       show this help message and exit
   --debug          Enables debug mode.
   --details        Show the details of an image repository
   --format_type    Change output format type. Options: ascii, csv, json.
   --history        Show the history of a tagged image
   --layers         Show the layers of a tagged image

Příprava ke stažení uzamčeného obsahu

Pokud plánujete stahovat uzamčený obsah, ujistěte se, že jste zaregistrovali účet NGC a vygenerovali klíč API , poté zadejte následující a na výzvu zadejte klíč API.

root@localhost:~# ngc config set 
 Enter API key [no-apikey]. Choices: [, 'no-apikey']:<your-api-key>

Přístup k registru kontejnerů

Obrázek registru ngc příkazy vám umožňují přistupovat z registru k obrázkům kontejnerů s akcelerací GPU připravenými k použití.

Zobrazení informací o obrázku kontejneru

Existuje několik příkazů pro zobrazení informací o dostupných obrázcích kontejnerů.

Výpis obrázků kontejneru:

root@localhost:~# ngc registry image list

Příklad výstupu

| TensorFlow            | nvidia/tensorflow      | 19.10-py3              | 3.39 GB    | Oct 28, 2019 | unlocked   |
 | TensorRT              | nvidia/tensorrt        | 19.10-py3              | 2.22 GB    | Oct 28, 2019 | unlocked   |
 | TensorRT Inference    | nvidia/tensorrtserver  | 19.10-py3              | 2.76 GB    | Oct 28, 2019 | unlocked   |
 | Server                |                        |                        |            |              |            |
 | Theano                | nvidia/theano          | 18.08                  | 1.49 GB    | Oct 18, 2019 | unlocked   |
 | Transfer Learning     | nvidia/tlt-            | v1.0_py2               | 3.99 GB    | Oct 21, 2019 | unlocked   |
 | Toolkit for Video     | streamanalytics        |                        |            |              |            |
 | Streaming Analytics   |                        |                        |            |              |            |
 | Torch                 | nvidia/torch           | 18.08-py2              | 1.24 GB    | Oct 18, 2019 | unlocked   |
 | DeepStream -          | nvidia/video-          | latest                 | 2.52 GB    | Oct 20, 2019 | unlocked   |
 | Intelligent Video     | analytics-demo         |                        |            |              |            |
 | Analytics Demo        |                        |                        |            |              |            |
 | Chainer               | partners/chainer       | 4.0.0b1                | 963.75 MB  | Oct 18, 2019 | locked     |
 | Deep Cognition Studio | partners/deep-         | cuda9-2.5.1            | 2.05 GB    | Oct 18, 2019 | locked     |
 |                       | learning-studio        |                        |            |              |            |
 | DeepVision -          | partners/deepvision/ad | onpremise-1.0.1        | 240.24 MB  | Oct 21, 2019 | locked     |
 | admin.console         | min.console            |                        |            |              |            |
 | DeepVision -          | partners/deepvision/ad | onpremise-1.0.1        | 753.95 KB  | Oct 21, 2019 | locked     |
 | admin.console.data    | min.console.data       |                        |            |              |            |
 | DeepVision -          | partners/deepvision/vf | onpremise-2.0.0        | 3.29 GB    | Oct 21, 2019 | locked     |
 | Demographics          | .demographics          |                        |            |              |            |

Chcete-li zobrazit podrobné informace o konkrétním obrázku, zadejte obrázek a značku.

Příklad :

root@localhost:~# ngc registry image info nvidia/tensorflow:19.10-py3
 Image Information
     Name: nvidia/tensorflow:19.10-py3
     Architecture: amd64
     Schema Version: 1

Přístup k registru modelů

Model registru ngc příkazy vám umožňují přístup k modelům hlubokého učení připraveným k použití z registru.

Zobrazení informací o modelu

Existuje několik příkazů pro zobrazení informací o dostupných modelech.

Chcete-li zobrazit seznam modelů, které poskytuje NVIDIA:

Ukázkový výstup

+-----------------+-----------------+----------------+-----------------+--------------+-----------+---------------+------------+
 | Name            | Repository      | Latest Version | Application     | Framework    | Precision | Last Modified | Permission |
 +-----------------+-----------------+----------------+-----------------+--------------+-----------+---------------+------------+
 | BERT-Large      | nvidia/bert_for | 1              | Language        | TensorFlow   | FP16      | Oct 18, 2019  | unlocked   |
 | (pre-training)  | tensorflow     |                | Modelling       |              |           |               |            | | for TensorFlow  |                 |                |                 |              |           |               |            | | BERT-Large(pre- | nvidia/bert_tf | 1              | Language        | Tensorflow   | FP16      | Oct 19, 2019  | unlocked   |
 | training using  | pretraining_lam |                | Modelling       |              |           |               |            |
 | LAMB optimizer) | b_16n           |                |                 |              |           |               |            |
 | for TensorFlow  |                 |                |                 |              |           |               |            |
 | BERT-Base(fine- | nvidia/bert_tf_ | 2              | Language        | Tensorflow   | FP16      | Oct 18, 2019  | unlocked   |
 | tuning) - SQuAD | v1_1_base_fp16_ |                | Modelling       |              |           |               |            |
 | 1.1, seqLen=128 | 128             |                |                 |              |           |               |            |
 | BERT-Base(fine- | nvidia/bert_tf_ | 2              | Language        | Tensorflow   | FP16      | Oct 18, 2019  | unlocked   |
 | tuning) - SQuAD | v1_1_base_fp16_ |                | Modelling       |              |           |               |            |

Chcete-li zobrazit všechny verze modelu, použijte zástupný znak .*

root@localhost:~# ngc registry model list nvidia/bert_for_tensorflow:*
 +---------+----------+---------+------------+-----------+-----------+-----------+--------+--------------+--------------+
 | Version | Accuracy | Epochs  | Batch Size | GPU Model | Memory    | File Size | Owner  | Status       | Created Date |
 |         |          |         |            |           | Footprint |           |        |              |              |
 +---------+----------+---------+------------+-----------+-----------+-----------+--------+--------------+--------------+
 | 1       |          | 1000000 | 256        | V100      | 4011      | 3.77 GB   | NVIDIA | UPLOAD_COMPL | Jun 13, 2019 |
 |         |          |         |            |           |           |           |        | ETE          |              |
 +---------+----------+---------+------------+-----------+-----------+-----------+--------+--------------+--------------+

Chcete-li zobrazit podrobné informace o modelu, můžete zadat

model

root@localhost:~# ngc registry model info nvidia/bert_for_tensorflow
 Model Information
     Name: bert_for_tensorflow
     Application: Language Modelling
     Framework: TensorFlow
     Model Format: TF ckpt
     Precision: FP16
     Description: 
         # BERT Large(pre-training) for TensorFlow

nebo verzi modelu.

root@localhost:~# ngc registry model info nvidia/bert_for_tensorflow:1
 Model Version Information
     Id: 1
     Batch Size: 256
     Memory Footprint: 4011
     Number Of Epochs: 1000000
     Accuracy Reached: 
     GPU Model: V100
     Owner Name: NVIDIA
     Created Date: 2019-06-13T22:50:06.405Z
     Description: 
         Pretrained weights for the BERT (pre-training) model.
     Status: UPLOAD_COMPLETE
     Total File Count: 3
     Total Size: 3.77 GB

Stažení modelu

Chcete-li stáhnout model z registru na místní disk, zadejte název modelu a verzi.

root@localhost:~# ngc registry model download-version nvidia/<model-name:version>

Příklad :Stažení modelu do aktuálního adresáře.

root@localhost:~# ngc registry model download-version nvidia/bert_for_tensorflow:1
 Downloaded 3.46 GB in 6m 22s, Download speed: 9.26 MB/s                  
 Transfer id: bert_for_tensorflow_v1 Download status: Completed.
 Downloaded local path: /root/bert_for_tensorflow_v1
 Total files downloaded: 3 
 Total downloaded size: 3.46 GB
 Started at: 2019-10-30 18:14:23.667980
 Completed at: 2019-10-30 18:20:46.313870
 Duration taken: 6m 22s seconds

Model se stáhne do složky, která odpovídá názvu modelu v aktuálním adresáři. Další cestu můžete zadat pomocí -d . možnost.

root@localhost:~# ngc registry model download-version nvidia/bert_for_tensorflow:1 -d ./models

Zobrazení informací o modelovém skriptu

Existuje několik příkazů pro zobrazení informací o dostupných modelových skriptech.

Chcete-li zobrazit seznam modelových skriptů, které poskytuje NVIDIA:

root@localhost:~# ngc registry model-script list

+-----------------+-----------------+----------------+-----------------+------------+-----------+---------------+------------+

| Name            | Registry        | Latest Version | Application     | Framework  | Precision | Last Modified | Permission |

+-----------------+-----------------+----------------+-----------------+------------+-----------+---------------+------------+

| BERT for        | nvidia/bert_for | 3              | NLP             | PyTorch    | FPBOTH    | Oct 19, 2019  | unlocked   |

| PyTorch         | _pytorch        |                |                 |            |           |               |            |

| BERT for        | nvidia/bert_for | 4              | NLP             | TensorFlow | FPBOTH    | Oct 21, 2019  | unlocked   |

| TensorFlow      | _tensorflow     |                |                 |            |           |               |            |

| Clara Deploy    | nvidia/clara_de | 4              | SEGMENTATION    | TensorFlow | FPBOTH    | Oct 21, 2019  | unlocked   |

| SDK             | ploy_sdk        |                |                 |            |           |               |            |

| Clara AI        | nvidia/clara_tr | 1              | KUBEFLOW_PIPELI | TensorFlow | FP32      | Oct 19, 2019  | locked     |

| Medical Imaging | ain             |                | NE              |            |           |               |            |

Chcete-li zobrazit podrobné informace o modelovém skriptu, můžete zadat

modelový skript

root@localhost:~# ngc registry model-script info nvidia/bert_for_pytorch
 model-script Information
     Name: bert_for_pytorch
     Application: NLP
     Training Framework: PyTorch
     Model Format: PyTorch PTH
     Precision: FP16, FP32

nebo verzi modelového skriptu.

root@localhost:~# ngc registry model-script info nvidia/bert_for_pytorch:3
 model_script Version Information
     Id: 3
     Batch Size: 0
     Memory Footprint: 0
     Number Of Epochs: 0
     Accuracy Reached: 0.0
     GPU Model: V100

Stažení modelového skriptu

Chcete-li stáhnout modelový skript z registru na místní disk, zadejte název a verzi modelového skriptu.

root@localhost:~# ngc registry model-script download-version nvidia/<model-script-name:version>