Guida introduttiva rapida al notebook AI Runtime

Importante

Questa funzionalità è in Anteprima Pubblica.

Questa guida rapida mostra il modo più rapido per eseguire codice su AI Runtime, la piattaforma serverless di calcolo GPU per il deep learning. Attacchi un notebook a una GPU ed esegui un breve passaggio di addestramento con PyTorch, senza configurazione di cluster.

Tip

  • Collega un notebook a Serverless GPU per iniziare a eseguirlo su una GPU in pochi minuti.
  • Inizia con 1xA10 per lo sviluppo, poi scala per modelli più grandi o addestramento distribuito.
  • Non è necessaria alcuna configurazione del cluster e l'ambiente Standard include già torch.

Prima di iniziare

Il tuo workspace deve avere abilitato AI Runtime ed essere in una regione supportata. Vedi requisiti.

Passo 1: Collega un notebook a una GPU

  1. Crea o apri un notebook.
  2. Dal menu a tendina di calcolo in alto del notebook, seleziona GPU serverless.
  3. Nel campo Acceleratore , seleziona 1xA10.
  4. Clicca su Applica, poi Conferma.

Tip

Inizia con 1xA10 per lo sviluppo e i carichi di lavoro piccoli. Passa a 1xH100 o 8xH100 quando ti serve più memoria GPU o addestramento distribuito multi-GPU. Vedi Opzioni hardware.

Passo 2: Esegui il tuo primo codice GPU

Esegui quanto segue in una cella del notebook per confermare che la GPU è collegata ed esegui un passaggio di addestramento:

import torch

# Confirm a GPU is attached.
print(torch.cuda.get_device_name(0))

# Run a minimal training step on the GPU.
model = torch.nn.Linear(10, 1).cuda()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)
x, y = torch.randn(32, 10).cuda(), torch.randn(32, 1).cuda()

loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
print("loss:", loss.item())

Ora stai usando un calcolo GPU serverless.

Passaggi successivi

  • Last updated on