Monitorare, eseguire il debug e distribuire

Monitora gli esperimenti, ispeziona i log, programma i carichi di lavoro di produzione della GPU e serve i modelli che addestri su AI Runtime.

Topic Description
Tieni traccia di esecuzioni, log e metriche Monitora esperimenti, metriche e artefatti con MLflow e visualizza i log e l'utilizzo delle risorse GPU.
Pianifica i carichi di lavoro GPU Distribuisci codice di addestramento con Declarative Automation Bundles, programma le esecuzioni e crea flussi di lavoro multi-task di GPU e CPU.
Converti un workload in un bundle Converti un YAML di workload di esecuzione AI in Declarative Automation Bundles per gestirlo come un lavoro persistente.
Configura le attività del bundle Impacchetta il codice di addestramento, seleziona il calcolo GPU e gli ambienti, e passa la configurazione nelle attività del bundle.
Distribuisci modelli addestrati Registra i log, registra e distribuisci modelli addestrati su AI Runtime negli endpoint di Model Serving su CPU o GPU.
Serve con l'ambiente del tuo notebook Registra un modello da un notebook AI Runtime come deployment express, così che l'endpoint utilizzi lo stesso ambiente e i pacchetti del notebook.
Distribuisci LLM Distribuisci un LLM addestrato su AI Runtime su un endpoint GPU dietro un'API compatibile con OpenAI.