Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Questi esempi affinano e post-addestrano grandi modelli linguistici (LLM) su AI Runtime. Trattano metodi efficienti in termini di parametri, come Low-Rank Adaptation (LoRA), e il fine-tuning supervisionato completo in librerie come TRL, Unsloth, Axolotl e LLM Foundry. Per esempi di inferenza batch, vedi Inferenza batch.
| Example | Interface | Descrizione |
|---|---|---|
| Apprendimento per rinforzo di Gemma4-2B | Notebook | Esegui il post-addestramento di Gemma4-2B con Group Relative Policy Optimization (GRPO) e Low-Rank Adaptation (LoRA) su una singola GPU H100 utilizzando Unsloth. |
| Fine-tuning con supervisione (completo) di Qwen3-4B | Notebook | Eseguire il fine-tuning completo di Qwen3-4B su una singola GPU H100 con TRL, utilizzando la precisione mista BF16 e il gradient checkpointing. |
| Fine-tuning supervisionato (LoRA) di Llama-3.2-3B | Notebook | LoRA ha affinato Llama-3.2-3B su una singola GPU con la libreria Unsloth. |
| Supervisioned Fine-tuning (LoRA) di GPT-OSS 20B | Notebook | Ottimizza GPT-OSS 20B con LoRA su 8 GPU H100 con TRL e parallelismo dei dati distribuito. |
| Supervisione di Fine-tuning (Full) di Llama-3.2-1B | Notebook | Fine-tuning a pesi completi di Llama-3.2-1B su 8 GPU H100 con TRL e DeepSpeed ZeRO Stage 3. |
| Supervisioned Fine-tuning (LoRA) di Olmo3 7B | Notebook | LoRA affina Olmo3 7B su più GPU con la libreria Axolotl. |
| Messa a punto con supervisione (Full) e distribuzione di Qwen3.5-0.8B | Notebook | Eseguire il fine-tuning di Qwen3.5-0.8B su una singola GPU H100 con TRL, quindi distribuirlo tramite un endpoint di Model Serving di vLLM. |
| Fine-tuning supervisionato di Llama-3.2-3B su più GPU | Notebook | LoRA ottimizza Llama-3.2-3B su più GPU con la libreria Unsloth. |
| Messa a punto supervisionata (LoRA) di GPT-OSS 120B | Notebook | Esegui il fine-tuning LoRA di GPT-OSS 120B su 8 GPU H100 con TRL, usando DDP e FSDP. |
| Addestrare i transformer su più GPU | Notebook | Eseguire il training dei modelli Transformer usando PyTorch Fully Sharded Data Parallel (FSDP) per partizionare i parametri del modello tra più GPU. |
| Fine-tuning completo di Qwen3-8B per l'estrazione delle fatture | CLI | Ottimizzare Qwen3-8B per l'estrazione di entità da fatture e ricevute con TRL e DeepSpeed ZeRO-3 su un unico nodo 8x H100. |
| Supervisione della messa a punto fine di Qwen2.5-3B con Ray Train | CLI | Usa Ray Train per eseguire il fine-tuning di Qwen2.5-3B con un worker DDP per GPU su un nodo con 8 H100. |
| Fine-tuning di Longformer per la classificazione di documenti lunghi | CLI | Ottimizza Longformer con LoRA per la classificazione del sentiment di documenti lunghi su una GPU e salva l'adattatore su un volume del Catalogo Unity. |
| Fine-tuning di ModernBERT su una GPU | CLI | Ottimizza ModernBERT per la classificazione degli argomenti su una GPU A10 e registra il modello nel Catalogo Unity. |
| Fine-tuning ModernBERT con DDP | CLI | Affina ModernBERT per la classificazione degli argomenti con PyTorch DDP su un nodo 8x H100 e registra il modello nel Catalogo Unity. |
| Messa a punto fine LoRA del Nemotron 3.5 Lightning | CLI | Esegui il fine-tuning di Nemotron 3.5 Lightning con NeMo AutoModel, FSDP2 e parallelismo esperto su un nodo 8x H100. |
| Messa a punto LoRA del Nemotron 3.5 Super VL | CLI | Ottimizzare il modello vision-language Nemotron 3.5 Super VL con NeMo AutoModel e LoRA su un nodo 8x H100. |
| Affinare e distribuire Qwen2.5-0.5B | CLI | Affina Qwen2.5-0.5B con LoRA, registra il modello fuso nel Catalogo Unity e distribuiscilo su Custom Model Serving. |
Video dimostrativo
Questo video spiega in dettaglio il Supervised Fine-tuning (LoRA) del quaderno di esempio Llama-3.2-3B (12 minuti).