Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Importante
Cette fonctionnalité est disponible en préversion publique.
Les exemples suivants sont des charges de travail complètes de bout en bout que vous soumettez depuis l’interface de ligne de commande air avec air run -f <config>.yaml. Chacun inclut le YAML de la charge de travail, tous les scripts bootstrap et le code complet. Commencez par le démarrage rapide si vous n’avez pas envoyé d’exécution avant.
| Example | Description |
|---|---|
| Réglage d’optimisation de LLM à plusieurs nœuds avec FSDP | Ajustement fin supervisé de Llama-3.1-8B sur 16 GPU H100 (2 nœuds) à l’aide de torchrun et de PyTorch Fully Sharded Data Parallel (FSDP). Les logs sont envoyés à MLflow et les points de contrôle sont stockés dans un volume Unity Catalog. |
| Ray, bonjour le monde | Exemples fonctionnels minimaux pour Ray Core, Ray Train, Ray Data et Ray Tune, y compris le patron bootstrap partagé pour exécuter des clusters Ray sur AI Runtime. |
| Entraînement distribué avec Ray Train | Ajustement distribué à parallélisme de données avec le TorchTrainer de Ray Train sur 8 GPU H100 (un seul nœud), avec un worker par GPU. |
| Inférence par lots avec Ray Data et vLLM | Inférence par lots hors ligne avec des LLM à l’aide de Ray Data et de vLLM sur 8 GPU H100 (un seul nœud), avec une réplica vLLM par GPU et écriture des résultats dans un volume Unity Catalog au format Parquet. |