Formation : IA - Fine tuning de modèles

Durée de la formation

2 jours

Code cours

IA065

Prix de la formation

Nous consulter

Sessions programmées

S'inscrire

Public :

Data scientists, ingénieurs ML, développeurs IA souhaitant adapter des modèles pré-entraînés à des cas d'usage métier spécifiques.

Objectifs :

Comprendre quand et pourquoi fine-tuner un modèle plutôt qu'utiliser du prompt engineering ou du RAG. Préparer des datasets d'entraînement de qualité. Mettre en oeuvre les techniques de fine tuning efficaces (LoRA, QLoRA, PEFT). Évaluer et comparer les modèles affinés. Déployer un modèle fine-tuné en production.

Prérequis :

Bonne maîtrise de Python. Connaissances en deep learning (réseaux de neurones, fonctions de perte, optimiseurs). Expérience avec les LLM via API ou en local.

Pour tester vos connaissances actuelles sur le sujet : Validation des pré-requis
Pour nous préciser vos attentes : Validation des attentes

Programme détaillé de la formation

Positionnement du fine tuning

Quand fine-tuner : arbitrage entre prompt engineering, RAG et fine tuning — critères de décision (coût, latence, qualité, confidentialité).
Taxonomie du fine tuning : full fine tuning, transfer learning, parameter-efficient fine tuning (PEFT).
Panorama des modèles fine-tunables : modèles ouverts (Llama, Mistral, Gemma, Phi) vs APIs managées (OpenAI, Anthropic, Vertex AI).
Coûts et ressources : estimation GPU, durée d'entraînement, comparatif cloud vs on-premise.
Cadre juridique : licences des modèles de base, propriété du modèle affiné, implications RGPD sur les données d'entraînement.

Atelier : Analyse de 3 cas d'usage métier — décision argumentée fine tuning vs RAG vs prompt engineering pour chaque cas.

Préparation des données d'entraînement

Formats de datasets : instruction/réponse, conversation multi-tours, préférence (chosen/rejected).
Collecte et curation : extraction depuis des bases métier, annotation, nettoyage, dédoublonnage.
Augmentation de données : génération synthétique via LLM, paraphrase, diversification.
Qualité du dataset : détection de biais, équilibrage des classes, validation croisée.
Dimensionnement : combien d'exemples faut-il ? Loi des rendements décroissants.
Outillage : Argilla, Label Studio, scripts de conversion vers les formats Hugging Face.

Atelier : Construction d'un dataset d'entraînement à partir de données brutes métier — nettoyage, mise en forme instruction/réponse, split train/eval, publication sur Hugging Face Hub.

Techniques de fine tuning

Full fine tuning vs PEFT : impact mémoire, vitesse, qualité — quand choisir quoi.
LoRA (Low-Rank Adaptation) : principe mathématique, choix du rang, ciblage des couches.
QLoRA : quantification 4-bit + LoRA, configuration bitsandbytes.
Hyperparamètres clés : learning rate, epochs, batch size, warmup, weight decay — stratégies de réglage.
Entraînement distribué : DeepSpeed, FSDP, multi-GPU.
Plateformes d'entraînement : Hugging Face TRL/SFTTrainer, Axolotl, Unsloth, services cloud (SageMaker, Vertex AI).
Suivi d'entraînement : Weights & Biases, TensorBoard, courbes de perte et détection d'overfitting.

Atelier : Fine tuning LoRA d'un modèle 7B sur GPU — configuration de l'entraînement, suivi des métriques en temps réel, sauvegarde des adaptateurs.

Alignement et techniques avancées

RLHF (Reinforcement Learning from Human Feedback) : principe, modèle de récompense, PPO — pourquoi c'est coûteux.
DPO (Direct Preference Optimization) : alternative simplifiée au RLHF, mise en oeuvre avec TRL.
ORPO, SimPO : variantes récentes et cas d'usage.
Préparation d'un dataset de préférences : paires chosen/rejected, annotation, contrôle qualité.
Merge de modèles : combinaison d'adaptateurs LoRA, techniques de fusion (TIES, DARE, linear merge).
Distillation : transférer les capacités d'un grand modèle vers un modèle plus petit.

Atelier : Alignement DPO d'un modèle pré-fine-tuné — préparation du dataset de préférences, entraînement DPO, comparaison avant/après sur un jeu de tests.

Évaluation et déploiement

Métriques d'évaluation : perplexité, BLEU/ROUGE (limites), évaluation LLM-as-judge, benchmarks métier.
Construction d'un benchmark maison : jeu de tests représentatif, scoring automatique, tests de régression.
Comparaison systématique : modèle de base vs fine-tuné vs RAG sur les mêmes cas de test.
Formats d'export : GGUF, ONNX, SafeTensors — choix selon la cible de déploiement.
Quantification post-entraînement : GPTQ, AWQ, impact sur la qualité.
Déploiement du modèle affiné : vLLM, TGI, Ollama, Triton — intégration dans une chaîne applicative existante.
Versioning et cycle de vie : registre de modèles, rollback, réentraînement planifié.

Atelier : Pipeline complet — évaluation comparative du modèle fine-tuné, export GGUF, déploiement via vLLM, test d'inférence en conditions réelles.

Ces formations pourraient aussi vous intéresser

IA : traitement du langage naturel (NLP)

Code : IA051|Durée : 2 jours

Architectures de solutions IA

Code : IA007|Durée : 3 jours

IA - Construction de modèles : texte, image, son

Code : IA060|Durée : 2 jours

Phirio

+33 1 55 33 52 10
info@phirio.fr

Calendrier
Code cours : IA065

Contenu de la formation
IA - Fine tuning de modèles:

Positionnement du fine tuning
Préparation des données d'entraînement
Techniques de fine tuning
Alignement et techniques avancées
Évaluation et déploiement

Accès à la liste des cours

Vous pouvez bien entendu composer votre programme personnel à partir de nos descriptifs de cours

Version du document : T912
Date de mise à jour du document : 2026/10/12

Formation : IA - Fine tuning de modèles

Durée de la formation

Code cours

Prix de la formation

Sessions programmées

Public :

Objectifs :

Prérequis :

Programme détaillé de la formation

Positionnement du fine tuning

Préparation des données d'entraînement

Techniques de fine tuning

Alignement et techniques avancées

Évaluation et déploiement

Liens complémentaires

Déroulé pédagogique

Modalités et délais d'accès

Méthodes mobilisées et modalités d'évaluation

Ces formations pourraient aussi vous intéresser

IA : traitement du langage naturel (NLP)

Architectures de solutions IA

IA - Construction de modèles : texte, image, son

Phirio

Phirio

Formations