Spécialisation des LLM : Fine-tuning et Prompt Engineering Présentiel

1er jour

• Théorie des Transformers (mécanisme d'attention, language modeling...)
• Fine-tuning classique
• Evaluations et métriques des Large Language Models
• Mise en place d'un cadre pour le développement de LLM (mlflow, multi-GPU...)

2ème jour

• Nettoyage des données textuelles (data cleaning)
• Prompt Engineering
• Retrieval Augmented Generation (RAG)
• Parameter-Efficient Fine-tuning (PEFT)

3ème jour

• Génération de données synthétiques et RAG Evaluation
• Alignement de LLM (DPO, RLHF...)
• Mise en production (inférence)
• Multimodalité
• Agents et appels d'outils
• Discussion sur les projets des apprenants (optionnel)

• Acquérir les bases théoriques des Transformers (mécanisme d'attention, language modeling...)
• Connaître les différentes méthodes de Fine-tuning (classique, LoRA...) et de Prompt Engineering (RAG, Chain of Thought...)
• Mettre en place un environnement d'entraînement et d'optimisation de Large Language Models (LLM) : boucle d'entraînement, évaluation, tracking des résultats, nettoyage des données...
• Appliquer la théorie dans un cas d'usage précis

EQUIPEMENT : Salle informatique avec mise à disposition d'un ordinateur par apprenant connecté à la machine de cours de l'IDRIS (16 A100). La machine de cours peut être utilisée via un pc personnel. Il est recommandé à l'apprenant d'avoir un compte GitHub pour la récupération des ressources.

Les fichiers au format PDF, des Notebooks et les codes seront mis à disposition de l'apprenant.