Deep learning et applicationsEA Big Data et IA (STI)

Ce cours vise à acquérir les fondements théoriques et pratiques de l’apprentissage profond, à comprendre les principales architectures de réseaux de neurones et leurs domaines d’application. À l’issue du cours, les étudiants seront capables de concevoir, entraîner et évaluer des modèles de deep learning, d’exploiter des modèles pré-entraînés et de développer des applications intégrant des modèles de langage à grande échelle (LLM).

Fondements du deep learning : réseaux de neurones, fonctions d’activation, rétropropagation du gradient, optimisation et régularisation.

Architectures neuronales : réseaux convolutifs (CNN), réseaux récurrents (RNN, LSTM), applications à la vision et au traitement de séquences.

Architectures Transformer : mécanismes d’attention et de self-attention, encodage positionnel, architectures encodeur-décodeur.

LLM et IA générative : modèles de fondation, pré-entraînement, fine-tuning, génération de texte et adaptation des modèles.

Applications avancées : prompt engineering, génération augmentée par récupération (RAG), utilisation d'outils et systèmes agentiques (Agentic AI).

Mise en pratique : développement d’applications avec Python et PyTorch/Hugging Face ; évaluation des performances et analyse des limites des modèles.

Contrôle continu