Ce cours apparaît dans les formations suivantes :
• Ecole Du Numérique (EDN) - Master 2 Data & Intelligence Artificielle - S4 - 4 ECTS

Pré requis

Connaissance du langage python et connaissances mathématiques (algèbre)

Objectifs du cours

• Savoir expliquer la méthode d’apprentissage d’un réseau de neurone


• Savoir mettre en œuvre un réseau de neurone à l’aide de Pytorch


• Connaitre les concepts mathématiques d’apprentissage d’un réseau de neurones

Contenu du cours

- Rappel Python, Jupyter Notebook, Google Colab

- Introduction aux réseaux de neurones

• Perceptron et réseaux MLP


• Classification vs Regression


• Propagation-avant (feedforward)


• Application (perceptron)

- Descente du gradient

• Calcul d’erreur


• Optimisation par descente du gradient


• Rétropropagation (backpropagation)


• Application (développer un réseau de neurones de zéro)

- Entrainement et optimisation d’un réseau neuronal

• Underfitting vs Overfitting


• Taux d’apprentissage (learning rate)


• Régularisation


• Dropout


• Problème de la disparition du gradient (vanishing gradient)


• Fonctions d’activation


• Momentum


• Apprentissage par lots (batches)

- Introduction à Pytorch

- Réseaux convolutifs CNN

• Images et MLP


• Filtrage d’image et convolution


• Pooling


• Architecture CNN et Application (Implanter un CNN avec Pytorch)


• Apprentissage par transfert (transfer learning)


• Autoencodeurs

- Ouverture vers notions plus avancées

• Notion sur les réseaux récurrents (RNN, LSTM)


• Notion sur les réseaux génératifs (GAN)

Modalités d'enseignement

Organisation du cours

cours de 32h

Méthodes pédagogiques

Évaluation

Contrôle continu : coeff. 1

Bibliographie

• “Deep Learning”, Ian Goodfellow et al., MIT Press, 2016||
  NVIDIA Deep Learning Institute - Educator Resources