Mathématiques pour l'IA

Sommaire

• Mathématiques pour l’IA
• Algèbre linéaire
• Vecteurs, matrices, tenseurs
• Scalaires, vecteurs, matrices, tenseurs
• Matrices, produit matriciel et tenseurs
• TD · Vecteurs, matrices, tenseurs
• Produit scalaire, normes, projections
• Produit scalaire, normes et similarité
• Vecteurs, normes et produit scalaire
• Produit scalaire, normes, orthogonalité, projections, QR
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Produit scalaire, normes, projections
• Applications linéaires et rang
• Produit matriciel et transformations linéaires
• Espaces vectoriels, applications linéaires, matrices, rang
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Applications linéaires et rang
• Valeurs propres et théorème spectral
• Valeurs propres, théorème spectral, matrices semi-définies positives
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Valeurs propres et théorème spectral
• SVD, ACP et faible rang
• Rang, valeurs propres, SVD et approximation de faible rang
• Décomposition en valeurs singulières (SVD), pseudo-inverse, ACP
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · SVD, ACP et faible rang
• Calcul différentiel
• Fonctions et dérivées
• Fonctions et dérivées
• TD · Fonctions et dérivées
• Dérivées partielles, gradient, hessienne
• Dérivées partielles et gradient
• TD · Dérivées partielles, gradient, hessienne
• Règle de la chaîne, jacobienne, calcul matriciel
• La règle de la chaîne et la jacobienne
• Dérivées, gradient, jacobienne et règle de chaîne
• Calcul différentiel multivarié : gradient, jacobienne, hessienne, calcul matriciel
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Règle de la chaîne, jacobienne, calcul matriciel
• Probabilités, statistique, information
• Probabilités et Bayes
• Probabilités : les bases et le théorème de Bayes
• Probabilités : variables aléatoires, espérance, lois et conditionnement
• Fondements des probabilités : espace probabilisé, variables aléatoires, espérance, conditionnement
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Probabilités et Bayes
• Lois usuelles et gaussienne multivariée
• Les lois usuelles, la loi des grands nombres et le théorème central limite
• Lois usuelles, familles exponentielles, gaussienne multivariée
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Lois usuelles et gaussienne multivariée
• Théorèmes limites et concentration
• Convergences, loi des grands nombres, TCL, inégalités de concentration
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Théorèmes limites et concentration
• Estimation : maximum de vraisemblance, MAP
• Maximum de vraisemblance
• Estimation : biais, variance, maximum de vraisemblance, MAP, Fisher, tests
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Estimation : maximum de vraisemblance, MAP
• Entropie, entropie croisée, KL
• Vraisemblance, entropie, entropie croisée et divergence KL
• Entropie, cross-entropy, divergence KL et perplexité
• Théorie de l'information : entropie, entropie croisée, divergence KL, information mutuelle
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Entropie, entropie croisée, KL
• Softmax, log-sum-exp, température
• Softmax, logits, log-sum-exp et température
• TD · Softmax, log-sum-exp, température
• Optimisation
• Descente de gradient et SGD
• La descente de gradient
• Descente de gradient et descente stochastique (SGD)
• Descente de gradient, SGD, momentum, Adam, taux d'apprentissage, convergence
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Descente de gradient et SGD
• Optimisation convexe, Lagrangien, KKT
• Optimisation convexe : convexité, conditions d'optimalité, Lagrangien, dualité, KKT
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Optimisation convexe, Lagrangien, KKT
• Modèles probabilistes et inférence
• Mélanges gaussiens et algorithme EM
• Clustering, k-means, mélanges gaussiens et algorithme EM
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Mélanges gaussiens et algorithme EM
• Modèles graphiques
• Modèles graphiques : réseaux bayésiens, champs de Markov, HMM, inférence exacte
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Modèles graphiques
• Inférence bayésienne et MCMC
• Inférence bayésienne et méthodes MCMC (Metropolis–Hastings, Gibbs, HMC, Langevin)
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Inférence bayésienne et MCMC
• Inférence variationnelle et ELBO
• Inférence variationnelle : ELBO, champ moyen, variationnel stochastique, amortissement
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Inférence variationnelle et ELBO
• Processus gaussiens
• Processus gaussiens et optimisation bayésienne
• COURS
• SCHÉMA DU COURS
• SCHÉMA ORIGINAL
• EXEMPLE DU COURS
• EXEMPLE INVENTÉ
• TP / RECHERCHE
• TD · Processus gaussiens
• Concordance avec les anciens cours