Fonction de Perte (Loss Function)
Formule mesurant l'écart entre les prédictions du modèle et les résultats réels attendus.
Une fonction de perte quantifie, sous forme d’un nombre, à quel point un modèle se trompe. Plus la perte est faible, plus les prédictions sont proches des valeurs attendues. Elle sert de boussole pendant l’entraînement : l’algorithme cherche à la minimiser.
Comment ça fonctionne
À chaque exemple, le modèle produit une prédiction. La fonction de perte compare cette prédiction à la vérité terrain (label) et calcule un coût. Ce coût est ensuite utilisé par l’optimisation (souvent descente de gradient) pour ajuster les paramètres du modèle via le calcul des gradients (backpropagation en deep learning). Le choix de la perte influence fortement la convergence, la stabilité et le type d’erreurs pénalisées.
À quoi ça sert concrètement
- Guider l’apprentissage : définir ce que signifie “bien prédire”.
- Comparer des modèles : une perte plus basse (sur validation) indique souvent de meilleures performances.
- Adapter le comportement : certaines pertes pénalisent davantage les grosses erreurs ou les classes rares.
Exemples courants
- Régression : MSE (erreur quadratique moyenne), MAE.
- Classification : entropie croisée (cross-entropy), hinge loss.
- Déséquilibre de classes : focal loss, pertes pondérées.
Bien choisir la fonction de perte, c’est aligner l’entraînement avec l’objectif métier (précision, robustesse, coût d’erreur).