Robustesse
Capacité d'un modèle d'IA à maintenir ses performances malgré des données d'entrée bruitées, imprévues ou malveillantes.
La robustesse décrit la faculté d’un système d’IA à rester fiable quand le monde réel s’écarte des conditions “idéales” vues à l’entraînement. Elle couvre les entrées bruitées (capteurs imparfaits, fautes de frappe), les cas rares (situations peu représentées) et les tentatives de manipulation (attaques adversariales). Un modèle peut être très précis sur un jeu de test propre, tout en échouant dès que la distribution des données change légèrement.
Comment ça se manifeste
On parle souvent de robustesse aux perturbations (petits changements qui ne devraient pas modifier la réponse) et de robustesse au décalage de distribution (distribution shift, données réelles différentes de l’entraînement). La robustesse inclut aussi la résistance aux inputs malveillants, par exemple des images ou des prompts conçus pour tromper le modèle.
À quoi ça sert
Elle est essentielle en production : sécurité, continuité de service et réduction des comportements imprévisibles. Une bonne robustesse limite les erreurs coûteuses, améliore la confiance des utilisateurs et facilite la conformité (ex. exigences de sûreté).
Techniques courantes
- Augmentation de données et bruit contrôlé à l’entraînement.
- Entraînement adversarial et tests de stress.
- Regularisation, ensembles de modèles, calibration des probabilités.
- Détection d’outliers et garde-fous (filtres, règles, validation d’entrée).
Exemple
Un OCR robuste lit correctement un texte malgré un flou léger ; un modèle moins robuste confond des caractères ou devient incohérent avec de petites altérations.