Few-shot Learning
Capacité d'un modèle à apprendre une nouvelle tâche à partir d'un très petit nombre d'exemples.
Le few-shot learning désigne la capacité d’un modèle à s’adapter à une tâche nouvelle avec seulement quelques exemples (souvent 1 à 20), au lieu de nécessiter des milliers d’annotations. L’idée est de réutiliser des connaissances acquises lors d’un pré-entraînement sur de grandes quantités de données, puis de “généraliser” rapidement à un contexte inédit.
Comment ça fonctionne
Dans les modèles modernes (notamment les grands modèles de langage), on obtient souvent cet effet sans réentraîner le modèle : on fournit des exemples directement dans le prompt (on parle alors d’in-context learning). Le modèle infère le format attendu, les règles implicites ou le style de réponse à partir de ces démonstrations. Dans d’autres approches, on fait un fine-tuning léger sur quelques exemples, parfois avec des techniques d’adaptation paramétrique (ex. LoRA), pour réduire les coûts.
À quoi ça sert
- Prototyper rapidement une fonctionnalité IA quand on manque de données.
- Adapter un modèle à un domaine spécifique (juridique, médical, interne entreprise).
- Répondre à des variations de formats (classification, extraction, structuration).
Exemples
- Donner 3 exemples “email → intention” pour classifier de nouveaux emails.
- Fournir quelques paires “texte → résumé” pour imposer un style de résumé précis.