# Boîte Noire

> Modèle d'IA dont les mécanismes internes de prise de décision sont opaques et incompréhensibles pour les humains.

- Page ZoneIA : https://zoneia.fr/glossaire/boite-noire
- Type : Définition du glossaire IA
- Catégories : [Recherche & Science](https://zoneia.fr/outils/categorie/recherche-science-ia), [Analyse de Données & Data](https://zoneia.fr/outils/categorie/analyse-donnees-data)
- Publié le : 2026-03-04
- Mis à jour le : 2026-05-22

Une « boîte noire » désigne un système d’IA dont on observe surtout les **entrées** (données) et les **sorties** (prédictions), sans pouvoir expliquer clairement le cheminement interne qui mène au résultat. C’est fréquent avec les modèles complexes, comme les réseaux de neurones profonds, où des millions de paramètres interagissent.

## Pourquoi c’est opaque ?
Le modèle apprend des **représentations** distribuées : aucune règle simple n’est explicitement codée. Les décisions émergent d’un grand nombre de calculs intermédiaires, difficiles à relier à des concepts humains. Même si l’architecture est connue, interpréter les poids et activations n’est pas trivial.

## Enjeux et risques
L’opacité pose des problèmes de **confiance**, de **débogage** et de **conformité** (audit, traçabilité, explication d’un refus de crédit, etc.). Elle peut masquer des **biais** issus des données d’entraînement ou des comportements inattendus en production.

## Comment on l’atténue
On utilise des techniques d’**IA explicable (XAI)** : importance des variables (SHAP, LIME), cartes de saillance pour la vision, exemples contre-factuels, ou modèles plus interprétables (arbres de décision, régressions) quand c’est possible. On complète souvent par des tests, de la surveillance et une documentation des données et du modèle.

## Exemples
Scoring de crédit, diagnostic médical assisté, détection de fraude, classification d’images par deep learning.

---

Source : ZoneIA, annuaire francophone des outils IA (https://zoneia.fr/glossaire/boite-noire)