Objectif : formaliser l'unité de calcul élémentaire et sa frontière de décision.
Un neurone calcule d'abord une combinaison affine puis une activation :
z = wᵀx + b
a = φ(z)Les poids w et le biais b sont appris. L'activation φ est choisie par le concepteur.
Le biais translate la frontière ; sans lui, toute frontière linéaire passerait par l'origine.
Le perceptron binaire produit 1 si wᵀx + b > 0, sinon 0. Il peut apprendre une
séparation linéaire, mais pas XOR. Cette limite n'est pas corrigée en ajoutant davantage
d'exemples : l'espace des fonctions du modèle est insuffisant.
| Entrée XOR | Sortie |
|---|---|
| 0, 0 | 0 |
| 0, 1 | 1 |
| 1, 0 | 1 |
| 1, 1 | 0 |
Aucune droite ne sépare les deux classes. Une couche cachée non linéaire peut fabriquer des représentations intermédiaires qui rendent ensuite la séparation possible.
Le neurone artificiel ressemble à une grille pondérée : il additionne des indices avec des coefficients, ajoute un seuil mobile, puis transmet un signal. L'analogie biologique ne doit pas être prise littéralement.
Quel est le rôle du biais ? Pourquoi un perceptron simple échoue-t-il sur XOR ? Les poids sont-ils fixés à la main ?
Le biais déplace la frontière. XOR n'est pas linéairement séparable. Les poids sont appris.
Avec w=(2,-1) et b=-0.5, calculez z puis la classe des quatre points (0,0), (0,1),
(1,0), (1,1). Tentez ensuite d'étiqueter XOR avec une seule droite et expliquez
géométriquement l'échec. Réussite : distinguer limite du perceptron et erreur d'optimisation.
Lecture : les poids orientent la frontière, le biais la déplace et l'activation permet une transformation non linéaire. Un neurone seul ne résout que des séparations simples ; ce sont la composition des neurones et l'optimisation des paramètres qui donnent au réseau sa capacité. Le piège est d'interpréter un poids isolé sans tenir compte de l'échelle des entrées et des couches suivantes.