Activations, logits et choix final

Public

10–15 ans

Durée

30 à 40 min

Aventure

2/8

Badge visé

Interprète des scores

Mission du jour

Distinguer score brut, activation cachée, probabilité et classe choisie.

Preuve de réussite : explique « Activations, logits et choix final », réalise « Du score aux parts » et cite la limite de l’analogie.

L'histoire

Au tournoi de motifs, Zoé obtient trois nombres : 2,1 ; −0,4 ; 0,8. Ce sont des logits, pas des probabilités : ils ne sont ni limités entre 0 et 1 ni obligés de totaliser 1. Softmax les transforme en proportions positives qui totalisent 1. La catégorie au plus grand score peut être choisie, mais l'équipe conserve aussi l'incertitude et un seuil d'abstention pour les cas trop serrés.

Ce qui est vrai techniquement

Une réponse convaincante relie une entrée à une sortie mesurée. Garde ces trois faits sous les yeux. Ici, ton repère est « Activations, logits et choix final ».

• Une activation comme ReLU introduit une non-linéarité en gardant max(0, z) ; sans non-linéarité, plusieurs couches denses se réduisent à une seule transformation linéaire.
• Les logits sont des scores bruts ; softmax les normalise ensemble pour une classification à catégories exclusives.
• La plus grande valeur softmax est un score normalisé, pas une fréquence vérifiée de réussite ; la calibration compare ces scores aux fréquences observées sur des données séparées.

La carte verticale

Le chemin distingue activation, logits, normalisation et règle de décision au lieu de traiter softmax comme une certitude. Lis le dessin du haut vers le bas : chaque flèche annonce une transformation ou une vérification, jamais une pensée de la machine.

Une analogie utile — et sa limite

L'analogie : Les logits ressemblent aux points bruts d'un jury, puis softmax à une conversion vers des parts comparables.

Là où elle s'arrête : Une vraie probabilité exige plus qu'une conversion mathématique : si le modèle est mal calibré ou hors contexte, une part de 90 % peut être trompeuse. Une analogie aide à démarrer ; elle ne remplace ni les données, ni les calculs, ni un test.

Activité sans écran — Du score aux parts

Matériel : trois cartes-logits 2, 1 et 0, six jetons, une règle ReLU et une table softmax simplifiée
Temps conseillé : 10 à 20 minutes.

1. Classe les trois logits sans les appeler probabilités.
2. Applique ReLU à une seconde série contenant des valeurs négatives.
3. Utilise la table pour transformer 2, 1 et 0 en parts approximatives 0,67, 0,24 et 0,09.
4. Ajoute une règle d'abstention si les deux plus grandes parts sont séparées de moins de 0,10.

Observation attendue : score, activation, probabilité et décision sont quatre objets différents que l'on ne doit pas confondre.

Défi facultatif

Ajoute la même constante aux trois logits. Vérifie que les proportions softmax ne changent pas, puis explique cette invariance.

Sécurité, équité et choix humain

Forcer un choix peut cacher l'incertitude. Dans une situation sensible, autorise « insuffisant pour décider » et confie le cas à une personne compétente.

Question responsable : Qui fixe le seuil d'abstention et quelles erreurs doit-on examiner avant de le choisir ?

Mini-quiz corrigé

1. Un logit doit-il être entre 0 et 1 ?

   Correction : Non. C'est un score brut qui peut être négatif ou supérieur à 1.

2. Pourquoi une activation non linéaire entre les couches ?

   Correction : Elle permet de représenter des relations qu'un empilement purement linéaire ne peut pas créer.

3. Une sortie softmax de 0,9 garantit-elle la bonne classe ?

   Correction : Non. Il faut vérifier la calibration et le contexte sur des données séparées.

Badge de compétence

Interprète des scores — Tu gagnes ce badge si tu peux expliquer le schéma sans lire, montrer le résultat de l'activité et corriger une réponse fausse avec bienveillance.