Los tipos de clasificación

Définition rigoureuse

Soit un espace d'entrée X et un ensemble fini d'etiquetas C = {c_1, ..., c_K} de cardinal K ≥ 2. Une tâche de clasificación consiste à induire, à partir d'un échantillon {(x_i, y_i)}, i = 1..n, une fonction de décision es : X → Y dont l'espace d'arrivée Y est construit sur C selon l'une de deux constructions, qui fondent la partition de ce chapitre :

• Y = C — chaque observación reçoit exactement une etiqueta parmi K. Le problème est dit à etiqueta unique (single-label).
• Y = {0, 1}^K, ensemble des parties de C — chaque observación reçoit un sous-ensemble quelconque d'etiquetas, éventuellement vide. Le problème est dit multilabel.

Traduction en langage courant

Classer, c'est attribuer des etiquetas prises dans une liste fermée. La première question à trancher est de savoir si une observación en reçoit une seule ou plusieurs.

Point de vigilance

La liste des etiquetas est supposée fermée et connue à l'entrenamiento. Un clasificador ne peut pas predecir une clase qu'il n'a jamais observée ; la gestion des clases inédites relève de la détection d'anomalies (chapitre 003).

Définition rigoureuse

Cas de la clasificación à etiqueta unique où K = 2 : C = {c_0, c_1} et Y = C. La fonction de décision es : X → {c_0, c_1} partitionne l'espace d'entrée en deux régions séparées par une frontière de décision.

La plupart des algoritmos n'apprennent pas es directement, mais une fonction de score s : X → ℝ ou une estimation de probabilidad conditionnelle p(x) = P(Y = c_1 | X = x), la décision résultant d'une comparaison à un seuil t : es(x) = c_1 si p(x) ≥ t, c_0 sinon.

Traduction en langage courant

Deux réponses possibles, et deux seulement. Le modelo produit en réalité un degré de confiance, converti en réponse en fixant une barre.

Point de vigilance

La séparation entre l'estimation de p(x) et le choix du seuil t est fondamentale. Le seuil de 0,5 est une convention d'implémentation, jamais un optimum démontré. Son réglage est traité au chapitre 062.

Définition rigoureuse

Dans un problème binaire, la clase positive est celle par rapport à laquelle sont définis les comptages de la matriz de confusión — vrais positifs, faux positifs, faux négatifs — et donc les métriques asymétriques qui en dérivent : precisión, exhaustividad, especificidad, es-beta.

Traduction en langage courant

La clase positive est celle que le modelo est chargé de détecter. Le mot « positif » ne porte aucune connotation favorable : un dépistage positif est un mauvais résultat pour le patient.

Règle de désignation

La clase positive est, par convention professionnelle, la clase d'intérêt : l'événement rare, coûteux ou actionnable — fraude, défaut de paiement, maladie, départ de client, panne. Elle coïncide dans la grande majorité des cas avec la clase minoritaire.

Point de vigilance

Cette désignation est une décision de modélisation explicite. La laisser dépendre de l'ordre alphabétique des etiquetas produit des métriques correctement calculées mais interprétées à contresens.

Un laboratoire annonce que son test « détecte 95 % des cas ». La phrase est inexploitable tant qu'on ignore ce qui est détecté.

S'il s'agit de détecter les malades, 95 % est le exhaustividad sur la clase « malade » : cinq malades sur cent sont manqués.

S'il s'agit de détecter les bien-portants, 95 % est le exhaustividad sur la clase « sain », c'est-à-dire la especificidad : cinq bien-portants sur cent sont inquiétés à tort, et le taux de malades manqués reste totalement inconnu.

Le même nombre, calculé sur le même modelo, décrit deux réalités cliniques sans rapport. Nommer la clase positive est la condition d'interprétabilité du chiffre.

Définition rigoureuse

clasificación à etiqueta unique où K > 2, l'ensemble C = {c_1, ..., c_K} étant exhaustif — toute observación admet une etiqueta dans C — et mutuellement exclusif — une observación en admet exactement une. Formellement Y = C, et Σ_k P(Y = c_k | X = x) = 1 pour tout x.

On parle aussi de clasificación nominale pour souligner que C n'est muni d'aucune relation d'ordre.

Traduction en langage courant

Plus de deux réponses possibles, une seule réponse par observación, et aucune réponse n'est « supérieure » à une autre.

Point de vigilance

Exhaustivité et exclusivité sont deux hypothèses distinctes, toutes deux falsifiables sur les datos. Une nomenclature comportant une modalité « Autre » satisfait l'exhaustivité au prix d'une clase hétérogène difficile à modéliser.

Un-contre-tous (One-vs-Rest, OvR, aussi One-vs-All)

On entraîne K classifieurs binaires ; le clasificador k oppose c_k à l'union de toutes les autres clases. En predicción, on retient argmax_k s_k(x).

Un-contre-un (One-vs-One, OvO)

On entraîne un clasificador par paire de clases, soit K(K−1)/2 classifieurs ; le clasificador (j, k) n'est entraîné que sur les observaciones de c_j ou c_k. En predicción, chaque clasificador vote et la clase majoritaire l'emporte.

Traduction en langage courant

Un-contre-tous : « est-ce un chat, oui ou non ? », puis « est-ce un chien, oui ou non ? » ; on garde la réponse la plus assurée. Un-contre-un : on organise un tournoi de duels entre toutes les paires et on compte les victoires.

Point de vigilance

Les scores des K classifieurs OvR proviennent de modelos entraînés séparément, sur des problèmes de difficulté et de prévalence différentes. Leur comparabilité directe par argmax n'est pas garantie : c'est la faiblesse théorique reconnue de la stratégie.

Définition rigoureuse

Dans la typologie des échelles de mesure proposée par S. S. Stevens (1946), une échelle est dite ordinale lorsque la relation d'ordre entre les modalités est définie et significative, mais que la distance entre deux modalités consécutives ne l'est pas. Les opérations admissibles sont la comparaison (<, >, =), les rangs, la médiane et les quantiles ; la somme, la media arithmétique et la différence ne le sont pas.

L'échelle d'intervalle, immédiatement supérieure, ajoute la signification des écarts ; l'échelle de rapport ajoute un zéro absolu.

Traduction en langage courant

On sait classer les modalités de la plus faible à la plus forte, mais on ne sait pas de combien elles diffèrent.

Point de vigilance

Coder une variable ordinale en entiers 0, 1, 2, 3 est une opération de codage légitime. Traiter ensuite ces entiers comme des quantités mesurées ne l'est pas : le codage crée une métrique que la mesure ne porte pas.

Définition rigoureuse

clasificación à etiqueta unique où K > 2 et où C est muni d'un ordre total c_1 ≺ c_2 ≺ ... ≺ c_K significatif pour le domaine, sans qu'une distance soit définie sur C. La función de pérdida doit refléter cet ordre : le coût d'une confusion entre c_1 et c_K doit excéder celui d'une confusion entre c_1 et c_2.

Traduction en langage courant

Des clases rangées de la plus faible à la plus forte, où se tromper de beaucoup est plus grave que se tromper de peu.

Point de vigilance

La désignation anglaise usuelle est ordinal regression, ce qui entretient une confusion avec la regresión au sens du chapitre 010. La tâche reste une clasificación : l'espace d'arrivée est fini.

Les places de première, deuxième et troisième sont strictement ordonnées : nul ne conteste que la première précède la deuxième.

Rien n'autorise pour autant à écrire que l'écart entre le premier et le deuxième égale l'écart entre le deuxième et le troisième. Sur un 100 mètres, le premier peut devancer le deuxième de deux centièmes et le deuxième devancer le troisième d'une demi-seconde.

Traiter les rangs comme des nombres reviendrait à affirmer que ces deux écarts sont identiques. Les ignorer complètement reviendrait à affirmer que finir troisième au lieu de premier n'est pas plus regrettable que finir deuxième. La clasificación ordinale est la formulation qui refuse ces deux erreurs.

Définition rigoureuse

Tâche où l'espace d'arrivée est Y = {0, 1}^K, c'est-à-dire l'ensemble des parties de C = {c_1, ..., c_K}. À chaque observación x est associé un vecteur binaire y = (y_1, ..., y_K) où y_k = 1 si l'etiqueta c_k s'applique. Aucune contrainte ne pèse sur Σ_k y_k, qui peut valoir 0 (aucune etiqueta) jusqu'à K (toutes).

Les etiquetas ne sont ni exclusives ni indépendantes : la modélisation de leurs corrélations constitue la difficulté propre du problème.

Traduction en langage courant

Une observación peut recevoir plusieurs etiquetas à la fois, ou aucune. Chaque etiqueta est une question « oui ou non » indépendante en apparence, mais les réponses sont liées entre elles.

Point de vigilance

Le multilabel se distingue du multiclasse-multisortie (multiclass-multioutput), où l'on prédit plusieurs variables cibles, chacune étant elle-même multiclasse. Le multilabel est le cas particulier où toutes les sorties sont binaires.

Définition rigoureuse

modelo linéaire généralisé (Nelder et Wedderburn, 1972) pour une réponse de loi de Bernoulli, dont la fonction de lien est le logit. Le modelo postule

logit(p(x)) = ln( p(x) / (1 − p(x)) ) = β_0 + β_1 x_1 + ... + β_p x_p

où p(x) = P(Y = 1 | X = x). En inversant le lien, on obtient

p(x) = 1 / (1 + exp(−(β_0 + β·x))), c'est-à-dire la fonction logistique appliquée à une combinaison linéaire des variables explicativas. Les coefficients sont estimés par maximisation de la verosimilitud.

Traduction en langage courant

On ajuste une droite, non pas sur la clase elle-même, mais sur le logarithme de la cote de l'événement ; on convertit ensuite ce résultat en probabilidad par une courbe en S comprise entre 0 et 1.

Point de vigilance

La sortie native du modelo est une probabilidad, pas une clase. La clasificación n'apparaît qu'à l'étape suivante, par comparaison à un seuil (chapitre 062). Le modelo est donc bien une regresión sur une quantité continue — la probabilidad — au service d'une tâche de clasificación.

Le critère n'est pas le nombre de clases mais le nombre d'etiquetas par observación. Un problème à trois clases dont une observación peut porter deux etiquetas est multilabel, pas multiclasse.

Formulation correcte : « Le multiclasse suppose l'exclusivité mutuelle des clases ; dès qu'une observación peut porter plusieurs etiquetas simultanément, le problème est multilabel et la objetivo devient une matrice (n, K). »

Coder Faible, Moyen, Élevé, Critique en 0, 1, 2, 3 puis régresser suppose que les écarts entre niveaux consécutifs sont égaux. Une échelle ordinale ne porte pas cette information (Stevens, 1946).

Formulation correcte : « La regresión sur les rangs est une approximation pragmatique dont l'hypothèse d'équidistance doit être énoncée et, si possible, justifiée par le métier ; elle n'est pas le traitement de referencia. »

Le traitement nominal rend toutes les confusions équivalentes. Confondre Critique et Faible est alors comptabilisé au même titre que confondre Élevé et Critique, alors que le coût métier diffère d'un ordre de grandeur.

Formulation correcte : « Le traitement nominal d'une objetivo ordinale est recevable comme referencia de départ, à condition de compléter l'exactitud par une métrique sensible à l'amplitude de l'error, comme la MAE sur les rangs ou le kappa pondéré quadratique. »

Le nom renvoie à la famille des modelos linéaires généralisés et à la fonction logistique de Verhulst, non à la nature de la tâche. La objetivo est catégorielle.

Formulation correcte : « La regresión logística est un algoritmo de clasificación. Elle régresse le logit d'une probabilidad sur les variables explicatives ; la décision de clase résulte d'une comparaison de cette probabilidad à un seuil. »

Avec des etiquetas textuelles, l'ordre par défaut de scikit-learn est alphabétique. "Fraude" devient alors la clase négative et "Normal" la clase positive : precisión et exhaustividad sont calculés correctement, mais sur la clase qui n'intéresse personne.

Formulation correcte : « La clase positive est désignée explicitement comme la clase d'intérêt, généralement l'événement rare et coûteux, et cette désignation accompagne systématiquement la restitution des métriques. »

Les arbres, forêts, méthodes de boosting, KNN, Naive Bayes, la regresión logistique multinomiale et les redes neuronales traitent nativement K > 2. La décomposition ne concerne que les algoritmos intrinsèquement binaires.

Formulation correcte : « La décomposition un-contre-tous ou un-contre-un est un mécanisme de compatibilité pour les classifieurs binaires, appliqué de manière transparente par la bibliothèque, et non une étape obligatoire du multiclasse. »

L'exactitud exacte exige que toutes les etiquetas d'une observación soient simultanément correctes. Sur K etiquetas, elle s'effondre mécaniquement quand K croît, même pour un modelo dont chaque décision individuelle est bonne.

Formulation correcte : « Un modelo multilabel se pilote sur un jeu de métriques : hamming loss pour la vue globale, F1 macro pour la sensibilidad aux etiquetas rares, et F1 par etiqueta pour le diagnostic. »