Os tipos de classificação

Définition rigoureuse

Soit un espace d'entrée X et un ensemble fini d'étiquettes C = {c_1, ..., c_K} de cardinal K ≥ 2. Une tâche de classificação consiste à induire, à partir d'un échantillon {(x_i, y_i)}, i = 1..n, une fonction de décision f : X → Y dont l'espace d'arrivée Y est construit sur C selon l'une de deux constructions, qui fondent la partition de ce chapitre :

• Y = C — chaque observação reçoit exactement une étiquette parmi K. Le problème est dit à étiquette unique (single-label).
• Y = {0, 1}^K, ensemble des parties de C — chaque observação reçoit un sous-ensemble quelconque d'étiquettes, éventuellement vide. Le problème est dit multilabel.

Traduction en langage courant

Classer, c'est attribuer des étiquettes prises dans une liste fermée. La première question à trancher est de savoir si une observação en reçoit une seule ou plusieurs.

Point de vigilance

La liste des étiquettes est supposée fermée et connue à l'treinamento. Un classifieur ne peut pas prédire une classe qu'il n'a jamais observée ; la gestion des classes inédites relève de la détection d'anomalies (chapitre 003).

Définition rigoureuse

Cas de la classificação à étiquette unique où K = 2 : C = {c_0, c_1} et Y = C. La fonction de décision f : X → {c_0, c_1} partitionne l'espace d'entrée en deux régions séparées par une frontière de décision.

La plupart des algorithmes n'apprennent pas f directement, mais une fonction de score s : X → ℝ ou une estimation de probabilité conditionnelle p(x) = P(Y = c_1 | X = x), la décision résultant d'une comparaison à un seuil t : f(x) = c_1 si p(x) ≥ t, c_0 sinon.

Traduction en langage courant

Deux réponses possibles, et deux seulement. Le modelo produit en réalité un degré de confiance, converti en réponse en fixant une barre.

Point de vigilance

La séparation entre l'estimation de p(x) et le choix du seuil t est fondamentale. Le seuil de 0,5 est une convention d'implémentation, jamais un optimum démontré. Son réglage est traité au chapitre 062.

Définition rigoureuse

Dans un problème binaire, la classe positive est celle par rapport à laquelle sont définis les comptages de la matriz de confusão — vrais positifs, faux positifs, faux négatifs — et donc les métriques asymétriques qui en dérivent : precisão, recall, spécificité, F-beta.

Traduction en langage courant

La classe positive est celle que le modelo est chargé de détecter. Le mot « positif » ne porte aucune connotation favorable : un dépistage positif est un mauvais résultat pour le patient.

Règle de désignation

La classe positive est, par convention professionnelle, la classe d'intérêt : l'événement rare, coûteux ou actionnable — fraude, défaut de paiement, maladie, départ de client, panne. Elle coïncide dans la grande majorité des cas avec la classe minoritaire.

Point de vigilance

Cette désignation est une décision de modélisation explicite. La laisser dépendre de l'ordre alphabétique des étiquettes produit des métriques correctement calculées mais interprétées à contresens.

Un laboratoire annonce que son test « détecte 95 % des cas ». La phrase est inexploitable tant qu'on ignore ce qui est détecté.

S'il s'agit de détecter les malades, 95 % est le recall sur la classe « malade » : cinq malades sur cent sont manqués.

S'il s'agit de détecter les bien-portants, 95 % est le recall sur la classe « sain », c'est-à-dire la spécificité : cinq bien-portants sur cent sont inquiétés à tort, et le taux de malades manqués reste totalement inconnu.

Le même nombre, calculé sur le même modelo, décrit deux réalités cliniques sans rapport. Nommer la classe positive est la condition d'interprétabilité du chiffre.

Définition rigoureuse

classificação à étiquette unique où K > 2, l'ensemble C = {c_1, ..., c_K} étant exhaustif — toute observação admet une étiquette dans C — et mutuellement exclusif — une observação en admet exactement une. Formellement Y = C, et Σ_k P(Y = c_k | X = x) = 1 pour tout x.

On parle aussi de classificação nominale pour souligner que C n'est muni d'aucune relation d'ordre.

Traduction en langage courant

Plus de deux réponses possibles, une seule réponse par observação, et aucune réponse n'est « supérieure » à une autre.

Point de vigilance

Exhaustivité et exclusivité sont deux hypothèses distinctes, toutes deux falsifiables sur les dados. Une nomenclature comportant une modalité « Autre » satisfait l'exhaustivité au prix d'une classe hétérogène difficile à modéliser.

Un-contre-tous (One-vs-Rest, OvR, aussi One-vs-All)

On entraîne K classifieurs binaires ; le classifieur k oppose c_k à l'union de toutes les autres classes. En previsão, on retient argmax_k s_k(x).

Un-contre-un (One-vs-One, OvO)

On entraîne un classifieur par paire de classes, soit K(K−1)/2 classifieurs ; le classifieur (j, k) n'est entraîné que sur les observations de c_j ou c_k. En previsão, chaque classifieur vote et la classe majoritaire l'emporte.

Traduction en langage courant

Un-contre-tous : « est-ce un chat, oui ou non ? », puis « est-ce un chien, oui ou non ? » ; on garde la réponse la plus assurée. Un-contre-un : on organise un tournoi de duels entre toutes les paires et on compte les victoires.

Point de vigilance

Les scores des K classifieurs OvR proviennent de modèles entraînés séparément, sur des problèmes de difficulté et de prévalence différentes. Leur comparabilité directe par argmax n'est pas garantie : c'est la faiblesse théorique reconnue de la stratégie.

Définition rigoureuse

Dans la typologie des échelles de mesure proposée par S. S. Stevens (1946), une échelle est dite ordinale lorsque la relation d'ordre entre les modalités est définie et significative, mais que la distance entre deux modalités consécutives ne l'est pas. Les opérations admissibles sont la comparaison (<, >, =), les rangs, la médiane et les quantiles ; la somme, la moyenne arithmétique et la différence ne le sont pas.

L'échelle d'intervalle, immédiatement supérieure, ajoute la signification des écarts ; l'échelle de rapport ajoute un zéro absolu.

Traduction en langage courant

On sait classer les modalités de la plus faible à la plus forte, mais on ne sait pas de combien elles diffèrent.

Point de vigilance

Coder une variable ordinale en entiers 0, 1, 2, 3 est une opération de codage légitime. Traiter ensuite ces entiers comme des quantités mesurées ne l'est pas : le codage crée une métrique que la mesure ne porte pas.

Définition rigoureuse

classificação à étiquette unique où K > 2 et où C est muni d'un ordre total c_1 ≺ c_2 ≺ ... ≺ c_K significatif pour le domaine, sans qu'une distance soit définie sur C. La função de perda doit refléter cet ordre : le coût d'une confusion entre c_1 et c_K doit excéder celui d'une confusion entre c_1 et c_2.

Traduction en langage courant

Des classes rangées de la plus faible à la plus forte, où se tromper de beaucoup est plus grave que se tromper de peu.

Point de vigilance

La désignation anglaise usuelle est ordinal regression, ce qui entretient une confusion avec la regressão au sens du chapitre 010. La tâche reste une classificação : l'espace d'arrivée est fini.

Les places de première, deuxième et troisième sont strictement ordonnées : nul ne conteste que la première précède la deuxième.

Rien n'autorise pour autant à écrire que l'écart entre le premier et le deuxième égale l'écart entre le deuxième et le troisième. Sur un 100 mètres, le premier peut devancer le deuxième de deux centièmes et le deuxième devancer le troisième d'une demi-seconde.

Traiter les rangs comme des nombres reviendrait à affirmer que ces deux écarts sont identiques. Les ignorer complètement reviendrait à affirmer que finir troisième au lieu de premier n'est pas plus regrettable que finir deuxième. La classificação ordinale est la formulation qui refuse ces deux erreurs.

Définition rigoureuse

Tâche où l'espace d'arrivée est Y = {0, 1}^K, c'est-à-dire l'ensemble des parties de C = {c_1, ..., c_K}. À chaque observação x est associé un vecteur binaire y = (y_1, ..., y_K) où y_k = 1 si l'étiquette c_k s'applique. Aucune contrainte ne pèse sur Σ_k y_k, qui peut valoir 0 (aucune étiquette) jusqu'à K (toutes).

Les étiquettes ne sont ni exclusives ni indépendantes : la modélisation de leurs corrélations constitue la difficulté propre du problème.

Traduction en langage courant

Une observação peut recevoir plusieurs étiquettes à la fois, ou aucune. Chaque étiquette est une question « oui ou non » indépendante en apparence, mais les réponses sont liées entre elles.

Point de vigilance

Le multilabel se distingue du multiclasse-multisortie (multiclass-multioutput), où l'on prédit plusieurs variables cibles, chacune étant elle-même multiclasse. Le multilabel est le cas particulier où toutes les sorties sont binaires.

Définition rigoureuse

modelo linéaire généralisé (Nelder et Wedderburn, 1972) pour une réponse de loi de Bernoulli, dont la fonction de lien est le logit. Le modelo postule

logit(p(x)) = ln( p(x) / (1 − p(x)) ) = β_0 + β_1 x_1 + ... + β_p x_p

où p(x) = P(Y = 1 | X = x). En inversant le lien, on obtient

p(x) = 1 / (1 + exp(−(β_0 + β·x))), c'est-à-dire la fonction logistique appliquée à une combinaison linéaire des variables explicatives. Les coefficients sont estimés par maximisation de la vraisemblance.

Traduction en langage courant

On ajuste une droite, non pas sur la classe elle-même, mais sur le logarithme de la cote de l'événement ; on convertit ensuite ce résultat en probabilité par une courbe en S comprise entre 0 et 1.

Point de vigilance

La sortie native du modelo est une probabilité, pas une classe. La classificação n'apparaît qu'à l'étape suivante, par comparaison à un seuil (chapitre 062). Le modelo est donc bien une regressão sur une quantité continue — la probabilité — au service d'une tâche de classificação.

Le critère n'est pas le nombre de classes mais le nombre d'étiquettes par observação. Un problème à trois classes dont une observação peut porter deux étiquettes est multilabel, pas multiclasse.

Formulation correcte : « Le multiclasse suppose l'exclusivité mutuelle des classes ; dès qu'une observação peut porter plusieurs étiquettes simultanément, le problème est multilabel et la cible devient une matrice (n, K). »

Coder Faible, Moyen, Élevé, Critique en 0, 1, 2, 3 puis régresser suppose que les écarts entre niveaux consécutifs sont égaux. Une échelle ordinale ne porte pas cette information (Stevens, 1946).

Formulation correcte : « La regressão sur les rangs est une approximation pragmatique dont l'hypothèse d'équidistance doit être énoncée et, si possible, justifiée par le métier ; elle n'est pas le traitement de référence. »

Le traitement nominal rend toutes les confusions équivalentes. Confondre Critique et Faible est alors comptabilisé au même titre que confondre Élevé et Critique, alors que le coût métier diffère d'un ordre de grandeur.

Formulation correcte : « Le traitement nominal d'une cible ordinale est recevable comme référence de départ, à condition de compléter l'acurácia par une métrique sensible à l'amplitude de l'erreur, comme la MAE sur les rangs ou le kappa pondéré quadratique. »

Le nom renvoie à la famille des modèles linéaires généralisés et à la fonction logistique de Verhulst, non à la nature de la tâche. La cible est catégorielle.

Formulation correcte : « La regressão logistique est un algoritmo de classificação. Elle régresse le logit d'une probabilité sur les variables explicatives ; la décision de classe résulte d'une comparaison de cette probabilité à un seuil. »

Avec des étiquettes textuelles, l'ordre par défaut de scikit-learn est alphabétique. "Fraude" devient alors la classe négative et "Normal" la classe positive : precisão et recall sont calculés correctement, mais sur la classe qui n'intéresse personne.

Formulation correcte : « La classe positive est désignée explicitement comme la classe d'intérêt, généralement l'événement rare et coûteux, et cette désignation accompagne systématiquement la restitution des métriques. »

Les arbres, forêts, méthodes de boosting, KNN, Naive Bayes, la regressão logistique multinomiale et les réseaux de neurones traitent nativement K > 2. La décomposition ne concerne que les algorithmes intrinsèquement binaires.

Formulation correcte : « La décomposition un-contre-tous ou un-contre-un est un mécanisme de compatibilité pour les classifieurs binaires, appliqué de manière transparente par la bibliothèque, et non une étape obligatoire du multiclasse. »

L'acurácia exacte exige que toutes les étiquettes d'une observação soient simultanément correctes. Sur K étiquettes, elle s'effondre mécaniquement quand K croît, même pour un modelo dont chaque décision individuelle est bonne.

Formulation correcte : « Un modelo multilabel se pilote sur un jeu de métriques : hamming loss pour la vue globale, F1 macro pour la sensibilité aux étiquettes rares, et F1 par étiquette pour le diagnostic. »