Classificação ou regressão: qualificar o problema

Bloc 2 — Identifier le problème

Objectif

savoir qualifier tout problème d'apprentissage supervisé en classificação ou en regressão à partir de la seule structure de la variable cible, traiter les cinq configurations ambiguës qui résistent à cette qualification, énoncer les conséquences du choix sur l'ensemble de la chaîne de modélisation, et arbitrer entre deux formulations concurrentes d'un même besoin métier.

Durée estimée

40 minutes

Prérequis

chapitres 001 à 009, en particulier 004 (apprentissage supervisé), 006 (features et target) et 007 (X, y, label, classe)

Quiz associés

010.1-quiz-critere-de-qualification.md à 010.7-quiz-reformulation.md

1. Le critère de qualification : la structure de l'ensemble d'arrivée

1.1 Position du problème

Les formulations suivantes sont couramment employées pour justifier le choix entre classificação et regressão. Aucune n'est valide.

Le critère unique est la structure mathématique de l'ensemble dans lequel la variável alvo prend ses valeurs. Ni le domaine d'application, ni l'algoritmo envisagé, ni le type des variables explicatives, ni le format de stockage n'interviennent dans cette qualification.

1.2 Le cadre formel commun

L'apprentissage supervisé, défini au chapitre 004, consiste à induire à partir d'un échantillon étiqueté une fonction

f : X → Y

où X désigne l'espace des variables explicatives et Y l'ensemble d'arrivée, c'est-à-dire l'ensemble des valeurs que la variável alvo peut prendre.

classificação et regressão partagent intégralement ce cadre. Elles partagent également l'échantillon d'apprentissage, la notion de generalização, la séparation treinamento/test (chapitre 026) et le risque de sobreajuste (chapitre 031). Elles se distinguent sur un seul point : la structure de Y.

1.3 La bifurcation fondamentale

Énoncé directeur du chapitre

Le type de problème est déterminé par la nature de la variável alvo. Il n'est déterminé ni par le domaine métier, ni par l'algoritmo envisagé, ni par le type des variables explicatives.

2. La classificação

2.1 Opérations licites et illicites sur la cible

Conséquence directe : l'erreur d'un modelo de classificação ne se mesure pas par un écart mais par un dénombrement de désaccords, formalisé par la matriz de confusão (chapitre 052). Il n'existe pas d'erreur « petite » ou « grande » sur une previsão unique : elle est correcte ou incorrecte.

2.2 Forme de la sortie

Un classifieur produit en réalité deux sorties distinctes, dont la confusion est une source d'erreur fréquente.

Le passage du premier au second s'effectue par application d'une règle de décision, le plus souvent un seuil en binaire (chapitre 062) ou l'argument du maximum en multiclasse. La production d'un score réel intermédiaire ne transforme pas le problème en regressão : l'ensemble d'arrivée du problème reste l'ensemble fini des classes, le score n'étant qu'un intermédiaire de calcul.

2.3 Exemples représentatifs

3. La regressão

3.1 Opérations licites et signification de l'erreur

Conséquence directe : en regressão, l'erreur est graduée. Prédire 248 000 € pour un bien vendu 250 000 € est un résultat de qualité ; prédire 90 000 € pour le même bien est une défaillance. La distinction entre ces deux situations est impossible à formuler dans le cadre de la classificação, où les deux prédictions seraient également « fausses ».

3.2 Forme de la sortie

Un régresseur ne dispose d'aucun équivalent de predict_proba() : il n'existe pas de « probabilité de chaque valeur possible » lorsque l'ensemble d'arrivée est continu. Cette asymétrie est développée au chapitre 029.

3.3 Exemples représentatifs et exemples croisés

Le tableau suivant place côte à côte, pour un même domaine métier, une cible relevant de la classificação et une cible relevant de la regressão. Il établit que le domaine ne détermine rien.

Lecture du tableau : chaque ligne décrit un unique domaine, souvent un unique conjunto de dados, avec les mêmes variables explicatives. Seule la colonne sélectionnée comme cible change, et avec elle le type de problème.

4. La question de qualification et son árvore de decisão

4.1 La question à poser

Que cherche-t-on exactement à produire, et de quelle nature est la valeur produite : une catégorie prise dans une liste fixée, ou un nombre situé sur une échelle ?

Sa forme abrégée, utilisable en réunion de cadrage :

Point de vigilance : la question doit porter sur la valeur produite par le modelo, non sur la décision prise ensuite par l'organisation. Un modelo estimant un montant de perte (regressão) peut alimenter une décision binaire d'acceptation ou de refus. La décision aval ne modifie pas la nature de la sortie du modelo.

4.2 Le test des trois opérations

Lorsque la question métier reste ambiguë, le test suivant tranche mécaniquement. Il s'applique aux valeurs observées de la cible.

Règle de lecture

• Seule l'opération 1 a un sens : classificação (cible nominale).
• Les opérations 1 et 2 ont un sens, la 3 non : cas ordinal, traité en 5.1.
• Les trois opérations ont un sens : regressão.

Exemple d'application au code postal : deux codes postaux peuvent être comparés par égalité ; l'ordre 69001 < 75015 n'exprime rien de métier ; la différence 75015 − 69001 = 6014 n'est pas une distance. Le code postal est une variable nominale malgré son stockage numérique.

4.3 L'árvore de decisão complet

4.4 Variable discrète et variable continue

4.5 Vérification instrumentée de la nature de la cible

Scikit-learn expose une fonction d'inspection du type de cible. Elle constitue un contrôle utile, à condition d'en connaître les limites.

import numpy as np
from sklearn.utils.multiclass import type_of_target

cibles = {
    "statut_transaction    ": np.array(["normal", "fraude", "normal", "fraude"]),
    "espece_iris           ": np.array(["setosa", "versicolor", "virginica", "setosa"]),
    "temperature_celsius   ": np.array([18.4, 21.0, 19.7, 23.2]),
    "prix_vente_eur        ": np.array([245000.0, 312500.0, 189900.0, 405000.0]),
    "nb_visites_mensuelles ": np.array([0, 3, 1, 12]),
    "note_satisfaction_1_5 ": np.array([1, 3, 2, 5]),
}

for nom, y in cibles.items():
    print(f"{nom} dtype={str(y.dtype):8s} -> type_of_target = {type_of_target(y)}")

Sortie

statut_transaction     dtype=<U6      -> type_of_target = binary
espece_iris            dtype=<U10     -> type_of_target = multiclass
temperature_celsius    dtype=float64  -> type_of_target = continuous
prix_vente_eur         dtype=float64  -> type_of_target = multiclass
nb_visites_mensuelles  dtype=int64    -> type_of_target = multiclass
note_satisfaction_1_5  dtype=int64    -> type_of_target = multiclass

Interprétation

Les trois premières lignes sont conformes à l'analyse métier. Les trois suivantes ne le sont pas :

• prix_vente_eur est une cible de regressão, qualifiée multiclass parce que les quatre valeurs, bien que de type flottant, sont entières et peu nombreuses ;
• nb_visites_mensuelles est une cible de regressão au sens du test des trois opérations, qualifiée multiclass parce qu'elle est entière ;
• note_satisfaction_1_5 est une cible ordinale, que la fonction ne distingue pas d'une cible nominale.

Conclusion opérationnelle : type_of_target applique une heuristique syntaxique fondée sur le type de stockage et le nombre de valeurs distinctes. Elle détecte des incohérences de format ; elle ne qualifie pas un problème. La qualification demeure un acte d'analyse fondé sur la connaissance du domaine.

5. Les cinq cas ambigus et leur traitement

Cinq configurations résistent à la qualification directe. Chacune appelle une décision documentée, non un choix par défaut.

5.1 Cible ordinale

Nature : ensemble fini, muni d'un ordre métier signifiant, sans distance interprétable entre modalités consécutives. Exemples : niveau de risque {faible, moyen, élevé}, note de satisfaction de 1 à 5, stade tumoral I à IV, notation financière de AAA à D.

Le dilemme : traiter la cible en classificação multiclasse revient à détruire l'information d'ordre — confondre « élevé » avec « faible » et avec « moyen » compte pour la même erreur. La traiter en regressão revient à postuler une équidistance entre modalités, hypothèse généralement fausse : l'écart de gravité entre les stades I et II n'égale pas celui entre III et IV.

Choix retenu : classificação, en tant que qualification du problème, l'ensemble d'arrivée restant fini. Deux aménagements sont recommandés :

Recours à la regressão : acceptable lorsque le nombre de modalités est élevé (à partir d'une dizaine) et que l'équidistance est défendable, la previsão réelle étant alors arrondie. Ce choix doit être justifié explicitement. La classificação ordinale est détaillée au chapitre 011.

5.2 Cible de comptage

Nature : ensemble des entiers naturels, infini dénombrable, ordonné, muni d'une distance interprétable. Exemples : nombre de sinistres annuels, nombre de visites, nombre de défauts par lot.

Choix retenu : regressão. Les trois opérations du test ont un sens ; l'ensemble d'arrivée n'est pas fini. Le fait que les valeurs soient entières ne constitue pas un critère de classificação.

Erreur fréquente : traiter un comptage borné en pratique (0, 1, 2, 3 sinistres) comme une classificação à quatre classes. Cette formulation interdit au modelo de prédire 4, détruit l'ordre et rend le résidu ininterprétable.

5.3 Durée avec censure

Nature : durée jusqu'à la survenue d'un événement, observée de façon incomplète pour une partie des sujets — le contrat est toujours actif, le patient est encore en vie, la machine n'est pas encore tombée en panne à la fin de la période d'observação.

Choix retenu : ni classificação ni regressão au sens strict lorsque la censure est substantielle. Le tableau suivant fixe la conduite à tenir.

5.4 Probabilité comme cible

Nature : la valeur à produire est un nombre de l'intervalle [0, 1]. La qualification dépend entièrement de ce qui est observé dans l'échantillon d'treinamento, non de ce qui est demandé en sortie.

Point central : demander une probabilité en sortie ne fait pas d'un problème une regressão. Un modelo de détection de fraude renvoyant p = 0,83 reste un modelo de classificação : la cible observée à l'treinamento vaut 0 ou 1. La sortie continue est une estimation de P(Y = 1 | X = x), pas une cible numérique apprise comme telle.

Point de vigilance : un score de probabilité produit par un classifieur n'est pas nécessairement calibré. Un score de 0,83 ne signifie pas que 83 % des cas recevant ce score sont positifs, sauf vérification explicite (chapitre 061).

5.5 Cible numérique discrétisée volontairement

Nature : la cible disponible est numérique — un montant, un âge, un taux — et l'organisation demande une sortie en classes définies par seuils : « client à faible, moyen ou fort potentiel », « risque acceptable ou inacceptable ».

Choix retenu : regressão sur la cible numérique, puis application du seuil à la previsão. La discrétisation préalable de la cible détruit de l'information et dégrade la puissance statistique ; cette pratique est documentée dans la littérature méthodologique sous le terme de dichotomisation abusive (Royston, Altman et Sauerbrei, 2006).

Exception admise : lorsque la cible numérique sous-jacente n'est pas observable et que seule la classe est enregistrée dans le système source — une tranche de revenu déclarative, un niveau de risque attribué par un expert. La donnée disponible est alors nativement catégorielle et le problème est une classificação, sans reformulation possible.

5.6 Tableau récapitulatif des cas ambigus

6. Conséquences du choix sur l'ensemble de la chaîne

La qualification intervient à l'étape 3 du cycle de vie (chapitre 012). Toutes les étapes ultérieures en dépendent.

6.1 Tableau comparatif complet

6.2 Deux points structurants

La função de perda n'est pas la métrique. La perte est optimisée pendant l'treinamento et doit être dérivable pour les algorithmes à gradient ; la métrique évalue le modelo et répond à une question métier. Un classifieur optimise la log loss et se juge sur le recall ; un régresseur optimise le MSE et se juge sur le MAE. Cette distinction est développée au chapitre 030.

Le seuil de décision n'existe qu'en classificação binaire. Il constitue un levier post-treinamento puissant : à modelo inchangé, faire varier le seuil déplace l'équilibre entre faux positifs et faux négatifs. La regressão n'offre aucun levier équivalent sur le modelo lui-même ; le seuil éventuellement appliqué à sa sortie relève de la règle de décision aval, non du modelo.

7. La reformulation : un besoin métier, deux cadres possibles

7.1 Le principe

Un besoin métier n'est pas un problème d'apprentissage. Il devient un problème d'apprentissage au moment où une variável alvo est choisie. Lorsque plusieurs cibles sont disponibles pour répondre au même besoin, plusieurs formulations coexistent, éventuellement dans des cadres différents.

Le cas de référence : la maintenance prédictive. Un exploitant surveille un parc de pompes industrielles instrumentées. Le besoin est unique : intervenir avant la défaillance sans multiplier les immobilisations inutiles. Deux cibles sont constructibles à partir du même historique et des mêmes capteurs.

7.2 Chiffrage comparé des deux formulations

Le protocole suivant construit un conjunto de dados de dégradation, desvio les deux cibles des mêmes variables explicatives, entraîne les deux modèles, et cale pour chacun son propre seuil de décision sur une partition de validation, au regard d'une fonction de coût explicite : 800 € pour une intervention préventive, 12 000 € pour une défaillance subie.

import numpy as np
from sklearn.ensemble import RandomForestClassifier, RandomForestRegressor
from sklearn.model_selection import train_test_split
from sklearn.metrics import precision_score, recall_score, mean_absolute_error

rng = np.random.default_rng(42)
n = 6000

# Parc de pompes industrielles : les MEMES variables explicatives
heures    = rng.uniform(0, 20000, n)                            # heures cumulées
vibration = 1.2 + 0.00018 * heures + rng.normal(0, 0.35, n)     # mm/s RMS
temp      = 55 + 0.0011 * heures + rng.normal(0, 3.0, n)        # °C au palier
delta_p   = 2.6 - 0.00007 * heures + rng.normal(0, 0.20, n)     # bar
nb_maint  = rng.poisson(0.5 + heures / 9000)                    # interventions passées

usure = 0.55 * vibration + 0.035 * temp - 0.9 * delta_p + 0.00004 * heures
rul = 300 * np.exp(-0.5 * usure) * np.exp(rng.normal(0, 0.22, n))   # jours restants

X = np.column_stack([heures, vibration, temp, delta_p, nb_maint])
y_reg = rul                        # cible continue -> RÉGRESSION
y_clf = (rul <= 30).astype(int)    # cible binaire  -> CLASSIFICATION

Xtr, Xte, yr_tr, yr_te, yc_tr, yc_te = train_test_split(
    X, y_reg, y_clf, test_size=0.3, random_state=0, stratify=y_clf)
Xtr, Xva, yr_tr, yr_va, yc_tr, yc_va = train_test_split(
    Xtr, yr_tr, yc_tr, test_size=0.25, random_state=0, stratify=yc_tr)

C_PREV, C_PANNE = 800, 12000       # euros : intervention préventive / défaillance subie

def cout(y_vrai, pred):
    return int(pred.sum()) * C_PREV + int(((y_vrai == 1) & (pred == 0)).sum()) * C_PANNE

clf = RandomForestClassifier(n_estimators=300, min_samples_leaf=5, random_state=0).fit(Xtr, yc_tr)
reg = RandomForestRegressor(n_estimators=300, min_samples_leaf=5, random_state=0).fit(Xtr, yr_tr)

p_va, p_te = clf.predict_proba(Xva)[:, 1], clf.predict_proba(Xte)[:, 1]
r_va, r_te = reg.predict(Xva), reg.predict(Xte)

# Chaque formulation reçoit son seuil de décision, calé sur le coût, en validation
seuil_a = min(np.arange(0.02, 0.61, 0.01), key=lambda s: cout(yc_va, (p_va >= s).astype(int)))
seuil_b = min(np.arange(10, 121, 1),       key=lambda t: cout(yc_va, (r_va <= t).astype(int)))

print(f"Seuils calés sur la validation : A p >= {seuil_a:.2f}   B RUL_pred <= {seuil_b} jours")
print(f"MAE de B sur la durée de vie résiduelle : {mean_absolute_error(yr_te, r_te):.1f} jours")
print(f"Coût de référence, aucune alerte : {int(yc_te.sum()) * C_PANNE} EUR\n")

for nom, pred in [("A - classification binaire     ", (p_te >= seuil_a).astype(int)),
                  ("B - régression sur la durée vie", (r_te <= seuil_b).astype(int))]:
    print(f"{nom} precision={precision_score(yc_te, pred, zero_division=0):.3f}  "
          f"rappel={recall_score(yc_te, pred):.3f}  alertes={int(pred.sum()):3d}  "
          f"manquées={int(((yc_te == 1) & (pred == 0)).sum()):2d}  coût={cout(yc_te, pred):6d} EUR")

print("\nB - horizon d'intervention modifié sans réentraînement :")
for h in (60, 90):
    cible_h, pred_h = (yr_te <= h).astype(int), (r_te <= h).astype(int)
    print(f"   horizon {h:2d} j : precision={precision_score(cible_h, pred_h):.3f}  "
          f"rappel={recall_score(cible_h, pred_h):.3f}  alertes={int(pred_h.sum()):3d}")

Sortie

Seuils calés sur la validation : A p >= 0.05   B RUL_pred <= 40 jours
MAE de B sur la durée de vie résiduelle : 18.5 jours
Coût de référence, aucune alerte : 2076000 EUR

A - classification binaire      precision=0.431  rappel=0.954  alertes=383  manquées= 8  coût=402400 EUR
B - régression sur la durée vie precision=0.486  rappel=0.913  alertes=325  manquées=15  coût=440000 EUR

B - horizon d'intervention modifié sans réentraînement :
   horizon 60 j : precision=0.900  rappel=0.888  alertes=668
   horizon 90 j : precision=0.932  rappel=0.927  alertes=979

Interprétation

7.3 Critères d'arbitrage entre les deux formulations

Règle de conduite : lorsque les deux formulations sont réalisables, les construire toutes deux, les évaluer sur la même fonction de coût métier et sur le même jeu de test, puis trancher sur ce résultat. La comparaison de métriques hétérogènes — un MAE contre un F1 — ne constitue pas un arbitrage.

8. Erreurs de raisonnement fréquentes

9. Synthèse

CRITÈRE UNIQUE DE QUALIFICATION
    La structure de l'ensemble d'arrivée de la variable cible.
    Ni le domaine, ni l'algorithme, ni le type des variables d'entrée,
    ni le format de stockage.

CLASSIFICATION
    f : X -> {c1, ..., cK}, ensemble FINI et NON ORDONNÉ.
    Seule l'égalité est définie. L'erreur se dénombre.

RÉGRESSION
    f : X -> intervalle de R, ensemble ORDONNÉ et MÉTRIQUE.
    L'écart y - y_pred a un sens. L'erreur se mesure.

LE TEST DES TROIS OPÉRATIONS
    Égalité seule            -> classification
    Égalité + ordre          -> cas ordinal, traité en classification
    Égalité + ordre + écart  -> régression

LES CINQ CAS AMBIGUS
    Ordinale             -> classification, métrique sensible à l'ordre
    Comptage             -> régression, perte de Poisson
    Durée censurée       -> analyse de survie, ou classification à horizon fixe
    Probabilité          -> selon l'étiquette OBSERVÉE : binaire ou proportion
    Numérique découpée   -> régression, puis seuil appliqué à la prédiction

CE QUE LE CHOIX DÉTERMINE ENSUITE
    Algorithmes admissibles, fonction de perte, métriques d'évaluation,
    forme de la sortie, baseline, stratification, diagnostic d'erreur,
    levier de réglage post-entraînement, indicateurs de surveillance.

REFORMULATION
    Un besoin métier peut se formuler dans les deux cadres.
    Les deux formulations se comparent sur la MÊME fonction de coût
    et le MÊME jeu de test, jamais sur leurs métriques natives.

Énoncé de synthèse

Un problème d'apprentissage supervisé est une classificação lorsque sa cible prend ses valeurs dans un ensemble fini non ordonné, et une regressão lorsque sa cible prend ses valeurs sur une échelle numérique où l'écart entre deux valeurs est interprétable ; cette qualification dépend exclusivement de la nature de la variável alvo retenue, et elle détermine ensuite l'intégralité de la chaîne de modélisation, des algorithmes admissibles jusqu'aux indicateurs de surveillance em produção.

Quiz associés

• 010.1-quiz-critere-de-qualification.md
• 010.2-quiz-classificação.md
• 010.3-quiz-regression.md
• 010.4-quiz-arbre-de-decision.md
• 010.5-quiz-cas-ambigus.md
• 010.6-quiz-consequences-du-choix.md
• 010.7-quiz-reformulation.md

Chapitre suivant : 011-types-de-classificação.md