Clasificación o regresión: calificar el problema

Bloque 2 — Identificar el problema

Objetivo

saber calificar todo problema de aprendizaje supervisado como clasificación o regresión a partir de la sola estructura de la variable objetivo, tratar las cinco configuraciones ambiguas que resisten a esta calificación, enunciar las consecuencias de la elección sobre el conjunto de la cadena de modelado, y arbitrar entre dos formulaciones concurrentes de una misma necesidad de negocio.

Duración estimada

40 minutos

Requisitos previos

capítulos 001 a 009, en particular 004 (aprendizaje supervisado), 006 (features y target) y 007 (X, y, label, clase)

Quiz asociados

010.1-quiz-critere-de-qualification.md a 010.7-quiz-reformulation.md

1. El criterio de calificación: la estructura del conjunto de llegada

1.1 Posición del problema

Las formulaciones siguientes se emplean corrientemente para justificar la elección entre clasificación y regresión. Ninguna es válida.

El criterio único es la estructura matemática del conjunto en el que la variable objetivo toma sus valores. Ni el dominio de aplicación, ni el algoritmo contemplado, ni el tipo de las variables explicativas, ni el formato de almacenamiento intervienen en esta calificación.

1.2 El marco formal común

El aprendizaje supervisado, definido en el capítulo 004, consiste en inducir a partir de una muestra etiquetada una función

f : X → Y

donde X designa el espacio de las variables explicativas e Y el conjunto de llegada, es decir, el conjunto de los valores que la variable objetivo puede tomar.

Clasificación y regresión comparten íntegramente este marco. Comparten igualmente la muestra de aprendizaje, la noción de generalización, la separación entrenamiento/test (capítulo 026) y el riesgo de sobreajuste (capítulo 031). Se distinguen en un solo punto: la estructura de Y.

1.3 La bifurcación fundamental

Enunciado director del capítulo

El tipo de problema está determinado por la naturaleza de la variable objetivo. No está determinado ni por el dominio de negocio, ni por el algoritmo contemplado, ni por el tipo de las variables explicativas.

2. La clasificación

2.1 Operaciones lícitas e ilícitas sobre el objetivo

Consecuencia directa: el error de un modelo de clasificación no se mide por una diferencia sino por un conteo de desacuerdos, formalizado por la matriz de confusión (capítulo 052). No existe error «pequeño» o «grande» sobre una predicción única: es correcta o incorrecta.

2.2 Forma de la salida

Un clasificador produce en realidad dos salidas distintas, cuya confusión es una fuente de error frecuente.

El paso de la primera a la segunda se efectúa mediante la aplicación de una regla de decisión, la mayoría de las veces un umbral en binario (capítulo 062) o el argumento del máximo en multiclase. La producción de una puntuación real intermedia no transforma el problema en regresión: el conjunto de llegada del problema sigue siendo el conjunto finito de las clases, siendo la puntuación solo un intermediario de cálculo.

2.3 Ejemplos representativos

3. La regresión

3.1 Operaciones lícitas y significado del error

Consecuencia directa: en regresión, el error es graduado. Predecir 248 000 € para un inmueble vendido a 250 000 € es un resultado de calidad; predecir 90 000 € para el mismo inmueble es un fallo. La distinción entre estas dos situaciones es imposible de formular en el marco de la clasificación, donde las dos predicciones serían igualmente «falsas».

3.2 Forma de la salida

Un regresor no dispone de ningún equivalente de predict_proba(): no existe «probabilidad de cada valor posible» cuando el conjunto de llegada es continuo. Esta asimetría se desarrolla en el capítulo 029.

3.3 Ejemplos representativos y ejemplos cruzados

La tabla siguiente sitúa lado a lado, para un mismo dominio de negocio, un objetivo perteneciente a la clasificación y un objetivo perteneciente a la regresión. Establece que el dominio no determina nada.

Lectura de la tabla: cada fila describe un único dominio, a menudo un único conjunto de datos, con las mismas variables explicativas. Solo la columna seleccionada como objetivo cambia, y con ella el tipo de problema.

4. La pregunta de calificación y su árbol de decisión

4.1 La pregunta a plantear

¿Qué se busca exactamente producir, y de qué naturaleza es el valor producido: una categoría tomada de una lista fijada, o un número situado sobre una escala?

Su forma abreviada, utilizable en reunión de encuadre:

Punto de vigilancia: la pregunta debe referirse al valor producido por el modelo, no a la decisión tomada después por la organización. Un modelo que estima un importe de pérdida (regresión) puede alimentar una decisión binaria de aceptación o de rechazo. La decisión posterior no modifica la naturaleza de la salida del modelo.

4.2 El test de las tres operaciones

Cuando la pregunta de negocio sigue siendo ambigua, el test siguiente decide mecánicamente. Se aplica a los valores observados del objetivo.

Regla de lectura

• Solo la operación 1 tiene sentido: clasificación (objetivo nominal).
• Las operaciones 1 y 2 tienen sentido, la 3 no: caso ordinal, tratado en 5.1.
• Las tres operaciones tienen sentido: regresión.

Ejemplo de aplicación al código postal: dos códigos postales pueden compararse por igualdad; el orden 69001 < 75015 no expresa nada de negocio; la diferencia 75015 − 69001 = 6014 no es una distancia. El código postal es una variable nominal a pesar de su almacenamiento numérico.

4.3 El árbol de decisión completo

4.4 Variable discreta y variable continua

4.5 Verificación instrumentada de la naturaleza del objetivo

Scikit-learn expone una función de inspección del tipo de objetivo. Constituye un control útil, a condición de conocer sus límites.

import numpy as np
from sklearn.utils.multiclass import type_of_target

cibles = {
    "statut_transaction    ": np.array(["normal", "fraude", "normal", "fraude"]),
    "espece_iris           ": np.array(["setosa", "versicolor", "virginica", "setosa"]),
    "temperature_celsius   ": np.array([18.4, 21.0, 19.7, 23.2]),
    "prix_vente_eur        ": np.array([245000.0, 312500.0, 189900.0, 405000.0]),
    "nb_visites_mensuelles ": np.array([0, 3, 1, 12]),
    "note_satisfaction_1_5 ": np.array([1, 3, 2, 5]),
}

for nom, y in cibles.items():
    print(f"{nom} dtype={str(y.dtype):8s} -> type_of_target = {type_of_target(y)}")

Salida

statut_transaction     dtype=<U6      -> type_of_target = binary
espece_iris            dtype=<U10     -> type_of_target = multiclass
temperature_celsius    dtype=float64  -> type_of_target = continuous
prix_vente_eur         dtype=float64  -> type_of_target = multiclass
nb_visites_mensuelles  dtype=int64    -> type_of_target = multiclass
note_satisfaction_1_5  dtype=int64    -> type_of_target = multiclass

Interpretación

Las tres primeras líneas son conformes al análisis de negocio. Las tres siguientes no lo son:

• prix_vente_eur es un objetivo de regresión, calificado multiclass porque los cuatro valores, aunque de tipo flotante, son enteros y poco numerosos;
• nb_visites_mensuelles es un objetivo de regresión en el sentido del test de las tres operaciones, calificado multiclass porque es entero;
• note_satisfaction_1_5 es un objetivo ordinal, que la función no distingue de un objetivo nominal.

Conclusión operativa: type_of_target aplica una heurística sintáctica basada en el tipo de almacenamiento y el número de valores distintos. Detecta incoherencias de formato; no califica un problema. La calificación sigue siendo un acto de análisis basado en el conocimiento del dominio.

5. Los cinco casos ambiguos y su tratamiento

Cinco configuraciones resisten a la calificación directa. Cada una exige una decisión documentada, no una elección por defecto.

5.1 Objetivo ordinal

Naturaleza: conjunto finito, dotado de un orden significativo para el negocio, sin distancia interpretable entre modalidades consecutivas. Ejemplos: nivel de riesgo {bajo, medio, alto}, nota de satisfacción de 1 a 5, estadio tumoral I a IV, calificación financiera de AAA a D.

El dilema: tratar el objetivo en clasificación multiclase equivale a destruir la información de orden — confundir «alto» con «bajo» y con «medio» cuenta como el mismo error. Tratarlo en regresión equivale a postular una equidistancia entre modalidades, hipótesis generalmente falsa: la diferencia de gravedad entre los estadios I y II no iguala la de entre III y IV.

Elección retenida: clasificación, como calificación del problema, permaneciendo finito el conjunto de llegada. Se recomiendan dos ajustes:

Recurso a la regresión: aceptable cuando el número de modalidades es elevado (a partir de una decena) y la equidistancia es defendible, siendo entonces la predicción real redondeada. Esta elección debe justificarse explícitamente. La clasificación ordinal se detalla en el capítulo 011.

5.2 Objetivo de conteo

Naturaleza: conjunto de los enteros naturales, infinito numerable, ordenado, dotado de una distancia interpretable. Ejemplos: número de siniestros anuales, número de visitas, número de defectos por lote.

Elección retenida: regresión. Las tres operaciones del test tienen sentido; el conjunto de llegada no es finito. El hecho de que los valores sean enteros no constituye un criterio de clasificación.

Error frecuente: tratar un conteo acotado en la práctica (0, 1, 2, 3 siniestros) como una clasificación de cuatro clases. Esta formulación prohíbe al modelo predecir 4, destruye el orden y hace ininterpretable el residuo.

5.3 Duración con censura

Naturaleza: duración hasta la ocurrencia de un evento, observada de forma incompleta para una parte de los sujetos — el contrato sigue activo, el paciente sigue vivo, la máquina aún no se ha averiado al final del periodo de observación.

Elección retenida: ni clasificación ni regresión en sentido estricto cuando la censura es sustancial. La tabla siguiente fija la conducta a seguir.

5.4 Probabilidad como objetivo

Naturaleza: el valor a producir es un número del intervalo [0, 1]. La calificación depende enteramente de lo que se observa en la muestra de entrenamiento, no de lo que se pide en salida.

Punto central: pedir una probabilidad en salida no convierte un problema en una regresión. Un modelo de detección de fraude que devuelve p = 0,83 sigue siendo un modelo de clasificación: el objetivo observado en el entrenamiento vale 0 o 1. La salida continua es una estimación de P(Y = 1 | X = x), no un objetivo numérico aprendido como tal.

Punto de vigilancia: una puntuación de probabilidad producida por un clasificador no está necesariamente calibrada. Una puntuación de 0,83 no significa que el 83 % de los casos que reciben esa puntuación sean positivos, salvo verificación explícita (capítulo 061).

5.5 Objetivo numérico discretizado voluntariamente

Naturaleza: el objetivo disponible es numérico — un importe, una edad, una tasa — y la organización pide una salida en clases definidas por umbrales: «cliente de bajo, medio o alto potencial», «riesgo aceptable o inaceptable».

Elección retenida: regresión sobre el objetivo numérico, luego aplicación del umbral a la predicción. La discretización previa del objetivo destruye información y degrada la potencia estadística; esta práctica está documentada en la literatura metodológica bajo el término de dicotomización abusiva (Royston, Altman y Sauerbrei, 2006).

Excepción admitida: cuando el objetivo numérico subyacente no es observable y solo la clase está registrada en el sistema fuente — un tramo de ingresos declarativo, un nivel de riesgo atribuido por un experto. El dato disponible es entonces nativamente categórico y el problema es una clasificación, sin reformulación posible.

5.6 Tabla recapitulativa de los casos ambiguos

6. Consecuencias de la elección sobre el conjunto de la cadena

La calificación interviene en la etapa 3 del ciclo de vida (capítulo 012). Todas las etapas ulteriores dependen de ella.

6.1 Tabla comparativa completa

6.2 Dos puntos estructurantes

La función de pérdida no es la métrica. La pérdida se optimiza durante el entrenamiento y debe ser derivable para los algoritmos de gradiente; la métrica evalúa el modelo y responde a una pregunta de negocio. Un clasificador optimiza la log loss y se juzga por el recall; un regresor optimiza el MSE y se juzga por el MAE. Esta distinción se desarrolla en el capítulo 030.

El umbral de decisión solo existe en clasificación binaria. Constituye una palanca posentrenamiento potente: con el modelo sin cambios, hacer variar el umbral desplaza el equilibrio entre falsos positivos y falsos negativos. La regresión no ofrece ninguna palanca equivalente sobre el modelo mismo; el umbral eventualmente aplicado a su salida pertenece a la regla de decisión posterior, no al modelo.

7. La reformulación: una necesidad de negocio, dos marcos posibles

7.1 El principio

Una necesidad de negocio no es un problema de aprendizaje. Se convierte en un problema de aprendizaje en el momento en que se elige una variable objetivo. Cuando varios objetivos están disponibles para responder a la misma necesidad, varias formulaciones coexisten, eventualmente en marcos diferentes.

El caso de referencia: el mantenimiento predictivo. Un operador supervisa un parque de bombas industriales instrumentadas. La necesidad es única: intervenir antes del fallo sin multiplicar las inmovilizaciones inútiles. Dos objetivos son construibles a partir del mismo histórico y de los mismos sensores.

7.2 Cifra comparada de las dos formulaciones

El protocolo siguiente construye un conjunto de datos de degradación, deriva los dos objetivos de las mismas variables explicativas, entrena los dos modelos, y ajusta para cada uno su propio umbral de decisión sobre una partición de validación, a la luz de una función de coste explícita: 800 € para una intervención preventiva, 12 000 € para un fallo sufrido.

import numpy as np
from sklearn.ensemble import RandomForestClassifier, RandomForestRegressor
from sklearn.model_selection import train_test_split
from sklearn.metrics import precision_score, recall_score, mean_absolute_error

rng = np.random.default_rng(42)
n = 6000

# Parque de bombas industriales : las MISMAS variables explicativas
heures    = rng.uniform(0, 20000, n)                            # horas acumuladas
vibration = 1.2 + 0.00018 * heures + rng.normal(0, 0.35, n)     # mm/s RMS
temp      = 55 + 0.0011 * heures + rng.normal(0, 3.0, n)        # °C en el cojinete
delta_p   = 2.6 - 0.00007 * heures + rng.normal(0, 0.20, n)     # bar
nb_maint  = rng.poisson(0.5 + heures / 9000)                    # intervenciones pasadas

usure = 0.55 * vibration + 0.035 * temp - 0.9 * delta_p + 0.00004 * heures
rul = 300 * np.exp(-0.5 * usure) * np.exp(rng.normal(0, 0.22, n))   # dias restantes

X = np.column_stack([heures, vibration, temp, delta_p, nb_maint])
y_reg = rul                        # objetivo continuo -> REGRESION
y_clf = (rul <= 30).astype(int)    # objetivo binario  -> CLASIFICACION

Xtr, Xte, yr_tr, yr_te, yc_tr, yc_te = train_test_split(
    X, y_reg, y_clf, test_size=0.3, random_state=0, stratify=y_clf)
Xtr, Xva, yr_tr, yr_va, yc_tr, yc_va = train_test_split(
    Xtr, yr_tr, yc_tr, test_size=0.25, random_state=0, stratify=yc_tr)

C_PREV, C_PANNE = 800, 12000       # euros : intervencion preventiva / fallo sufrido

def cout(y_vrai, pred):
    return int(pred.sum()) * C_PREV + int(((y_vrai == 1) & (pred == 0)).sum()) * C_PANNE

clf = RandomForestClassifier(n_estimators=300, min_samples_leaf=5, random_state=0).fit(Xtr, yc_tr)
reg = RandomForestRegressor(n_estimators=300, min_samples_leaf=5, random_state=0).fit(Xtr, yr_tr)

p_va, p_te = clf.predict_proba(Xva)[:, 1], clf.predict_proba(Xte)[:, 1]
r_va, r_te = reg.predict(Xva), reg.predict(Xte)

# Cada formulacion recibe su umbral de decision, ajustado sobre el coste, en validacion
seuil_a = min(np.arange(0.02, 0.61, 0.01), key=lambda s: cout(yc_va, (p_va >= s).astype(int)))
seuil_b = min(np.arange(10, 121, 1),       key=lambda t: cout(yc_va, (r_va <= t).astype(int)))

print(f"Umbrales ajustados sobre la validacion : A p >= {seuil_a:.2f}   B RUL_pred <= {seuil_b} dias")
print(f"MAE de B sobre la vida util residual : {mean_absolute_error(yr_te, r_te):.1f} dias")
print(f"Coste de referencia, ninguna alerta : {int(yc_te.sum()) * C_PANNE} EUR\n")

for nom, pred in [("A - clasificacion binaria      ", (p_te >= seuil_a).astype(int)),
                  ("B - regresion sobre la vida util", (r_te <= seuil_b).astype(int))]:
    print(f"{nom} precision={precision_score(yc_te, pred, zero_division=0):.3f}  "
          f"recall={recall_score(yc_te, pred):.3f}  alertas={int(pred.sum()):3d}  "
          f"omitidas={int(((yc_te == 1) & (pred == 0)).sum()):2d}  coste={cout(yc_te, pred):6d} EUR")

print("\nB - horizonte de intervencion modificado sin reentrenamiento :")
for h in (60, 90):
    cible_h, pred_h = (yr_te <= h).astype(int), (r_te <= h).astype(int)
    print(f"   horizonte {h:2d} d : precision={precision_score(cible_h, pred_h):.3f}  "
          f"recall={recall_score(cible_h, pred_h):.3f}  alertas={int(pred_h.sum()):3d}")

Salida

Umbrales ajustados sobre la validacion : A p >= 0.05   B RUL_pred <= 40 dias
MAE de B sobre la vida util residual : 18.5 dias
Coste de referencia, ninguna alerta : 2076000 EUR

A - clasificacion binaria       precision=0.431  recall=0.954  alertas=383  omitidas= 8  coste=402400 EUR
B - regresion sobre la vida util precision=0.486  recall=0.913  alertas=325  omitidas=15  coste=440000 EUR

B - horizonte de intervencion modificado sin reentrenamiento :
   horizonte 60 d : precision=0.900  recall=0.888  alertas=668
   horizonte 90 d : precision=0.932  recall=0.927  alertas=979

Interpretación

7.3 Criterios de arbitraje entre las dos formulaciones

Regla de conducta: cuando las dos formulaciones son realizables, construirlas ambas, evaluarlas sobre la misma función de coste de negocio y sobre el mismo conjunto de test, y luego decidir sobre ese resultado. La comparación de métricas heterogéneas — un MAE frente a un F1 — no constituye un arbitraje.

8. Errores de razonamiento frecuentes

9. Síntesis

CRITERIO ÚNICO DE CALIFICACIÓN
    La estructura del conjunto de llegada de la variable objetivo.
    Ni el dominio, ni el algoritmo, ni el tipo de las variables de entrada,
    ni el formato de almacenamiento.

CLASIFICACIÓN
    f : X -> {c1, ..., cK}, conjunto FINITO y NO ORDENADO.
    Solo la igualdad está definida. El error se cuenta.

REGRESIÓN
    f : X -> intervalo de R, conjunto ORDENADO y MÉTRICO.
    El desvío y - y_pred tiene sentido. El error se mide.

EL TEST DE LAS TRES OPERACIONES
    Igualdad sola            -> clasificación
    Igualdad + orden         -> caso ordinal, tratado en clasificación
    Igualdad + orden + desvío -> regresión

LOS CINCO CASOS AMBIGUOS
    Ordinal              -> clasificación, métrica sensible al orden
    Recuento             -> regresión, pérdida de Poisson
    Duración censurada   -> análisis de supervivencia, o clasificación a horizonte fijo
    Probabilidad         -> según la etiqueta OBSERVADA: binaria o proporción
    Numérico troceado    -> regresión, luego umbral aplicado a la predicción

LO QUE LA ELECCIÓN DETERMINA A CONTINUACIÓN
    Algoritmos admisibles, función de pérdida, métricas de evaluación,
    forma de la salida, baseline, estratificación, diagnóstico de error,
    palanca de ajuste posentrenamiento, indicadores de vigilancia.

REFORMULACIÓN
    Una necesidad de negocio puede formularse en los dos marcos.
    Las dos formulaciones se comparan sobre la MISMA función de coste
    y el MISMO conjunto de test, nunca sobre sus métricas nativas.

Enunciado de síntesis

Un problema de aprendizaje supervisado es una clasificación cuando su objetivo toma sus valores en un conjunto finito no ordenado, y una regresión cuando su objetivo toma sus valores en una escala numérica donde el desvío entre dos valores es interpretable; esta calificación depende exclusivamente de la naturaleza de la variable objetivo retenida, y determina a continuación la integridad de la cadena de modelado, desde los algoritmos admisibles hasta los indicadores de vigilancia en producción.

Cuestionarios asociados

• 010.1-quiz-critere-de-qualification.md
• 010.2-quiz-classification.md
• 010.3-quiz-regression.md
• 010.4-quiz-arbre-de-decision.md
• 010.5-quiz-cas-ambigus.md
• 010.6-quiz-consequences-du-choix.md
• 010.7-quiz-reformulation.md

Capítulo siguiente: 011-types-de-classification.md