Εξηγητικές μεταβλητές και μεταβλητή στόχου

Μπλοκ 1 — Το θεμελιώδες λεξιλόγιο
Στόχος: να μπορείτε να ορίσετε αυστηρά την ερμηνευτική μεταβλητή και τη μεταβλητή στόχο, να κατακτήσετε τα ανταγωνιστικά συνώνυμά τους και τον κλάδο από τον οποίο προέρχεται το καθένα, να τυποποιήσετε μία παρατήρηση ως διάνυσμα χαρακτηριστικών σε χώρο διάστασης p και να εφαρμόσετε τα επαγγελματικά κριτήρια που καθορίζουν αν μία διαθέσιμη στήλη μπορεί νόμιμα να υποβληθεί σε μοντέλο.
Εκτιμώμενη διάρκεια: 40 λεπτά
Προαπαιτούμενα: κεφάλαια 001 έως 005
Σχετικά κουίζ: 006.1-quiz-relation-features-target.md έως 006.7-quiz-etudes-de-cas.md

1. Η δομή ενός επιβλεπόμενου προβλήματος: FEATURES → ΜΟΝΤΕΛΟ → TARGET

1.1 Ο νοητικός τύπος

Κάθε πρόβλημα επιβλεπόμενης μάθησης, όποιος και αν είναι ο τομέας εφαρμογής, ο επιλεγμένος αλγόριθμος ή ο όγκος δεδομένων, ανάγεται σε μοναδική δομή:

Αυτός ο τύπος πρέπει να απομνημονευθεί κυριολεκτικά. Φέρει τρεις μεθοδολογικές δεσμεύσεις:

Ό,τι βρίσκεται αριστερά είναι γνωστό τη στιγμή της πρόβλεψης. Μία μεταβλητή τοποθετημένη στην είσοδο που δεν θα είναι διαθέσιμη τη στιγμή που πρέπει να παραχθεί η πρόβλεψη ακυρώνει ολόκληρη τη διάταξη. Αυτό το σημείο αποτελεί το πρώτο κριτήριο επιλογής, που αναπτύσσεται στο σημείο 6.
Ό,τι βρίσκεται δεξιά είναι αυτό που αναζητούμε να αποκτήσουμε. Η μεταβλητή στόχος δεν παρέχεται ποτέ στο μοντέλο στη φάση πρόβλεψης: είναι ακριβώς η τιμή της που ζητείται.
Το βέλος δεν είναι αιτιώδης σχέση. Εκφράζει στατιστική συσχέτιση που αξιοποιείται για σκοπούς πρόβλεψης. Η διάκριση μεταξύ συσχέτισης και αιτιότητας αντιμετωπίζεται στο κεφάλαιο 016.

1.2 Τα δύο καθεστώτα λειτουργίας

Η ίδια δομή διαβάζεται διαφορετικά ανάλογα με τη φάση. Είναι η συχνότερη πηγή σύγχυσης στους αρχάριους.

Φάση	Ερμηνευτικές μεταβλητές	Μεταβλητή στόχος	Τι παράγεται
Εκμάθηση	Γνωστές, παρεχόμενες	Γνωστή, παρεχόμενη	Το μοντέλο
Επικύρωση	Γνωστές, παρεχόμενες	Γνωστή αλλά καλυμμένη από το μοντέλο, χρησιμοποιούμενη για σύγκριση	Μέτρηση επίδοσης
Πρόβλεψη στην παραγωγή	Γνωστές, παρεχόμενες	Άγνωστη	Εκτίμηση ŷ
Εκ των υστέρων εποπτεία	Γνωστές	Παρατηρούμενη εκ των υστέρων, με καθυστέρηση	Μέτρηση μετατόπισης

Σημείο προσοχής: στη φάση εκμάθησης, ο στόχος είναι παρών στο σύνολο δεδομένων στον ίδιο βαθμό με τις άλλες στήλες. Δεν παύει να είναι ριζικά διαφορετικής λειτουργικής φύσης. Η σύγχυσή του με συνήθη στήλη, ή η παράλειψη αφαίρεσής του από τις εισόδους, παράγει μοντέλο που προβλέπει τέλεια στην εκμάθηση και είναι αναξιοποίητο στην παραγωγή.

ΑΝΑΛΟΓΙΑ — Ο ντετέκτιβ και τα ίχνη του

Ένας ανακριτής δεν διαθέτει ποτέ την απάντηση. Διαθέτει ίχνη: αποτύπωμα, ωράριο, μαρτυρία, τραπεζικό ίχνος. Κάθε ίχνος είναι μερική, ατελής, ενίοτε παραπλανητική πληροφορία. Ο ανακριτής μπορεί να συλλογιστεί μόνο επί όσων έχει συλλέξει.

Οι ερμηνευτικές μεταβλητές είναι ακριβώς αυτά τα ίχνη: είναι οι μόνες πληροφορίες που διαθέτει το μοντέλο για να αποφανθεί. Η μεταβλητή στόχος είναι η ταυτότητα του ενόχου, δηλαδή αυτό που πρέπει να αποδείξει η έρευνα.

Τρεις συνέπειες αυτής της αναλογίας, όλες τεχνικά ακριβείς:

Ένα μη διαθέσιμο ίχνος δεν υπάρχει. Ένας ανακριτής δεν μπορεί να θεμελιώσει το συμπέρασμά του σε βιντεοεπιτήρηση που δεν εγκαταστάθηκε ποτέ. Ένα μοντέλο δεν μπορεί να χρησιμοποιήσει μεταβλητή που δεν θα είναι συμπληρωμένη τη στιγμή της πρόβλεψης.
Ένα ίχνος μεταγενέστερο του εγκλήματος δεν είναι ίχνος, είναι ομολογία. Αν ο ανακριτής «συνάγει» την ταυτότητα του ενόχου από υπογεγραμμένη ομολογία, δεν συνάγει τίποτα. Αυτός είναι ο μηχανισμός της διαρροής δεδομένων, που αντιμετωπίζεται στο κεφάλαιο 028.
Η ποιότητα των ιχνών καθορίζει την ποιότητα της έρευνας, περισσότερο από τη μέθοδο ανάκρισης. Το σημείο αναπτύσσεται στο 6.8.

2. Η ερμηνευτική μεταβλητή

2.1 Ορισμός

ΟΡΙΣΜΟΣ — Ερμηνευτική μεταβλητή (feature, χαρακτηριστικό)

Αυστηρός ορισμός

Μετρούμενο ή κατασκευασμένο μέγεθος, συνδεδεμένο με κάθε παρατήρηση συνόλου δεδομένων, του οποίου οι τιμές υποβάλλονται στο μοντέλο ως είσοδος και από το οποίο αυτό παράγει εκτίμηση της μεταβλητής στόχου.

Ισοδύναμη διατύπωση στη θεωρία μάθησης

Συνιστώσα του διανύσματος εισόδου x που ανήκει στον χώρο χαρακτηριστικών 𝒳, επί του οποίου ορίζεται η συνάρτηση πρόβλεψης f : 𝒳 → 𝒴 που ο αλγόριθμος μάθησης επιλέγει σε μία κλάση υποθέσεων.

Μετάφραση σε καθημερινή γλώσσα

Μία πληροφορία που δίνουμε στη μηχανή για να τη βοηθήσουμε να απαντήσει.

Φύση της έννοιας

Η ερμηνευτική μεταβλητή δηλώνει λειτουργικό ρόλο, όχι τύπο δεδομένων. Μία στήλη δεν είναι ερμηνευτική εκ φύσεως: γίνεται τέτοια με απόφαση σχεδιασμού, ανακλητή. Η ίδια στήλη μπορεί να είναι ερμηνευτική σε ένα έργο, στόχος σε άλλο, αποκλεισμένη σε τρίτο. Το σημείο αναπτύσσεται στο 4.4.

Σημείο προσοχής

Ο όρος ερμηνευτική είναι παραπλανητικός αν ληφθεί κατά γράμμα. Μία ερμηνευτική μεταβλητή δεν εξηγεί τίποτα με αιτιώδη έννοια: φέρει πληροφορία στατιστικά συσχετισμένη με τον στόχο. Μία ισχυρά προβλεπτική μεταβλητή μπορεί να μην έχει κανέναν αιτιώδη δεσμό με τον στόχο και να είναι μόνο έμμεσος δείκτης μη παρατηρούμενης κοινής αιτίας.

2.2 Τι δεν είναι μία ερμηνευτική μεταβλητή

Τρέχουσα διατύπωση	Καθεστώς	Αιτιολόγηση
«Κάθε στήλη του αρχείου είναι feature»	Εσφαλμένη	Τα αναγνωριστικά, ο στόχος και οι μεταβλητές διαρροής αποκλείονται (κεφάλαιο 005, σημείο 3.2)
«Ένα feature εξηγεί τον στόχο»	Εσφαλμένη με αυστηρή έννοια	Συσχετίζεται με τον στόχο· η αιτιώδης εξήγηση ανήκει σε άλλο μεθοδολογικό πλαίσιο (κεφάλαιο 016)
«Ένα feature πρέπει να είναι αριθμητικό»	Εσφαλμένη	Μπορεί να είναι κατηγορικό, χρονικό ή κειμενικό· η αριθμητική κωδικοποίηση είναι μεταγενέστερο στάδιο (κεφάλαια 022 και 023)
«Όσο περισσότερα features, τόσο καλύτερο το μοντέλο»	Εσφαλμένη	Πέραν ενός κατωφλίου, η προσθήκη μεταβλητών υποβαθμίζει την επίδοση γενίκευσης (κεφάλαια 025 και 031)
«Ένα feature παρέχεται από τα δεδομένα»	Μερικώς ανακριβής	Σημαντικό μέρος των πιο προβλεπτικών μεταβλητών κατασκευάζεται, δεν καταγράφεται (κεφάλαιο 024)

2.3 Η ταξινομία των συνωνύμων

Το πεδίο συγκεντρώνει λεξιλόγιο από διακριτούς κλάδους, καθένας από τους οποίους έχει σφυρηλατήσει τον δικό του όρο για το ίδιο αντικείμενο. Οι παρακάτω ονομασίες είναι αυστηρά ισοδύναμες στην πράξη· διαφέρουν ως προς την προέλευση, το μητρώο και τις συνδηλώσεις που μεταφέρουν.

Όρος	Κλάδος προέλευσης	Ιδιαίτερη συνδήλωση	Τρέχον μητρώο χρήσης
Feature	Αναγνώριση προτύπων και όραση υπολογιστή	Μέγεθος εξαγόμενο από το ακατέργαστο σήμα, ενδεχομένως κατασκευασμένο	Κυρίαρχος στη μηχανική μάθηση, ακόμη και στα επαγγελματικά γαλλικά
Χαρακτηριστικό	Γαλλική μετάφραση του feature	Ταυτόσημο με feature	Συνιστώμενο στον γραπτό λόγο· μειοψηφική προφορική χρήση
Ερμηνευτική μεταβλητή	Εφαρμοσμένη στατιστική, μοντελοποίηση	Υποδηλώνει συμβολή στην εξήγηση του φαινομένου	Ακαδημαϊκό γαλλόφωνο πρότυπο
Ανεξάρτητη μεταβλητή	Πειραματική στατιστική, πειραματικό σχέδιο, πειραματική ψυχολογία (κληρονομιά Fisher, 1935)	Υποδηλώνει μεταβλητή χειριζόμενη από τον πειραματιστή	Συχνή αλλά προβληματική στο ML (σημείο 4)
Μεταβλητή εισόδου, input	Αυτοματισμός, θεωρία συστημάτων, μηχανική	Ουδέτερη: ό,τι εισέρχεται στο κουτί	Πολύ συχνή, χωρίς ασάφεια
Προβλέπων, predictor	Εφαρμοσμένη στατιστική, βιβλιογραφία παλινδρόμησης	Υπογραμμίζει τον προβλεπτικό σκοπό παρά τον ερμηνευτικό	Συχνή, ιδιαίτερα προσαρμοσμένη στο πλαίσιο ML
Παλινδρομητής	Οικονομετρία	Όρος του μοντέλου παλινδρόμησης, συνδεδεμένος με συντελεστή	Επιφυλαγμένος για γραμμικά παραμετρικά μοντέλα
Συμμεταβλητή, covariate	Βιοστατιστική, επιδημιολογία, κλινικές δοκιμές	Μεταβλητή της οποίας προσαρμόζουμε την επίδραση για να απομονώσουμε εκείνη μιας θεραπείας	Πρότυπο στην κλινική έρευνα
Γνώρισμα	Συμβολική μάθηση, εξόρυξη δεδομένων, σχεσιακές βάσεις (Quinlan, 1986)	Περιγραφική ιδιότητα οντότητας	Παρωχημένο στο ML, ζωντανό στις βάσεις δεδομένων
Περιγραφέας	Χημειομετρία, χημειοπληροφορική	Υπολογισμένο μέγεθος που περιγράφει δομή	Εξειδικευμένο
Εξωγενής μεταβλητή	Δομική οικονομετρία	Καθορισμένη εκτός του μοντελοποιημένου συστήματος	Εξειδικευμένο, με ισχυρό θεωρητικό φορτίο
Παράγοντας	Πειραματικά σχέδια, ανάλυση διακύμανσης	Ελεγχόμενη κατηγορική μεταβλητή	Ασαφές: σημαίνει άλλο πράγμα στην παραγοντική ανάλυση

Επαγγελματική σύσταση. Στον γραπτό ελληνικό λόγο, να χρησιμοποιείτε ερμηνευτική μεταβλητή ή χαρακτηριστικό. Στον προφορικό λόγο και στον κώδικα, το feature είναι καθιερωμένη χρήση και δεν χρειάζεται να αποφεύγεται. Σε πλαίσιο επικοινωνίας με επαγγελματικούς συνομιλητές, μεταβλητή εισόδου ή πληροφορία παρεχόμενη στο μοντέλο είναι οι πιο άμεσα κατανοητές διατυπώσεις. Να αποφεύγετε την ανεξάρτητη μεταβλητή για τους λόγους που εκτίθενται στο σημείο 4.

ΟΡΙΣΜΟΣ — Προβλέπων (predictor)

Αυστηρός ορισμός

Μεταβλητή της οποίας οι τιμές χρησιμοποιούνται για την εκτίμηση εκείνων μιας άλλης μεταβλητής, ανεξάρτητα από κάθε ερμηνευτική ή αιτιώδη αξίωση.

Ενδιαφέρον του όρου

Είναι ο επιστημολογικά ειλικρινέστερος όρος για τη μηχανική μάθηση: ονομάζει ακριβώς αυτό που αναζητείται, δηλαδή προβλεπτική ικανότητα, χωρίς να υποδηλώνει κατανόηση του υποκείμενου μηχανισμού.

Σημείο προσοχής

Να μην συγχέετε τον προβλέποντα με την έννοια μεταβλητής εισόδου και τον προβλέποντα με την έννοια ολόκληρου μοντέλου, αποδοχή που συναντάται στην αγγλόφωνη βιβλιογραφία όπου a predictor δηλώνει κάποτε το πλήρες σύστημα πρόβλεψης. Το πλαίσιο αίρει την ασάφεια· στα ελληνικά, να επιφυλάσσετε τον όρο για τη μεταβλητή.

ΟΡΙΣΜΟΣ — Παλινδρομητής και συμμεταβλητή

Παλινδρομητής (οικονομετρία)

Μεταβλητή που εμφανίζεται στο δεξιό μέλος εξίσωσης παλινδρόμησης, συνδεδεμένη με εκτιμώμενο συντελεστή. Στο μοντέλο y = β₀ + β₁x₁ + … + $\beta_p$ $x_p$ + ε, τα $x_j$ είναι οι παλινδρομητές και η εξηγούμενη μεταβλητή y είναι το regressand.

Ο όρος είναι αδιαχώριστος από ρητό παραμετρικό μοντέλο. Η αναφορά σε «παλινδρομητές» για τυχαίο δάσος αποτελεί κατάχρηση γλώσσας: κανένας συντελεστής δεν συνδέεται εκεί με μεταβλητή.

Συμμεταβλητή (βιοστατιστική)

Μετρούμενη μεταβλητή της οποίας η επίδραση λαμβάνεται υπόψη στο μοντέλο ώστε να απομονωθεί η επίδραση μεταβλητής ενδιαφέροντος, τυπικά θεραπείας. Σε κλινική δοκιμή αξιολόγησης φαρμάκου, η ηλικία και το φύλο των ασθενών είναι συμμεταβλητές: δεν αποτελούν αντικείμενο της μελέτης αλλά επηρεάζουν την έκβαση.

Σημείο προσοχής

Το λεξιλόγιο της συμμεταβλητής προϋποθέτει ιεραρχία μεταξύ μεταβλητών: μία μεταβλητή ενδιαφέροντος, μεταβλητές προσαρμογής. Αυτή η ιεραρχία δεν υπάρχει στην προβλεπτική μηχανική μάθηση, όπου όλες οι ερμηνευτικές μεταβλητές έχουν το ίδιο λειτουργικό καθεστώς. Η υιοθέτηση αυτού του λεξιλογίου σε έργο ML εισάγει εννοιολογική δομή χωρίς αντικείμενο.

2.4 Οι δύο αποδοχές της λέξης feature

Ο όρος χρησιμοποιείται στη βιβλιογραφία με δύο διαφορετικές εμβέλειες, των οποίων η σύγχυση αποτελεί πηγή πραγματικού σφάλματος.

Αποδοχή	Τι δηλώνει	Παράδειγμα
Ευρεία αποδοχή	Κάθε περιγραφική στήλη του συνόλου δεδομένων, ανεξάρτητα από τη χρήση της	Η `date_souscription` είναι «feature του dataset»
Αυστηρή αποδοχή	Κάθε είσοδος που όντως υποβάλλεται στο μοντέλο μετά την προετοιμασία	Η `anciennete_jours`, παράγωγη της `date_souscription`, είναι feature του μοντέλου

Η απόκλιση μεταξύ των δύο αποδοχών είναι ακριβώς το πεδίο του feature engineering (κεφάλαιο 024) και της feature selection (κεφάλαιο 025).

Συνέπεια σημειογραφίας: ο αριθμός ερμηνευτικών μεταβλητών p ενός μοντέλου σχεδόν ποτέ δεν ισούται με τον αριθμό στηλών του αρχικού αρχείου. Η διατύπωση «το σύνολο δεδομένων μου έχει 14 features» χωρίς διευκρίνιση της αποδοχής αποτελεί πηγή παρεξήγησης μεταξύ επαγγελματιών.

3. Η μεταβλητή στόχος

3.1 Ορισμός

ΟΡΙΣΜΟΣ — Μεταβλητή στόχος (target, μεταβλητή προς πρόβλεψη)

Αυστηρός ορισμός

Μέγεθος του οποίου η τιμή είναι άγνωστη τη στιγμή που το σύστημα πρέπει να αποφανθεί και του οποίου η εκτίμηση αποτελεί τον σκοπό του μοντέλου. Στην επιβλεπόμενη μάθηση, η παρατηρούμενη τιμή του είναι διαθέσιμη για τις παρατηρήσεις του συνόλου εκπαίδευσης, γεγονός που επιτρέπει τη συγκρότηση σήματος σφάλματος και επομένως την εκμάθηση.

Θέση στον φορμαλισμό

Στοιχείο y του χώρου εξόδου 𝒴. Το ζεύγος (x, y) αποτελεί επισημασμένο παράδειγμα· το σύνολο εκπαίδευσης είναι συλλογή τέτοιων ζευγών που θεωρούνται προερχόμενα από άγνωστη και σταθερή από κοινού κατανομή P(X, Y).

Μετάφραση σε καθημερινή γλώσσα

Αυτό που θέλουμε να μαντέψει η μηχανή.

Το διακριτικό κριτήριο της επιβλεπόμενης μάθησης

Η ύπαρξη παρατηρούμενης μεταβλητής στόχου είναι αυτή που ορίζει την επιβλεπόμενη μάθηση και τη διαχωρίζει από τη μη επιβλεπόμενη (κεφάλαιο 003). Απουσία στόχου, δεν υπάρχει σήμα σφάλματος, άρα τίποτα προς ελαχιστοποίηση, άρα καμία δυνατή επιβλεπόμενη μάθηση.

Σημείο προσοχής

Η μεταβλητή στόχος δεν δίνεται από τη φύση. Κατασκευάζεται από απόφαση σχεδιασμού που καθορίζει τι μετρά ως φαινόμενο προς πρόβλεψη και σε ποιον ορίζοντα. Το σημείο αναπτύσσεται στο 3.4.

3.2 Η ταξινομία των συνωνύμων

Όρος	Κλάδος προέλευσης	Ιδιαίτερη εμβέλεια	Μητρώο χρήσης
Target, στόχος	Αγγλόφωνη μηχανική μάθηση	Ουδέτερος, κάθε τύπος στόχου	Κυρίαρχος
Μεταβλητή στόχος	Ελληνική απόδοση	Ταυτόσημη	Ελληνόφωνο πρότυπο
Εξαρτημένη μεταβλητή	Πειραματική στατιστική, πειραματική ψυχολογία	Υποδηλώνει αιτιώδη εξάρτηση από χειριζόμενες μεταβλητές	Συχνή, προβληματική στο ML (σημείο 4)
Μεταβλητή απόκρισης, response variable	Στατιστική, μεθοδολογία πειραματικών σχεδίων	Αυτό που αποκρίνεται σε ελεγχόμενη μεταβολή των εισόδων	Ακαδημαϊκό πρότυπο
Εξηγούμενη μεταβλητή, μεταβλητή προς εξήγηση	Γαλλόφωνη στατιστική και οικονομετρία	Συμμετρική της «ερμηνευτικής μεταβλητής»	Συχνή
Ενδογενής μεταβλητή, regressand	Δομική οικονομετρία	Καθορισμένη εντός του μοντελοποιημένου συστήματος	Εξειδικευμένη
Έξοδος, output	Αυτοματισμός, θεωρία συστημάτων	Ουδέτερη: ό,τι εξέρχεται από το κουτί	Πολύ συχνή
Label, ετικέτα	Επιβλεπόμενη μάθηση, επισημείωση δεδομένων	Περιορισμένη σε κατηγορικούς στόχους	Κυρίαρχη στην ταξινόμηση
Κλάση	Αναγνώριση προτύπων, ταξινόμηση	Μία ιδιαίτερη τιμή του label	Κυρίαρχη στην ταξινόμηση
Αλήθεια εδάφους, ground truth	Τηλεπισκόπηση, έπειτα όραση υπολογιστή	Η τιμή αναφοράς που θεωρείται αληθής, σε αντίθεση με την πρόβλεψη	Πρότυπο στην επισημείωση
Πρότυπο αναφοράς, gold standard	Βιοστατιστική, ιατρική διάγνωση	Η διαδικασία αναφοράς που χρησιμεύει για την καθιέρωση της αληθούς τιμής	Πρότυπο στην ιατρική
Μεταβλητή κριτήριο	Ψυχομετρία, επιλογή προσωπικού	Το αποτέλεσμα που η διάταξη αναζητεί να προβλέψει	Εξειδικευμένη

ΟΡΙΣΜΟΣ — Label (ετικέτα)

Αυστηρός ορισμός

Κατηγορική τιμή αποδιδόμενη σε παρατήρηση, που δηλώνει την ένταξή της σε μία από τις τιμές πεπερασμένου συνόλου προκαθορισμένων κλάσεων.

Το διακριτικό σημείο

Το label δεν είναι ακριβές συνώνυμο του target. Κάθε label είναι στόχος, κάθε στόχος δεν είναι label.

Τύπος προβλήματος	Στόχος	Μπορούμε να πούμε «label»
Δυαδική ταξινόμηση: απάτη / κανονικό	Κατηγορική με 2 τιμές	Ναι
Πολυκλασική ταξινόμηση: γάτα / σκύλος / άλογο	Κατηγορική με k τιμές	Ναι
Παλινδρόμηση: τιμή σε ευρώ	Συνεχής αριθμητική	Όχι, κατά σύμβαση χρήσης

Μετάφραση σε καθημερινή γλώσσα

Η ετικέτα κολλημένη στο παράδειγμα: «αυτό είναι ανεπιθύμητο», «αυτό είναι απάτη».

Σημείο προσοχής

Η έκφραση επισημασμένα δεδομένα (labeled data) χρησιμοποιείται στη βιβλιογραφία για να δηλώσει κάθε σύνολο δεδομένων που φέρει παρατηρούμενο στόχο, συμπεριλαμβανομένης της παλινδρόμησης. Η χρήση είναι επομένως ευρύτερη από τον αυστηρό ορισμό του label. Το κεφάλαιο 007 διευκρινίζει την άρθρωση μεταξύ label, κλάσης και αριθμητικής κωδικοποίησης.

ΟΡΙΣΜΟΣ — Αλήθεια εδάφους (ground truth)

Αυστηρός ορισμός

Τιμή της μεταβλητής στόχου που θεωρείται ακριβής, καθιερωμένη από διαδικασία αναφοράς ανεξάρτητη από το μοντέλο, και που χρησιμεύει ως πλαίσιο αναφοράς για την εκμάθηση και την αξιολόγηση.

Προέλευση του όρου

Η έκφραση προέρχεται από την τηλεπισκόπηση: η επικύρωση των ερμηνειών δορυφορικών εικόνων απαιτούσε μετρήσεις στο έδαφος.

Μείζον σημείο προσοχής

Η αλήθεια εδάφους δεν είναι η αλήθεια. Είναι μέτρηση, παραγόμενη από ευάλωτο πρωτόκολλο: ανθρώπινη επισημείωση επιρρεπής σε διαφωνία, ατελής ιατρική διάγνωση, μη ανιχνευμένη δόλια συναλλαγή και επομένως επισημασμένη ως «κανονική». Η μετρούμενη επίδοση ενός μοντέλου οριοθετείται από την ποιότητα της επισημείωσης. Ένα μοντέλο δεν μπορεί να μάθει ορθά διάκριση που οι ετικέτες του δεν κωδικοποιούν ορθά.

Επιχειρησιακή συνέπεια

Πριν αποδώσετε μια κακή επίδοση στον αλγόριθμο, επαληθεύστε το πρωτόκολλο επισημείωσης: ποιος επισημείωσε, σύμφωνα με ποιον ορισμό, με ποιο ποσοστό συμφωνίας μεταξύ επισημειωτών.

3.3 Μοναδικότητα και πληθυντικότητα του στόχου

Διάταξη	Δομή του στόχου	Ονομασία	Παραπομπή
Μία μόνο στήλη στόχου, μοναδική τιμή ανά παρατήρηση	y ∈ ℝ ή y ∈ {c₁, …, $c_k$ }	Πρότυπη περίπτωση	Κεφάλαιο 010
Μία παρατήρηση μπορεί να ανήκει σε πολλές κλάσεις ταυτόχρονα	y ∈ $\{0,1\}^k$	Ταξινόμηση multilabel	Κεφάλαιο 011
Πολλοί αριθμητικοί στόχοι προβλεπόμενοι από κοινού	y ∈ $\mathbb{R}^m$	Παλινδρόμηση πολλαπλών εξόδων	Κεφάλαιο 048
Κατηγορικός στόχος με διατεταγμένες τιμές	y ∈ {c₁ < … < $c_k$ }	Τακτική ταξινόμηση	Κεφάλαιο 011

Σημείο προσοχής: η παρουσία πολλών υποψήφιων στηλών για ρόλο στόχου σε ένα αρχείο δεν επιτρέπει να τις αντιμετωπίζουμε ως μοναδικό στόχο. Δύο διακριτοί στόχοι ορίζουν δύο διακριτά προβλήματα, καθένα απαιτώντας το μοντέλο του, τις μετρικές του και την επικύρωσή του.

3.4 Ο στόχος είναι κατασκευή, όχι φυσικό δεδομένο

Κανένα επιχειρησιακό σύστημα δεν παράγει αυθόρμητα στήλη ονομαζόμενη «a_resilie». Αυτή η στήλη προκύπτει από αλυσίδα ρητών αποφάσεων.

Απόφαση	Επίδραση στο έργο
Ορισμός του γεγονότος	Καθορίζει το ποσοστό θετικών, άρα τον βαθμό ανισορροπίας (κεφάλαιο 050)
Χρονικός ορίζοντας	Καθορίζει τη δυσκολία του προβλήματος και την επιχειρησιακή χρησιμότητα της πρόβλεψης
Αφορώμενος πληθυσμός	Καθορίζει το πεδίο εγκυρότητας του μοντέλου και τις μεροληψίες επιλογής
Ημερομηνία παρατήρησης	Καθορίζει ποιες ερμηνευτικές μεταβλητές είναι νόμιμα διαθέσιμες (σημείο 6.1)

Κατευθυντήρια αρχή: μία κακώς ορισμένη μεταβλητή στόχος δεν μπορεί να αντισταθμιστεί από καμία αλγοριθμική εκλέπτυνση. Η τυποποίηση του στόχου είναι το πρώτο στάδιο του κύκλου ζωής ενός έργου (κεφάλαιο 012) και ανήκει σε συζήτηση με τον επαγγελματικό τομέα, όχι σε τεχνική απόφαση.

4. Εξαρτημένη μεταβλητή και ανεξάρτητη μεταβλητή

4.1 Προέλευση της ορολογίας

ΟΡΙΣΜΟΣ — Ανεξάρτητη μεταβλητή και εξαρτημένη μεταβλητή

Αυστηρός ορισμός στο πειραματικό πλαίσιο προέλευσης

Σε πειραματικό σχέδιο, η ανεξάρτητη μεταβλητή είναι το μέγεθος του οποίου ο πειραματιστής καθορίζει εσκεμμένα τις τιμές, ανεξάρτητα από κάθε άλλο παράγοντα της διάταξης· η εξαρτημένη μεταβλητή είναι το μετρούμενο μέγεθος του οποίου αναζητούμε να διαπιστώσουμε αν μεταβάλλεται σε συνάρτηση με την πρώτη.

Ιστορικό πλαίσιο

Αυτή η ορολογία προέρχεται από την πειραματική μεθοδολογία που τυποποίησε ο Ronald Fisher (The Design of Experiments, 1935) και διέδωσε η πειραματική ψυχολογία. Προϋποθέτει διάταξη στην οποία ο πειραματιστής χειρίζεται μία μεταβλητή, ελέγχει τις άλλες και τυχαιοποιεί την απόδοση των μονάδων, γεγονός που επιτρέπει αιτιώδη συμπερασματολογία.

Μετάφραση σε καθημερινή γλώσσα

Αυτό που ρυθμίζουμε οι ίδιοι και αυτό που παρατηρούμε ως συνέπεια.

Σημείο προσοχής

Αυτές οι συνθήκες σχεδόν ποτέ δεν συνυπάρχουν στην εφαρμοσμένη μηχανική μάθηση, που λειτουργεί επί παρατηρησιακών δεδομένων συλλεγμένων χωρίς πειραματικό σχέδιο. Το λεξιλόγιο επιβιώνει, η δικαιολόγησή του έχει εξαφανιστεί.

4.2 Γιατί αυτή η ορολογία είναι παραπλανητική στη μηχανική μάθηση

Δυσκολία	Τι υποδηλώνει ο όρος	Τι ισχύει στη μηχανική μάθηση
Στατιστική ανεξαρτησία	Οι ερμηνευτικές μεταβλητές θα ήταν ανεξάρτητες μεταξύ τους	Σχεδόν πάντα συσχετίζονται μεταξύ τους. Η ισχυρή συσχέτιση μεταξύ ερμηνευτικών μεταβλητών έχει όνομα, την πολυσυγγραμμικότητα, και αποτελεί πρόβλημα που αντιμετωπίζεται στο κεφάλαιο 017
Πειραματικός χειρισμός	Ο αναλυτής θα καθόριζε τις τιμές των μεταβλητών εισόδου	Παρατηρούνται, δεν χειρίζονται. Κανείς δεν «καθορίζει» την ηλικία πελάτη ή την επιφάνεια κατοικίας
Αιτιώδης εξάρτηση	Ο στόχος θα μεταβαλλόταν εξαιτίας των μεταβλητών εισόδου	Το μοντέλο συλλαμβάνει συσχέτιση. Η αιτιώδης συμπερασματολογία απαιτεί ειδικό πλαίσιο, όχι προβλεπτικό μοντέλο (κεφάλαιο 016)
Εγγενής ιδιότητα	Μία μεταβλητή θα ήταν ανεξάρτητη ή εξαρτημένη εκ φύσεως	Το καθεστώς είναι ρόλος αποδιδόμενος από το έργο, αντιστρέψιμος από έργο σε έργο
Λογική συμμετρία	Μία μόνο ανάγνωση θα ήταν δυνατή	Η κατεύθυνση του βέλους είναι επιλογή σχεδιασμού, δεσμευμένη από τη χρονική διαθεσιμότητα, όχι από τη λογική

Η συχνότερη παρερμηνεία: να συμπεραίνουμε ότι οι ερμηνευτικές μεταβλητές πρέπει να είναι ανεξάρτητες μεταξύ τους επειδή ονομάζονται «ανεξάρτητες». Η απαίτηση απουσίας ισχυρής συγγραμμικότητας υπάρχει για ορισμένα παραμετρικά μοντέλα, αλλά δεν έχει καμία σχέση με την προέλευση του όρου, που παραπέμπει στην ανεξαρτησία έναντι της πειραματικής διάταξης, όχι μεταξύ μεταβλητών.

4.3 Ο ρόλος είναι λειτουργικός, όχι εγγενής

Το ίδιο μέγεθος αλλάζει ρόλο ανάλογα με το ερώτημα που τίθεται. Η στήλη δεν αλλάζει· το έργο αλλάζει.

Μέγεθος	Έργο όπου είναι στόχος	Έργο όπου είναι ερμηνευτική
Ποσό συναλλαγής	Πρόβλεψη μέσου καλαθιού	Ανίχνευση τραπεζικής απάτης
Βαθμός ικανοποίησης πελάτη	Πρόβλεψη ικανοποίησης μετά από κλήση	Πρόβλεψη αποχώρησης
Διάρκεια νοσηλείας	Προγραμματισμός νοσοκομειακής ικανότητας	Πρόβλεψη κινδύνου επανεισαγωγής
Θερμοκρασία ρουλεμάν	Θερμική πρόβλεψη εξοπλισμού	Ανίχνευση επικείμενης βλάβης
Μισθός	Μισθολογική εκτίμηση κατά την πρόσληψη	Σκορ χορήγησης πίστωσης

4.4 Ορολογική σύσταση

Κατάσταση	Συνιστώμενη διατύπωση	Διατύπωση προς αποφυγή
Τεχνική έκθεση στα ελληνικά	Ερμηνευτικές μεταβλητές / μεταβλητή στόχος	Ανεξάρτητες / εξαρτημένη μεταβλητές
Κώδικας και τεχνική τεκμηρίωση	`features` / `target`, `X` / `y`	—
Παρουσίαση σε επαγγελματικό κοινό	Παρεχόμενες πληροφορίες / τιμή προς πρόβλεψη	Κάθε αμετάφραστος στατιστικός όρος
Επιστημονικό άρθρο στατιστικής	Προβλέποντες / μεταβλητή απόκρισης	—
Συνέντευξη πρόσληψης	Ερμηνευτικές μεταβλητές, με επισήμανση γνώσης των συνωνύμων	Χρήση ενός μόνο όρου χωρίς απόσταση

Αναμενόμενη επαγγελματική θέση: να γνωρίζετε τα συνώνυμα, να μπορείτε να τα μεταφράζετε από μητρώο σε μητρώο και να μπορείτε να εξηγήσετε γιατί η ανεξάρτητη μεταβλητή αποτελεί ακατάλληλη κληρονομιά για το παρατηρησιακό πλαίσιο της μηχανικής μάθησης.

5. Διάνυσμα χαρακτηριστικών και χώρος χαρακτηριστικών

5.1 Από τη γραμμή στο διάνυσμα

ΟΡΙΣΜΟΣ — Διάνυσμα χαρακτηριστικών (feature vector)

Αυστηρός ορισμός

Αναπαράσταση μιας παρατήρησης ως διατεταγμένης p-άδας τιμών, μία ανά κρατημένη ερμηνευτική μεταβλητή:

$\displaystyle x = (x_{1}, x_{2}, \dots , x_p)^{\top} \in \mathbb{R} ^p$

όπου p δηλώνει τον αριθμό ερμηνευτικών μεταβλητών και $x_j$ την τιμή που λαμβάνει η j-οστή μεταβλητή για αυτή την παρατήρηση.

Τρεις δεσμευτικές ιδιότητες

Η σειρά είναι σταθερή και σημαντική. Η j-οστή συνιστώσα αντιστοιχεί πάντα στην ίδια μεταβλητή, για όλες τις παρατηρήσεις. Μία μετάθεση μεταξύ εκπαίδευσης και πρόβλεψης παράγει αριθμητικά έγκυρες και σημασιολογικά παράλογες προβλέψεις.
Η διάσταση είναι σταθερή. Όλες οι παρατηρήσεις περιγράφονται από τον ίδιο αριθμό συνιστωσών. Μία παρατήρηση στην οποία λείπει μεταβλητή δεν μπορεί να αντιμετωπιστεί ως έχει: απαιτεί καταλογισμό ή αποκλεισμό (κεφάλαιο 019).
Οι συνιστώσες είναι αριθμητικές. Οι κατηγορικές μεταβλητές πρέπει να έχουν κωδικοποιηθεί εκ των προτέρων (κεφάλαιο 022).

Μετάφραση σε καθημερινή γλώσσα

Μία γραμμή του πίνακα, περιορισμένη στις χρήσιμες στήλες και μετατρεπόμενη σε ακολουθία αριθμών.

ΟΡΙΣΜΟΣ — Πίνακας σχεδίασης (design matrix, X)

Αυστηρός ορισμός

Πίνακας X ∈ $\mathbb{R}^{\text{n×p}}$ του οποίου η i-οστή γραμμή είναι το διάνυσμα χαρακτηριστικών xᵢᵀ της i-οστής παρατήρησης και η j-οστή στήλη το διάνυσμα των τιμών που λαμβάνει η j-οστή ερμηνευτική μεταβλητή στις n παρατηρήσεις.

Το συνδεδεμένο διάνυσμα στόχου είναι y ∈ $\mathcal{Y}^n$ , όπου 𝒴 = ℝ στην παλινδρόμηση και 𝒴 = {c₁, …, $c_k$ } στην ταξινόμηση.

Προέλευση του όρου

Το design matrix προέρχεται από τη βιβλιογραφία των πειραματικών σχεδίων, όπου οι γραμμές του πίνακα περιέγραφαν την πειραματική διάταξη κάθε δοκιμής. Ο όρος διατηρείται στην παλινδρόμηση και στη στατιστική μάθηση.

Σύμβαση σημειογραφίας

X κεφαλαίο για τον πίνακα, y πεζό για το διάνυσμα στόχου: τα πεζά/κεφαλαία σηματοδοτούν τη διαφορά διαστατικότητας, δύο διαστάσεις έναντι μίας. Αυτή η σύμβαση είναι καθολική στη βιβλιογραφία και στις βιβλιοθήκες λογισμικού.

Αντικείμενο	Σημειογραφία	Διάσταση	Περιεχόμενο
Σύνολο εκπαίδευσης	(X, y)	—	n ζεύγη (παρατήρηση, στόχος)
Πίνακας ερμηνευτικών μεταβλητών	X	n × p	Αριθμητικές τιμές
Διάνυσμα στόχου	y	n	Μία τιμή ανά παρατήρηση
Διάνυσμα χαρακτηριστικών μιας παρατήρησης	xᵢ	p	Η γραμμή i του X
Τιμή μιας μεταβλητής για μία παρατήρηση	$x_{ij}$	βαθμωτό	Κελί (i, j)
Διάνυσμα μιας μεταβλητής σε όλο το σύνολο	X[:, j]	n	Η στήλη j του X
Πρόβλεψη για μία παρατήρηση	ŷᵢ	βαθμωτό ή διάνυσμα	Έξοδος του μοντέλου

5.2 Διαχωρισμός του X και του y στην πράξη

python

import pandas as pd

df = pd.read_csv("clients_telecom.csv")

cible = "a_resilie"
identifiants = ["client_id"]

X = df.drop(columns=[cible] + identifiants)
y = df[cible]

print("X :", X.shape)
print("y :", y.shape)
print()
print(X.dtypes)

X : (10000, 7)
y : (10000,)

age                    int64
anciennete_mois        int64
type_forfait             str
engagement               str
facture_mensuelle    float64
nb_appels_support      int64
satisfaction         float64
dtype: object

Ερμηνεία. Το σύνολο περιλαμβάνει n = 10 000 παρατηρήσεις. Ο πίνακας X περιλαμβάνει επτά στήλες, αφού αφαιρέθηκαν ο στόχος και το αναγνωριστικό. Το σχήμα του y, (10000,), επιβεβαιώνει ότι πρόκειται για μονοδιάστατο διάνυσμα και όχι για πίνακα μίας στήλης: αυτή η διάκριση αποτελεί πηγή προειδοποιήσεων και σφαλμάτων σε αρκετές βιβλιοθήκες.

Σημείο προσοχής: το df.drop(columns=[cible]) πρέπει να γραφεί πριν από κάθε άλλο μετασχηματισμό. Κάθε στάδιο προετοιμασίας υπολογισμένο σε σύνολο που ακόμη περιέχει τον στόχο εκθέτει σε διαρροή (κεφάλαιο 028).

5.3 Το διάνυσμα χαρακτηριστικών μιας παρατήρησης

python

print(X.iloc[0])

age                       49
anciennete_mois           80
type_forfait          Mobile
engagement           12_mois
facture_mensuelle      43.81
nb_appels_support          3
satisfaction             4.0
Name: 0, dtype: object

Αυτή η γραμμή δεν είναι ακόμη διάνυσμα του $\mathbb{R}^p$ : δύο συνιστώσες είναι κειμενικές. Η κωδικοποίηση των κατηγορικών μεταβλητών παράγει την αριθμητική αναπαράσταση που όντως υποβάλλεται στο μοντέλο.

python

X_encode = pd.get_dummies(X, columns=["type_forfait", "engagement"])
X_num = X_encode.astype(float)

print("Nombre de colonnes avant encodage :", X.shape[1])
print("Nombre de colonnes après encodage :", X_encode.shape[1])
print(list(X_encode.columns))
print("Type :", X_num.to_numpy().dtype, "| forme :", X_num.to_numpy().shape)
print("Vecteur de caractéristiques de la première observation :")
print(X_num.to_numpy()[0])

Nombre de colonnes avant encodage : 7
Nombre de colonnes après encodage : 11
['age', 'anciennete_mois', 'facture_mensuelle', 'nb_appels_support',
 'satisfaction', 'type_forfait_Fibre', 'type_forfait_Fibre+TV',
 'type_forfait_Mobile', 'engagement_12_mois', 'engagement_24_mois',
 'engagement_Sans_eng']
Type : float64 | forme : (10000, 11)
Vecteur de caractéristiques de la première observation :
[49.   80.   43.81  3.    4.    0.    0.    1.    1.    0.    0.  ]

Ερμηνεία. Η παρατήρηση, αρχικά περιγεγραμμένη από επτά ετερογενείς στήλες, είναι πλέον σημείο του ℝ¹¹. Οι πέντε πρώτες συνιστώσες είναι οι αρχικές αριθμητικές μεταβλητές· οι έξι επόμενες είναι δυαδικές δείκτριες που κωδικοποιούν τις τιμές των δύο κατηγορικών μεταβλητών. Οι τιμές 1 στις θέσεις οκτώ και εννέα δηλώνουν πακέτο Mobile με δέσμευση δώδεκα μηνών.

Δύο διδάγματα γενικής εμβέλειας:

p ≠ αριθμός στηλών του αρχείου. Εδώ, επτά στήλες παράγουν ένδεκα διαστάσεις. Με κατηγορικές μεταβλητές υψηλής καρδινικότητας, η απόκλιση γίνεται σημαντική: μία μεταβλητή «δήμος» με 400 τιμές προσθέτει μόνη της 400 διαστάσεις σε κωδικοποίηση δείκτριας.
Οι κλίμακες είναι ετερογενείς. Η anciennete_mois κυμαίνεται από 1 έως 120, η facture_mensuelle από 15 έως 95, οι δείκτριες αξίζουν 0 ή 1. Αυτή η ετερογένεια είναι χωρίς επίδραση σε δέντρο απόφασης και καθοριστική για κάθε μοντέλο που βασίζεται σε αποστάσεις ή σε κάθοδο κλίσης (κεφάλαιο 023).

5.4 Ο χώρος χαρακτηριστικών

ΟΡΙΣΜΟΣ — Χώρος χαρακτηριστικών (feature space)

Αυστηρός ορισμός

Σύνολο 𝒳 όλων των επιτρεπτών τιμών του διανύσματος χαρακτηριστικών. Στην συνήθη περίπτωση p μεταβλητών πραγματικών τιμών, 𝒳 ⊆ $\mathbb{R}^p$ , εφοδιασμένο με δομή κανονικοποιημένου διανυσματικού χώρου που επιτρέπει τον ορισμό απόστασης μεταξύ παρατηρήσεων.

Γεωμετρική διατύπωση

Κάθε παρατήρηση είναι σημείο αυτού του χώρου· κάθε ερμηνευτική μεταβλητή είναι άξονας· το σύνολο δεδομένων είναι νέφος n σημείων σε χώρο διάστασης p. Το έργο μάθησης συνίσταται στον εντοπισμό σε αυτόν τον χώρο μιας δομής — συνόρου που χωρίζει περιοχές στην ταξινόμηση, επιφάνειας απόκρισης στην παλινδρόμηση — που αναπαράγει ορθά τον δεσμό μεταξύ θέσης και τιμής στόχου.

Μετάφραση σε καθημερινή γλώσσα

Το σύνολο όλων των δυνατών δελτίων ταυτότητας, ιδωμένων ως σημείων σε χάρτη p διαστάσεων.

Σημείο προσοχής

Η γεωμετρική διαίσθηση που αποκτάται σε διάσταση 2 ή 3 παύει να είναι αξιόπιστη πέραν αυτού. Σε υψηλή διάσταση, ο όγκος συγκεντρώνεται στις περιφερειακές περιοχές, οι αποστάσεις μεταξύ ζευγών σημείων γίνονται σχεδόν όλες ισοδύναμες και η έννοια της γειτονίας χάνει τη διακριτική της ικανότητα. Αυτό το φαινόμενο, ονομαζόμενο κατάρα της διαστατικότητας, επηρεάζει ιδιαίτερα τις μεθόδους που βασίζονται σε αποστάσεις (κεφάλαιο 040).

ΑΝΑΛΟΓΙΑ — Ο χάρτης και τα σημεία μέτρησης

Ένας επίπεδος χάρτης έχει δύο άξονες, γεωγραφικό μήκος και πλάτος. Κάθε πόλη καταλαμβάνει εκεί μοναδικό σημείο. Δύο γειτονικές πόλεις στον χάρτη είναι γειτονικές στην πραγματικότητα: η εγγύτητα στον χώρο αναπαράστασης έχει νόημα.

Ο χώρος χαρακτηριστικών είναι αυτός ο χάρτης, με p άξονες αντί δύο. Δύο πελάτες των οποίων τα διανύσματα χαρακτηριστικών είναι κοντινά είναι πελάτες «όμοιοι» με την έννοια των κρατημένων μεταβλητών.

Τρεις ακριβείς προεκτάσεις της αναλογίας:

Η αλλαγή μεταβλητών ισοδυναμεί με αλλαγή χάρτη. Ένας χάρτης αναγλύφων και ένας χάρτης σιδηροδρομικών δικτύων τοποθετούν τις ίδιες πόλεις διαφορετικά κοντινές. Αυτό είναι το διακύβευμα του feature engineering: να κατασκευαστεί ο χάρτης στον οποίο το φαινόμενο γίνεται αναγνώσιμο.
Η αλλαγή μονάδας παραμορφώνει τον χάρτη. Αν ένας άξονας βαθμονομείται σε μέτρα και ο άλλος σε χιλιόμετρα, η έννοια εγγύτητας κυριαρχείται από τον πρώτο. Αυτή είναι η δικαιολόγηση της κλιμάκωσης (κεφάλαιο 023).
Ένας χάρτης 300 αξόνων δεν συμβουλεύεται με το μάτι. Η οπτικοποίηση απαιτεί προβολή σε δύο ή τρεις διαστάσεις, πράξη που χάνει κατ’ ανάγκη πληροφορία (κεφάλαιο 015).

5.5 Το μοντέλο ως συνάρτηση επί του χώρου χαρακτηριστικών

Στοιχείο	Τυποποίηση	Ανάγνωση
Μία παρατήρηση	x ∈ 𝒳 ⊆ $\mathbb{R}^p$	Ένα σημείο
Ο πραγματικός στόχος	y ∈ 𝒴	Η αληθής τιμή
Το μοντέλο	f : 𝒳 → 𝒴	Συνάρτηση ορισμένη σε όλο τον χώρο
Η πρόβλεψη	ŷ = f(x)	Η τιμή αποδιδόμενη στο σημείο
Το σφάλμα σε μία παρατήρηση	ℓ(y, ŷ)	Η απόκλιση μετρημένη από συνάρτηση απώλειας
Ο στόχος μάθησης	ελαχιστοποίηση 𝔼[ℓ(Y, f(X))]	Μείωση του αναμενόμενου σφάλματος στην κατανομή, όχι στο δείγμα

Ουσιώδες σημείο. Το μοντέλο ορίζεται σε όλο τον χώρο, συμπεριλαμβανομένων των περιοχών όπου δεν έχει καταγραφεί καμία παρατήρηση. Θα παράγει πρόβλεψη για διάνυσμα χαρακτηριστικών εκτός του πεδίου που καλύπτει η εκπαίδευση, χωρίς να σηματοδοτήσει ότι αυτή η περιοχή δεν παρατηρήθηκε ποτέ. Αυτή η σιωπηρή εξωτερική πρόβλεψη αποτελεί μείζονα πηγή αστοχίας στην παραγωγή και δικαιολογεί την εποπτεία της μετατόπισης των δεδομένων (κεφάλαιο 082).

6. Κριτήρια επιλογής ερμηνευτικής μεταβλητής

Η κατοχή μιας στήλης δεν επιτρέπει τη χρήση της. Εφαρμόζονται τέσσερα διαδοχικά φίλτρα, με αυτή τη σειρά, πριν από κάθε θεώρηση επίδοσης.

6.1 Πρώτο κριτήριο: η διαθεσιμότητα τη στιγμή της πρόβλεψης

ΟΡΙΣΜΟΣ — Διαθεσιμότητα τη στιγμή της πρόβλεψης

Αυστηρός ορισμός

Μία μεταβλητή είναι διαθέσιμη τη στιγμή πρόβλεψης $t_{\mathrm{pred}}$ αν η τιμή της είναι παρατηρούμενη, προσβάσιμη και οριστική στα πληροφοριακά συστήματα εκείνη τη στιγμή, για κάθε παρατήρηση επί της οποίας το μοντέλο θα πρέπει να αποφανθεί.

Επιχειρησιακή διατύπωση

Έστω $t_{\mathrm{pred}}$ η στιγμή όπου πρέπει να παραχθεί η πρόβλεψη και $t_{\mathrm{obs}}$ η στιγμή όπου η τιμή της μεταβλητής γίνεται πράγματι γνωστή. Η μεταβλητή είναι αποδεκτή αν και μόνο αν:

$t_{\mathrm{obs}}$ ≤ $t_{\mathrm{pred}}$ , για όλες τις παρατηρήσεις, χωρίς εξαίρεση

Μετάφραση σε καθημερινή γλώσσα

Θα έχω πραγματικά αυτή την πληροφορία τη στιγμή που πρέπει να απαντήσω, ή μόνο στο ιστορικό μου επειδή κοιτάζω το παρελθόν;

Σημείο προσοχής

Το ιστορικό σύνολο δεδομένων συγκροτείται a posteriori: περιέχει φυσικά πληροφορίες συσσωρευμένες μετά τη στιγμή απόφασης. Τίποτα στο αρχείο δεν διακρίνει διαθέσιμη μεταβλητή από μεταγενέστερη. Μόνο η γνώση της επαγγελματικής διαδικασίας επιτρέπει την κρίση. Αυτή η επαλήθευση δεν αυτοματοποιείται.

Περίπτωση χρήσης	Υποψήφια μεταβλητή	$t_{\mathrm{obs}}$ ως προς $t_{\mathrm{pred}}$	Ετυμηγορία
Αποχώρηση πελάτη σε 90 ημέρες	Αρχαιότητα σε μήνες	Προγενέστερη	Αποδεκτή
Αποχώρηση πελάτη σε 90 ημέρες	Ημερομηνία αποχώρησης	Μεταγενέστερη και ορισμένη από το γεγονός	Αποκλεισμός, έκδηλη διαρροή
Αποχώρηση πελάτη σε 90 ημέρες	Λόγος αποχώρησης καταχωρισμένος από σύμβουλο	Μεταγενέστερη	Αποκλεισμός
Αποχώρηση πελάτη σε 90 ημέρες	Αριθμός κλήσεων υποστήριξης στους τελευταίους 6 μήνες	Προγενέστερη αν το παράθυρο οριοθετείται στο $t_{\mathrm{pred}}$	Αποδεκτή υπό αυστηρό παράθυρο
Χορήγηση πίστωσης	Δηλωθέν εισόδημα στην αίτηση	Προγενέστερη	Αποδεκτή
Χορήγηση πίστωσης	Αριθμός περιστατικών πληρωμής στο χορηγηθέν δάνειο	Μεταγενέστερη	Αποκλεισμός
Εκτίμηση τιμής πώλησης κατοικίας	Επιφάνεια, έτος κατασκευής	Προγενέστερη	Αποδεκτή
Εκτίμηση τιμής πώλησης κατοικίας	Διάρκεια θέσης σε πώληση	Μεταγενέστερη της θέσης σε πώληση, γνωστή μόνο μετά	Αποκλεισμός
Προβλεπτική συντήρηση σε 7 ημέρες	Μέση δόνηση των τελευταίων 24 ωρών	Προγενέστερη	Αποδεκτή
Προβλεπτική συντήρηση σε 7 ημέρες	Κωδικός ανωμαλίας της διάγνωσης βλάβης	Μεταγενέστερη	Αποκλεισμός
Ιατρική διάγνωση κατά την εισαγωγή	Ζωτικά σημεία κατά την άφιξη	Προγενέστερη	Αποδεκτή
Ιατρική διάγνωση κατά την εισαγωγή	Χορηγηθείσα θεραπεία	Μεταγενέστερη και συνέπεια της διάγνωσης	Αποκλεισμός

Τρεις μορφές μη διαθεσιμότητας, εκ των οποίων δύο παραλείπονται συχνά:

Μορφή	Περιγραφή	Απεικόνιση
Χρονική μη διαθεσιμότητα	Η τιμή δεν υπάρχει ακόμη στο $t_{\mathrm{pred}}$	Το συνολικό τιμολογημένο ποσό του τρέχοντος έτους
Μη διαθεσιμότητα καθυστέρησης	Η τιμή υπάρχει αλλά ενοποιείται στα συστήματα με καθυστέρηση μεγαλύτερη από το παράθυρο απόφασης	Εξωτερικό σκορ ανανεούμενο μηνιαίως, αξιοποιούμενο σε βαθμολόγηση πραγματικού χρόνου
Μη διαθεσιμότητα πεδίου	Η τιμή υπάρχει για τον ιστορικό πληθυσμό αλλά όχι για τον στοχευμένο πληθυσμό	Μεταβλητή συμπληρωμένη μόνο για πελάτες απορροφημένης θυγατρικής

Σημείο προσοχής για την καθυστέρηση. Ένα μοντέλο επικυρωμένο σε πλήρες ιστορικό μπορεί να καταρρεύσει στην παραγωγή επειδή μία μεταβλητή φτάνει με καθυστέρηση σαράντα οκτώ ωρών και παρουσιάζεται επομένως συστηματικά ως ελλείπουσα τη στιγμή της πρόβλεψης. Η επαλήθευση αφορά όχι μόνο την ύπαρξη της μεταβλητής, αλλά την πραγματική διαθεσιμότητά της στο καλών σύστημα, με την απαιτούμενη φρεσκάδα.

Ο πλήρης μηχανισμός με τον οποίο μία μη διαθέσιμη μεταβλητή υποβαθμίζει ένα έργο, οι λεπτές μορφές του και τα πρωτόκολλα εντοπισμού αντιμετωπίζονται στο κεφάλαιο 028.

6.2 Δεύτερο κριτήριο: η απουσία διαρροής

ΟΡΙΣΜΟΣ — Διαρροή δεδομένων (data leakage)

Αυστηρός ορισμός

Παρουσία, μεταξύ των πληροφοριών που χρησιμοποιούνται για την κατασκευή του μοντέλου, πληροφορίας που δεν θα είναι νόμιμα διαθέσιμη τη στιγμή της πρόβλεψης, ή που καθορίζεται από την τιμή του στόχου, προκαλώντας υπερεκτίμηση της μετρούμενης επίδοσης και αστοχία στην παραγωγή.

Μετάφραση σε καθημερινή γλώσσα

Το μοντέλο είδε την απάντηση, άμεσα ή έμμεσα, κατά την εκμάθησή του.

Οι δύο μεγάλες οικογένειες

Οικογένεια	Μηχανισμός	Εντοπισμός
Διαρροή μέσω μεταβλητής	Μία στήλη κωδικοποιεί όλο ή μέρος του στόχου	Αφύσικα υψηλή επίδοση, σημασία συγκεντρωμένη σε μία μεταβλητή
Διαρροή μέσω πρωτοκόλλου	Στατιστική υπολογισμένη στο σύνολο των δεδομένων πριν από τον διαχωρισμό μολύνει το σύνολο δοκιμής	Μικρή απόκλιση μεταξύ επικύρωσης και δοκιμής, κατάρρευση στην παραγωγή

Το πιο αξιόπιστο σήμα συναγερμού

Επίδοση σαφώς ανώτερη των προσδοκιών του επαγγελματικού τομέα. Ένα μοντέλο που επιτυγχάνει AUC 0,99 σε πρόβλημα θεωρούμενο δύσκολο πρέπει να τεθεί υπό υποψία διαρροής πριν εορταστεί.

Σημείο προσοχής

Η διαρροή δεν προκαλεί κανένα σφάλμα εκτέλεσης. Παράγει εξαιρετικά αποτελέσματα. Ακριβώς αυτό την καθιστά επικίνδυνη: τίποτα δεν προσκαλεί στην αναζήτησή της.

Τύπος ύποπτης μεταβλητής	Ερώτημα ελέγχου	Παράδειγμα
Μεταβλητή συνέπειας	Παράγεται η τιμή επειδή συνέβη το γεγονός;	`date_resiliation`, `motif_annulation`, `montant_rembourse`
Μεταβλητή επεξεργασίας	Αντικατοπτρίζει η τιμή ενέργεια πυροδοτημένη από τη γνώση της έκβασης;	`offre_de_retention_proposee`, `dossier_transmis_au_contentieux`
Μη παραθυροποιημένο άθροισμα	Καλύπτει το άθροισμα περίοδο μεταγενέστερη του $t_{\mathrm{pred}}$ ;	`nb_transactions_total`, `moyenne_annuelle`
Σχεδόν τέλειο πληρεξούσιο	Είναι η συσχέτιση με τον στόχο ύποπτη τετριμμενότητας;	`statut_compte = "clos"` για πρόβλεψη αποχώρησης
Αναγνωριστικό φορέας σειράς	Κωδικοποιεί το αναγνωριστικό σιωπηρά τη χρονολογία ή την ομάδα;	Ακολουθιακοί αριθμοί αποδιδόμενοι κατά παρτίδα, μία παρτίδα ανά κλάση

6.3 Τρίτο κριτήριο: η επαγγελματική ευλογοφάνεια

Μία μεταβλητή στατιστικά συσχετισμένη με τον στόχο χωρίς εύλογο μηχανισμό πρέπει να εξεταστεί πριν κρατηθεί. Τρεις εκβάσεις είναι δυνατές.

Διάγνωση	Φύση του δεσμού	Συμπεριφορά
Ταυτοποιημένος επαγγελματικός μηχανισμός	Θεμελιωμένη συσχέτιση	Διατήρηση
Έμμεση μεταβλητή μη παρατηρούμενης αιτίας	Πραγματική αλλά εύθραυστη συσχέτιση	Διατήρηση με επιφύλαξη, τεκμηρίωση, εποπτεία σταθερότητας
Τυχαία συσχέτιση ίδιου του δείγματος	Συσχέτιση χωρίς θεμέλιο	Αποκλεισμός· δεν θα αναπαραχθεί
Τεχνούργημα συλλογής	Η συσχέτιση προέρχεται από τη διαδικασία συγκρότησης των δεδομένων	Αποκλεισμός και διόρθωση της συλλογής

Σημείο προσοχής: η επαγγελματική ευλογοφάνεια είναι φίλτρο, όχι απόδειξη. Μία εύλογη μεταβλητή μπορεί να είναι άχρηστη και μία μεταβλητή της οποίας ο μηχανισμός δεν κατανοείται μπορεί να είναι αυθεντικά προβλεπτική. Το κριτήριο χρησιμεύει στον εντοπισμό των μεταβλητών προς εξέταση, όχι στην αυτοτελή κρίση.

Σημείο προσοχής για τη σταθερότητα. Μία μεταβλητή της οποίας η κατανομή ή ο ορισμός εξελίσσεται στον χρόνο — αναμόρφωση ονοματολογίας, αλλαγή συστήματος συλλογής, τροποποίηση κανόνα διαχείρισης — υποβαθμίζει το μοντέλο χωρίς να πυροδοτηθεί κανένας τεχνικός συναγερμός. Η εποπτεία αυτών των εξελίξεων αντιμετωπίζεται στο κεφάλαιο 082.

6.4 Τέταρτο κριτήριο: νομιμότητα και ηθική

Κατηγορία	Καθεστώς	Ιδιαίτερη δυσκολία
Άμεσα ευαίσθητες μεταβλητές: καταγωγή, θρησκεία, πολιτικές απόψεις, υγεία, σεξουαλικός προσανατολισμός	Χρήση αυστηρά πλαισιωμένη ή απαγορευμένη ανάλογα με τις δικαιοδοσίες και τους σκοπούς	Εύκολη ταυτοποίηση
Έμμεσες μεταβλητές ισχυρά συσχετισμένες με ευαίσθητη μεταβλητή	Απαγόρευση συχνά παρακαμπτόμενη χωρίς πρόθεση	Ο ταχυδρομικός κωδικός μπορεί να υποκαταστήσει την καταγωγή· το όνομα το φύλο
Μεταβλητές προερχόμενες από συλλογή χωρίς νομική βάση	Αναξιοποίητες	Απαιτείται ιχνηλασιμότητα προέλευσης
Μεταβλητές παραγόμενες από άλλο μοντέλο	Αξιοποιήσιμες με προσοχή	Καταρράκτης εξάρτησης, αυξημένη αδιαφάνεια, διάδοση μεροληψιών

Σημείο προσοχής: η αφαίρεση των ευαίσθητων μεταβλητών δεν αρκεί για την παραγωγή δίκαιου μοντέλου. Οι έμμεσες μεταβλητές ανασυνθέτουν την αφαιρεθείσα πληροφορία. Ο έλεγχος δικαιοσύνης διεξάγεται επί των προβλέψεων του μοντέλου, όχι μόνο επί του καταλόγου των εισόδων του (κεφάλαιο 080).

6.5 Πλέγμα ελέγχου οκτώ ερωτημάτων

#	Ερώτημα	Αν η απάντηση είναι δυσμενής
1	Θα είναι η μεταβλητή συμπληρωμένη τη στιγμή της πρόβλεψης, για όλο τον στοχευμένο πληθυσμό;	Αποκλεισμός
2	Είναι η τιμή της οριστική εκείνη τη στιγμή, ή αναθεωρείται αργότερα;	Αποκλεισμός ή ρητό παράθυρο
3	Είναι η τιμή της συνέπεια του γεγονότος προς πρόβλεψη;	Αποκλεισμός λόγω διαρροής
4	Υπερβαίνει κάποιο άθροισμα που περιέχει την περίοδο μετά;	Επανυπολογισμός με οριοθετημένο παράθυρο
5	Συνδέει εύλογος επαγγελματικός μηχανισμός αυτή τη μεταβλητή με τον στόχο;	Εις βάθος εξέταση
6	Είναι ο ορισμός και η κατανομή της σταθεροί στον χρόνο;	Ενισχυμένη εποπτεία
7	Είναι η χρήση της νόμιμη ως προς τον σκοπό και την κανονιστική ρύθμιση;	Αποκλεισμός
8	Είναι το κόστος απόκτησής της στην παραγωγή συμβατό με τη στοχευμένη χρήση;	Διαιτησία

Αυτά τα οκτώ ερωτήματα προηγούνται κάθε στατιστικής μέτρησης. Οι μέθοδοι επιλογής βασισμένες στη σημασία, τη συσχέτιση ή την επίδοση παρεμβαίνουν μετά από αυτό το φιλτράρισμα και αντιμετωπίζονται στο κεφάλαιο 025.

6.6 Η πρωτοκαθεδρία των ερμηνευτικών μεταβλητών έναντι της επιλογής αλγορίθμου

Η διαπίστωση, ευρέως τεκμηριωμένη από τη βιομηχανική πρακτική και τους διαγωνισμούς μοντελοποίησης, είναι η εξής: σε δεδομένο σύνολο δεδομένων, το όφελος που προκύπτει από τον εμπλουτισμό της παρεχόμενης πληροφορίας υπερβαίνει γενικά το όφελος από την υποκατάσταση ενός αλγορίθμου από έναν άλλο.

Η παρακάτω απεικόνιση είναι αναπαραγώγιμη. Τα δεδομένα είναι προσομοιωμένα, με γνωστό γενετικό μηχανισμό: η τιμή είναι το γινόμενο της επιφάνειας επί την τοπική τιμή ανά τετραγωνικό μέτρο, διορθωμένο ως προς την παλαιότητα. Το σύνολο περιέχει επίσης έξι μεταβλητές θορύβου χωρίς δεσμό με τον στόχο.

python

import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.ensemble import HistGradientBoostingRegressor
from sklearn.metrics import r2_score

rng = np.random.default_rng(7)
n = 600

surface = rng.uniform(20, 160, n)
prix_m2_commune = rng.uniform(2000, 7000, n)
annee_construction = rng.integers(1900, 2021, n)
age_bien = 2024 - annee_construction

# Γενετικός μηχανισμός: η τιμή είναι ΓΙΝΟΜΕΝΟ, διορθωμένο ως προς την παλαιότητα
prix = surface * prix_m2_commune * (1 - 0.0025 * age_bien) + rng.normal(0, 40000, n)

X_brut = pd.DataFrame({
    "surface_m2": surface,
    "prix_m2_commune": prix_m2_commune,
    "annee_construction": annee_construction,
})
for j in range(6):
    X_brut[f"var_bruit_{j+1}"] = rng.normal(0, 1, n)

X_enrichi = X_brut.copy()
X_enrichi["valeur_theorique"] = surface * prix_m2_commune
X_enrichi["age_bien"] = age_bien

configurations = [("Variables brutes", X_brut), ("Variables enrichies", X_enrichi)]
modeles = [("Regression lineaire", LinearRegression()),
           ("Gradient boosting", HistGradientBoostingRegressor(random_state=0))]

for nom_config, X in configurations:
    X_tr, X_te, y_tr, y_te = train_test_split(X, prix, test_size=0.3, random_state=0)
    for nom_modele, modele in modeles:
        modele.fit(X_tr, y_tr)
        r2 = r2_score(y_te, modele.predict(X_te))
        print(f"{nom_config:20s} | {nom_modele:20s} | p = {X.shape[1]:2d} | R2 = {r2:.3f}")

Variables brutes     | Regression lineaire  | p =  9 | R2 = 0.898
Variables brutes     | Gradient boosting    | p =  9 | R2 = 0.927
Variables enrichies  | Regression lineaire  | p = 11 | R2 = 0.946
Variables enrichies  | Gradient boosting    | p = 11 | R2 = 0.929

Σύγκριση	Απόκλιση R²	Ανάγνωση
Αλλαγή αλγορίθμου, με σταθερές ακατέργαστες μεταβλητές	+0,029	Όφελος από την αντικατάσταση της γραμμικής παλινδρόμησης από gradient boosting
Εμπλουτισμός μεταβλητών, με σταθερό γραμμικό αλγόριθμο	+0,048	Όφελος από την προσθήκη δύο κατασκευασμένων μεταβλητών
Εμπλουτισμένο γραμμικό μοντέλο έναντι ακατέργαστου gradient boosting	+0,019 υπέρ του γραμμικού	Το απλούστερο μοντέλο, ορθά πληροφορημένο, υπερβαίνει το ισχυρότερο κακώς πληροφορημένο μοντέλο

Ερμηνεία. Ο γενετικός μηχανισμός είναι πολλαπλασιαστικός. Ένα γραμμικό μοντέλο δεν μπορεί να αναπαραστήσει γινόμενο δύο μεταβλητών: είναι δομικά ανίκανο όσο αυτό το γινόμενο δεν του παρέχεται. Μόλις κατασκευαστεί η μεταβλητή valeur_theorique, το πρόβλημα γίνεται ξανά γραμμικό και το απλούστερο μοντέλο επιτυγχάνει την καλύτερη επίδοση του συνόλου. Το gradient boosting, που προσεγγίζει το γινόμενο με άθροισμα δέντρων, το κατορθώνει μερικώς, με ανώτερο υπολογιστικό κόστος και μικρότερη ερμηνευσιμότητα.

Εμβέλεια της επίδειξης και όρια. Αυτό το αποτέλεσμα κατασκευάζεται σε προσομοιωμένα δεδομένα των οποίων ο μηχανισμός είναι γνωστός· απεικονίζει αρχή και δεν αποτελεί γενικεύσιμη μέτρηση. Σε πραγματικά δεδομένα, η απόκλιση εξαρτάται από το πρόβλημα: υπάρχουν περιπτώσεις όπου η αλλαγή αλγορίθμου κυριαρχεί. Η κατευθυντήρια αρχή παραμένει ωστόσο σταθερά θεμελιωμένη.

Ένας αλγόριθμος, όποιος και αν είναι, μπορεί να αξιοποιήσει μόνο την πληροφορία που περιέχεται στις μεταβλητές που του παρέχονται. Καμία αλγοριθμική επιτήδευση δεν αντισταθμίζει απούσα πληροφορία.

Μοχλός βελτίωσης	Τυπική επίδραση	Κόστος	Προτεραιότητα
Διόρθωση του ορισμού του στόχου	Καθοριστική	Χαμηλό, αλλά απαιτεί επαγγελματική συμφωνία	1
Εξάλειψη διαρροών και μη διαθέσιμων μεταβλητών	Καθοριστική για την εγκυρότητα	Χαμηλό	2
Απόκτηση νέας και σχετικής πηγής δεδομένων	Συχνά υψηλή	Υψηλό	3
Κατασκευή παράγωγων μεταβλητών προσαρμοσμένων στον μηχανισμό	Συχνά υψηλή	Μέτριο	4
Αύξηση του όγκου παρατηρήσεων	Μεταβλητή, φθίνουσα	Μέτριο έως υψηλό	5
Αλλαγή αλγορίθμου	Μέτρια	Χαμηλό	6
Βελτιστοποίηση υπερπαραμέτρων	Χαμηλή έως μέτρια	Μέτριο	7

7. Τρεις επισημασμένες πρακτικές περιπτώσεις

7.1 Αποχώρηση στις τηλεπικοινωνίες

client_id	age	anciennete_mois	type_forfait	facture_mensuelle	nb_appels_support	satisfaction	date_resiliation	motif_depart	a_resilie
C-00001	34	8	Mobile	29,90	0	4	—	—	0
C-00002	67	45	Fibre	64,90	3	2	—	—	0
C-00003	29	2	Mobile	19,90	1	—	2025-01-14	Prix	1
C-00004	52	61	Fibre+TV	89,90	0	5	—	—	0
C-00005	41	17	Fibre	49,90	7	1	2024-11-22	Service	1

Στοιχείο	Προσδιορισμός
Μεταβλητή στόχος	`a_resilie`, δυαδική, αποχώρηση διαπιστωμένη στις 90 ημέρες μετά την ημερομηνία παρατήρησης
Τύπος προβλήματος	Δυαδική ταξινόμηση
Κρατημένες ερμηνευτικές μεταβλητές	`age`, `anciennete_mois`, `type_forfait`, `facture_mensuelle`, `nb_appels_support`, `satisfaction`
Στήλες αποκλεισμένες ως αναγνωριστικά	`client_id`
Στήλες αποκλεισμένες λόγω διαρροής	`date_resiliation` και `motif_depart`: και οι δύο συμπληρώνονται μόνο αν έχει γίνει αποχώρηση. Η μόνη παρουσία τους καθορίζει τον στόχο
Διάσταση μετά την κωδικοποίηση	p = 8: πέντε αριθμητικές και τρεις δείκτριες για `type_forfait`
Σημείο προσοχής για το παράθυρο	Το `nb_appels_support` πρέπει να υπολογίζεται σε παράθυρο οριοθετημένο στην ημερομηνία παρατήρησης. Μία καταμέτρηση σε όλη τη διάρκεια ζωής του πελάτη περιλαμβάνει μεταγενέστερες κλήσεις, ιδίως την ίδια την κλήση αποχώρησης

Διάγνωση διαρροής μέσω του ποσοστού ελλειπουσών τιμών. Η στήλη motif_depart είναι κενή για όλες τις μη αποχωρημένες παρατηρήσεις. Μία στήλη της οποίας το ποσοστό πληρότητας συμπίπτει ακριβώς με το ποσοστό θετικών του στόχου είναι μεταβλητή διαρροής μέχρι απόδειξης του αντιθέτου. Αυτός ο έλεγχος είναι χαμηλού κόστους και εντοπίζει μεγάλο μέρος των διαρροών μέσω μεταβλητής.

7.2 Εκτίμηση τιμής ακινήτου

annonce_id	commune	surface_m2	nb_pieces	annee_construction	classe_energie	ascenseur	duree_mise_en_vente_j	nb_visites	prix_vente
A-10471	Lyon 3e	68	3	1972	D	1	47	12	331 000
A-10472	Villeurbanne	42	2	2015	B	1	22	19	218 500
A-10473	Lyon 6e	105	5	1930	E	0	118	8	712 000
A-10474	Bron	77	4	1988	D	0	63	11	249 000
A-10475	Lyon 3e	31	1	2019	A	1	15	24	189 900

Στοιχείο	Προσδιορισμός
Μεταβλητή στόχος	`prix_vente`, συνεχής αριθμητική αυστηρά θετική
Τύπος προβλήματος	Παλινδρόμηση
Κρατημένες ερμηνευτικές μεταβλητές	`commune`, `surface_m2`, `nb_pieces`, `annee_construction`, `classe_energie`, `ascenseur`
Στήλες αποκλεισμένες ως αναγνωριστικά	`annonce_id`
Στήλες αποκλεισμένες λόγω μη διαθεσιμότητας	`duree_mise_en_vente_j` και `nb_visites`: αυτές οι τιμές είναι γνωστές μόνο μετά την πώληση. Η στοχευμένη χρήση είναι η εκτίμηση κατά τη θέση σε πώληση, στιγμή στην οποία αξίζουν μηδέν ή είναι απροσδιόριστες
Μεταβλητές προς κατασκευή	`age_bien = annee_vente − annee_construction`· `prix_m2_median_commune` υπολογισμένο μόνο στην περίοδο εκπαίδευσης· `surface_par_piece`
Διάσταση μετά την κωδικοποίηση	Εξαρτάται από την καρδινικότητα της `commune`· κωδικοποίηση δείκτριας σε 60 δήμους φέρει το p πέραν του 65

Σημείο προσοχής για την κατασκευασμένη μεταβλητή prix_m2_median_commune. Αυτή η μεταβλητή είναι ο ισχυρότερος μοχλός επίδοσης του προβλήματος και ταυτόχρονα φορέας διαρροής. Υπολογισμένη στο σύνολο των δεδομένων, ενσωματώνει τις τιμές πώλησης του συνόλου δοκιμής στις εισόδους της εκπαίδευσης. Πρέπει να εκτιμάται αποκλειστικά στο σύνολο εκπαίδευσης και στη συνέχεια να εφαρμόζεται στα άλλα σύνολα, γεγονός που επιβάλλει την ένταξή της σε αγωγό (κεφάλαια 079 και 092) και όχι τον εκ των προτέρων υπολογισμό της.

Σημείο προσοχής για τη χρονική εξάρτηση. Το γενικό επίπεδο τιμών μετατοπίζεται. Αν η στοχευμένη χρήση συνίσταται στην εκτίμηση μελλοντικών συναλλαγών, ο διαχωρισμός πρέπει να είναι χρονολογικός (κεφάλαιο 027) και να τεθεί σε λειτουργία η εποπτεία της μετατόπισης (κεφάλαιο 082).

7.3 Προβλεπτική συντήρηση βιομηχανικού εξοπλισμού

capteur_id	machine_id	horodatage	temperature_c	vibration_rms	pression_bar	heures_fonctionnement	jours_depuis_maintenance	code_defaut_diag	panne_sous_7j
S-0001	M-14	2025-03-02 06:00	62,4	1,82	4,10	18 420	34	—	0
S-0002	M-14	2025-03-02 07:00	71,9	3,47	4,08	18 421	34	E-207	1
S-0003	M-22	2025-03-02 06:00	58,1	1,44	3,95	6 210	12	—	0
S-0004	M-22	2025-03-02 07:00	58,6	1,51	3,96	6 211	12	—	0
S-0005	M-07	2025-03-02 06:00	79,2	4,91	4,42	41 003	96	—	1

Στοιχείο	Προσδιορισμός
Μεταβλητή στόχος	`panne_sous_7j`, δυαδική, εμφάνιση μη προγραμματισμένης στάσης εντός επτά ημερών
Τύπος προβλήματος	Δυαδική ταξινόμηση με έντονα ανισορροπημένο στόχο
Τι αντιπροσωπεύει μία παρατήρηση	Ωριαία μέτρηση για μηχανή, όχι μηχανή. Η ίδια μηχανή καταλαμβάνει χιλιάδες γραμμές
Κρατημένες ερμηνευτικές μεταβλητές	`temperature_c`, `vibration_rms`, `pression_bar`, `heures_fonctionnement`, `jours_depuis_maintenance`, συν χρονικά αθροίσματα προς κατασκευή
Στήλες αποκλεισμένες ως αναγνωριστικά	`capteur_id`· το `machine_id` διατηρείται ως κλειδί ομαδοποίησης, όχι ως ερμηνευτική μεταβλητή
Στήλες αποκλεισμένες λόγω διαρροής	`code_defaut_diag`: αυτός ο κωδικός εκδίδεται από τη διάγνωση που γίνεται τη στιγμή της βλάβης. Η παρουσία του καθορίζει μηχανικά τον στόχο
Μεταβλητές προς κατασκευή	Μέσοι, τυπικές αποκλίσεις και κλίσεις του `vibration_rms` σε κυλιόμενα παράθυρα 6, 24 και 72 ωρών· απόκλιση από την τιμή αναφοράς ανά μηχανή

Σημείο προσοχής για τη δομή ομάδας. Ένας τυχαίος διαχωρισμός θα τοποθετούσε μετρήσεις της ίδιας μηχανής και της ίδιας ημέρας ταυτόχρονα στην εκπαίδευση και στη δοκιμή. Το μοντέλο θα απομνημόνευε την υπογραφή της μηχανής αντί του μηχανισμού υποβάθμισης και η μετρούμενη επίδοση θα υπερεκτιμάτο έντονα. Ο διαχωρισμός πρέπει να διεξάγεται κατά ομάδα μηχανών και να σέβεται τη χρονολογία (κεφάλαιο 027).

Σημείο προσοχής για το παράθυρο των αθροισμάτων. Κάθε κυλιόμενο παράθυρο πρέπει να είναι αυστηρά προγενέστερο της χρονοσήμανσης της παρατήρησης. Ένας μέσος κεντραρισμένος στην τρέχουσα στιγμή ενσωματώνει μελλοντικές μετρήσεις και παράγει διαρροή που θα εκδηλωθεί μόνο στην παραγωγή.

Τομέας	Συχνότερη διαρροή	Κρισιμότερη μεταβλητή διαθεσιμότητας
Αποχώρηση τηλεπικοινωνιών	Στήλες συμπληρωμένες μόνο για τους αποχωρούντες	Αθροίσματα επαφών υποστήριξης, με οριοθετημένο παράθυρο
Ακίνητα	Στατιστικές τιμών υπολογισμένες σε όλο το σύνολο	Μεταβλητές που περιγράφουν την εξέλιξη της πώλησης
Βιομηχανική συντήρηση	Κωδικοί διάγνωσης μεταγενέστεροι της βλάβης	Αθροίσματα σε κυλιόμενα παράθυρα αυστηρά προγενέστερα

8. Συχνά σφάλματα συλλογισμού

ΣΦΑΛΜΑ — Να αντιμετωπίζουμε κάθε διαθέσιμη στήλη ως ερμηνευτική μεταβλητή

Η διαθεσιμότητα μιας στήλης σε ιστορικό αρχείο δεν θεμελιώνει ούτε τη διαθεσιμότητά της τη στιγμή της πρόβλεψης ούτε τη νομιμότητά της. Αναγνωριστικά, μεταβλητές συνέπειας και μεταβλητές ενοποιούμενες καθυστερημένα πρέπει να απορρίπτονται πριν από κάθε μοντελοποίηση.

Σωστή διατύπωση: «Μία στήλη γίνεται ερμηνευτική μεταβλητή αφού ικανοποιήσει τέσσερα κριτήρια: διαθεσιμότητα τη στιγμή πρόβλεψης, απουσία διαρροής, επαγγελματική ευλογοφάνεια και νομιμότητα.»

ΣΦΑΛΜΑ — Να ερμηνεύουμε την «ανεξάρτητη μεταβλητή» ως απαίτηση αμοιβαίας ανεξαρτησίας

Ο χαρακτηρισμός προέρχεται από το πειραματικό πλαίσιο όπου η μεταβλητή καθορίζεται από τον πειραματιστή ανεξάρτητα από τη διάταξη. Δεν επιβάλλει καμία στατιστική ανεξαρτησία μεταξύ των μεταβλητών εισόδου, οι οποίες είναι γενικά συσχετισμένες.

Σωστή διατύπωση: «Ο όρος ανεξάρτητη είναι κληρονομιά του πειραματικού σχεδίου· η συσχέτιση μεταξύ ερμηνευτικών μεταβλητών είναι διακριτό φαινόμενο, η πολυσυγγραμμικότητα, που αντιμετωπίζεται στο κεφάλαιο 017.»

ΣΦΑΛΜΑ — Να συγχέουμε label και target

Το label δηλώνει κατηγορική τιμή αποδιδόμενη σε παρατήρηση. Ένας συνεχής αριθμητικός στόχος είναι target χωρίς να είναι label. Η αναφορά στο «label» ενός προβλήματος παλινδρόμησης αποτελεί κατάχρηση γλώσσας που σηματοδοτεί ατελή κατάκτηση του λεξιλογίου.

Σωστή διατύπωση: «Ο στόχος είναι label στην ταξινόμηση και αριθμητική τιμή στην παλινδρόμηση· το target καλύπτει και τις δύο περιπτώσεις, το label μόνο την πρώτη.»

ΣΦΑΛΜΑ — Να υποθέτουμε ότι ο ρόλος μιας μεταβλητής είναι εγγενής

Κανένα μέγεθος δεν είναι ερμηνευτικό ή στόχος εκ φύσεως. Το ποσό μιας συναλλαγής είναι στόχος σε έργο πρόβλεψης μέσου καλαθιού και ερμηνευτικό σε έργο ανίχνευσης απάτης.

Σωστή διατύπωση: «Ο ρόλος μιας μεταβλητής αποδίδεται από το ερώτημα που τίθεται, όχι από την ίδια τη μεταβλητή.»

ΣΦΑΛΜΑ — Να θεωρούμε ότι η προσθήκη μεταβλητών βελτιώνει μηχανικά το μοντέλο

Η προσθήκη μη πληροφοριακών μεταβλητών αυξάνει τη διάσταση του χώρου χαρακτηριστικών, αυξάνει τη διακύμανση της εκτίμησης, ευνοεί την υπερπροσαρμογή και επιβαρύνει την αλυσίδα παραγωγής. Η σχέση μεταξύ αριθμού μεταβλητών και επίδοσης γενίκευσης δεν είναι μονότονη.

Σωστή διατύπωση: «Η σχετική πληροφορία βελτιώνει το μοντέλο· ο αριθμός στηλών, αφ’ εαυτού, δεν το βελτιώνει.»

ΣΦΑΛΜΑ — Να συνάγουμε τον χώρο χαρακτηριστικών από τον αριθμό στηλών του αρχείου

Η κωδικοποίηση των κατηγορικών μεταβλητών, η κατασκευή παράγωγων μεταβλητών και η επιλογή τροποποιούν τη διάσταση p. Επτά στήλες πηγής μπορούν να παράγουν ένδεκα διαστάσεις, ή αρκετές εκατοντάδες με μεταβλητές υψηλής καρδινικότητας.

Σωστή διατύπωση: «Το p δηλώνει τον αριθμό συνιστωσών του διανύσματος που όντως υποβάλλεται στο μοντέλο, μετά την προετοιμασία.»

ΣΦΑΛΜΑ — Να αναζητούμε όφελος επίδοσης στην επιλογή αλγορίθμου πριν εξετάσουμε τις μεταβλητές

Η σειρά των μοχλών είναι καθιερωμένη: ορισμός του στόχου, εξάλειψη διαρροών, εμπλουτισμός της πληροφορίας και μόνον έπειτα επιλογή αλγορίθμου και βελτιστοποίηση υπερπαραμέτρων. Η αντιστροφή αυτής της σειράς οδηγεί στην κατανάλωση σημαντικού προϋπολογισμού για οριακό όφελος.

Σωστή διατύπωση: «Πριν αλλάξετε μοντέλο, επαληθεύστε ότι η πληροφορία αναγκαία για την πρόβλεψη περιλαμβάνεται πράγματι στις εισόδους.»

ΣΦΑΛΜΑ — Να θεωρούμε την αλήθεια εδάφους ακριβή εξ ορισμού

Η επισημείωση παράγεται από ευάλωτο πρωτόκολλο. Οι διαφωνίες μεταξύ επισημειωτών, οι εσφαλμένες διαγνώσεις και οι μη ανιχνευμένες απάτες εισάγουν θόρυβο στον στόχο που οριοθετεί την επιτεύξιμη επίδοση.

Σωστή διατύπωση: «Η αλήθεια εδάφους είναι μέτρηση αναφοράς, όχι η αλήθεια· η ποιότητα της επισημείωσης καθορίζει το ανώτατο όριο επίδοσης του μοντέλου.»

9. Σύνθεση

Ο ΝΟΗΤΙΚΟΣ ΤΥΠΟΣ
    FEATURES  →  ΜΟΝΤΕΛΟ  →  TARGET
    ό,τι είναι γνωστό    η συνάρτηση     ό,τι αναζητείται
    τη στιγμή t_pred     που μαθεύτηκε   και άγνωστο στο t_pred

ΕΡΜΗΝΕΥΤΙΚΗ ΜΕΤΑΒΛΗΤΗ — ΣΥΝΩΝΥΜΑ ΚΑΙ ΠΡΟΕΛΕΥΣΕΙΣ
    feature, χαρακτηριστικό      αναγνώριση προτύπων
    ερμηνευτική μεταβλητή          εφαρμοσμένη στατιστική
    ανεξάρτητη μεταβλητή         πειραματικό σχέδιο (Fisher, 1935)
    μεταβλητή εισόδου, input      αυτοματισμός, θεωρία συστημάτων
    προβλέπων                    στατιστική της παλινδρόμησης
    παλινδρομητής                    οικονομετρία
    συμμεταβλητή                    βιοστατιστική, κλινικές δοκιμές
    γνώρισμα                      εξόρυξη δεδομένων, σχεσιακές βάσεις
    περιγραφέας                   χημειομετρία

ΜΕΤΑΒΛΗΤΗ ΣΤΟΧΟΣ — ΣΥΝΩΝΥΜΑ ΚΑΙ ΠΡΟΕΛΕΥΣΕΙΣ
    target, στόχος                 θετική μηχανική μάθηση
    εξαρτημένη μεταβλητή           πειραματική στατιστική
    μεταβλητή απόκρισης              πειραματικά σχέδια
    εξηγούμενη μεταβλητή            γαλλόφωνη στατιστική
    ενδογενής μεταβλητή             οικονομετρία
    output, έξοδος                αυτοματισμός
    label, ετικέτα              μόνο ταξινόμηση
    αλήθεια εδάφους                τηλεπισκόπηση, έπειτα όραση
    gold standard                 βιοστατιστική

ΟΡΟΛΟΓΙΑ ΕΞΑΡΤΗΜΕΝΗ / ΑΝΕΞΑΡΤΗΤΗ
    Κληρονομιά του πειραματικού σχεδίου, ακατάλληλη για παρατηρησιακό ML.
    «Ανεξάρτητη» δεν σημαίνει ανεξάρτητη από τις άλλες μεταβλητές.
    «Εξαρτημένη» δεν σημαίνει αιτιωδώς καθορισμένη.
    Ο ρόλος είναι λειτουργικός και αντιστρέψιμος από έργο σε έργο.

ΤΥΠΟΠΟΙΗΣΗ
    x = (x1, …, xp)ᵀ ∈ ℝ^p        διάνυσμα χαρακτηριστικών
    X ∈ ℝ^(n×p)                   πίνακας σχεδίασης
    y ∈ 𝒴^n                       διάνυσμα στόχου
    f : 𝒳 → 𝒴                     το μοντέλο
    ŷ = f(x)                      η πρόβλεψη
    p ≠ αριθμός στηλών του αρχείου πηγής

ΤΑ ΤΕΣΣΕΡΑ ΦΙΛΤΡΑ, ΜΕ ΑΥΤΗ ΤΗ ΣΕΙΡΑ
    1. Διαθεσιμότητα τη στιγμή της πρόβλεψης    → διαφορετικά αποκλεισμός
    2. Απουσία διαρροής                              → διαφορετικά αποκλεισμός
    3. Επαγγελματική ευλογοφάνεια                           → διαφορετικά εξέταση
    4. Νομιμότητα και ηθική                            → διαφορετικά αποκλεισμός
    Η στατιστική επιλογή παρεμβαίνει μόνο μετά.

ΤΟ ΠΡΩΤΟ ΚΡΙΤΗΡΙΟ
    t_obs ≤ t_pred, για όλες τις παρατηρήσεις, χωρίς εξαίρεση.
    Τρεις μορφές μη διαθεσιμότητας: χρονική, καθυστέρησης, πεδίου.

Η ΙΕΡΑΡΧΙΑ ΤΩΝ ΜΟΧΛΩΝ
    καλά ορισμένος στόχος > απουσία διαρροής > νέα πληροφορία
    > κατασκευασμένες μεταβλητές > όγκος > αλγόριθμος > υπερπαράμετροι

Δήλωση σύνθεσης

Οι ερμηνευτικές μεταβλητές αποτελούν το σύνολο της πληροφορίας που διαθέτει το μοντέλο και η μεταβλητή στόχος το μέγεθος που πρέπει να εκτιμήσει· η ονομασία τους μεταβάλλεται ανάλογα με τον κλάδο προέλευσης χωρίς να αλλάζει η έννοια, ενώ η στατιστική ορολογία εξάρτησης και ανεξαρτησίας αποτελεί πειραματική κληρονομιά ακατάλληλη για το παρατηρησιακό πλαίσιο της μηχανικής μάθησης. Μία παρατήρηση αναπαρίσταται ως διάνυσμα του $\mathbb{R}^p$ και το μοντέλο ως συνάρτηση ορισμένη σε αυτόν τον χώρο. Μία στήλη γίνεται ερμηνευτική μεταβλητή μόνον αφού ικανοποιήσει τέσσερα κριτήρια, εκ των οποίων το πρώτο είναι η πραγματική διαθεσιμότητά της τη στιγμή που θα πρέπει να παραχθεί η πρόβλεψη· και η ποιότητα αυτής της πληροφορίας καθορίζει την επιτεύξιμη επίδοση περισσότερο από την επιλογή του αλγορίθμου.

Σχετικά κουίζ

006.1-quiz-relation-features-target.md
006.2-quiz-variable-explicative.md
006.3-quiz-variable-cible.md
006.4-quiz-dependante-independante.md
006.5-quiz-vecteur-espace-caracteristiques.md
006.6-quiz-criteres-de-selection.md
006.7-quiz-etudes-de-cas.md

Επόμενο κεφάλαιο: 007-x-et-y-label-classe.md