Μια συνάρτηση απώλειας είναι ο τρόπος με τον οποίο ο υπολογιστής βαθμολογεί τα δικά του λάθη — ένας μικρότερος αριθμός σημαίνει καλύτερη δουλειά.
Φαντάσου το έτσι: Στα βελάκια, το να χάνεις το κέντρο κατά πολύ σου δίνει κακό σκορ, και το να χάνεις κατά ελάχιστα σου δίνει πολύ καλύτερο σκορ. Μια συνάρτηση απώλειας κάνει το ίδιο: μετρά πόσο απείχε κάθε πρόβλεψη, ώστε το μοντέλο να ξέρει ακριβώς πόσο πρέπει να βελτιωθεί.
Παραδείγματα:
Λοιπόν; Η συνάρτηση απώλειας είναι το δελτίο βαθμολογίας του μοντέλου μετά από κάθε πρόβλεψη — και όλος ο σκοπός της εκπαίδευσης είναι να γίνει αυτό το σκορ όσο πιο μικρό γίνεται.