Simuler un état caché récurrent et expliquer ce que les portes d'un LSTM tentent de préserver.
Preuve de réussite : explique « Séquences, RNN et mémoire LSTM », réalise « La fiche qui voyage » et cite la limite de l’analogie.
Eliott lit « Le coffre est près du phare. Plus tard, on l'ouvre. » Pour relier « l' » au coffre, un modèle séquentiel doit transporter du contexte. Un RNN met à jour un état caché token après token en réutilisant les mêmes paramètres. Sur de longues distances, les gradients peuvent disparaître ou exploser. Les portes d'un LSTM apprennent alors à oublier, écrire et exposer une partie d'un état de cellule.
Aperçu — la suite de la leçon est réservée aux inscrits.
Votre accès est rattaché à votre compte, pas à ce lien. Connectez-vous avec le même courriel qu'en classe : votre cours vous attend, inutile de ré-entrer le code.
Se connecterPas encore de compte ? En créer unLes premiers modules du cours sont en accès libre. Pour la suite, trois possibilités : acheter ce cours une fois pour toutes, vous abonner pour tout ouvrir, ou entrer le code si vous suivez le cours en classe.