Regularização e generalização

2 min

Objetivo: reduzir a distância entre memorização do treino e desempenho real.

A generalização se mede em exemplos não usados para ajustar os parâmetros nem para escolher os hiperparâmetros. Um treino excelente e uma validação degradada sinalizam um sobreajuste, mas também é preciso excluir uma diferença de distribuição ou um bug de pipeline.

Alavancas principais

  • Mais dados úteis: frequentemente a alavanca mais robusta.
  • Augmentation: transformações que preservam o rótulo.
  • Weight decay: penaliza os pesos excessivos.
  • Dropout: mascara aleatoriamente ativações durante o treinamento.
  • Early stopping: conserva o melhor estado de validação.
  • Reduzir a capacidade: menos camadas, canais ou unidades.

Pré-visualização — o resto da lição está reservado aos inscritos.

Já se inscreveu com um código?

O seu acesso está ligado à sua conta, não a esta ligação. Inicie sessão com o mesmo e-mail usado na aula: o seu curso está à espera, não precisa de introduzir o código de novo.

Iniciar sessãoAinda não tem conta? Criar uma
Esta lição faz parte do módulo «Fazer a rede aprender»

Os primeiros módulos do curso são de acesso livre. Para o resto há três possibilidades: comprar este curso de uma vez por todas, subscrever, ou introduzir o código entregue na aula.

Subscrever — 19 $ US/mêsVoltar ao plano
É estudante do curso?

O código fica ligado à sua conta: inicie sessão ou crie uma conta e ele será aplicado automaticamente ao regressar.

Ainda não tem conta? Criar uma