Matemática útil para o aprendizado profundo

2 min
  1. Se X vale B×D e W vale D×H, qual é a forma de XW?
  2. Qual forma deve ter ∂L/∂W?
  3. Por que subtrair o logit máximo antes do softmax?
  4. Para que serve um gradient check?
  5. [E] Por que as dimensões constituem um teste de raciocínio?

Respostas. 1. B×H. 2. D×H, como W. 3. Para prevenir o overflow sem mudar as probabilidades. 4. Para comparar derivada analítica e diferença finita. 5. Uma operação cujas dimensões não se compõem não pode ser o cálculo anunciado.

Objetivo: dominar as ferramentas necessárias para raciocinar sobre uma rede sem transformar o curso em tratado de matemática.

Pré-visualização — o resto da lição está reservado aos inscritos.

Já se inscreveu com um código?

O seu acesso está ligado à sua conta, não a esta ligação. Inicie sessão com o mesmo e-mail usado na aula: o seu curso está à espera, não precisa de introduzir o código de novo.

Iniciar sessãoAinda não tem conta? Criar uma
Esta lição faz parte do módulo «Aprofundamentos modernos»

Os primeiros módulos do curso são de acesso livre. Para o resto há três possibilidades: comprar este curso de uma vez por todas, subscrever, ou introduzir o código entregue na aula.

Subscrever — 19 $ US/mêsVoltar ao plano
É estudante do curso?

O código fica ligado à sua conta: inicie sessão ou crie uma conta e ele será aplicado automaticamente ao regressar.

Ainda não tem conta? Criar uma