Calcular una atención en miniatura con consulta, claves, pesos normalizados y suma de valores.
Prueba de éxito: explica «Atención: consultas, claves y valores», realiza «La mezcla ponderada» y cita el límite de la comparación.
En «El robot guarda la taza porque está vacía», Amín busca a qué se refiere «está». Para el token actual, el modelo construye una consulta; cada token proporciona una clave comparada con esta consulta y un valor que contiene la información a mezclar. Las similitudes se convierten en pesos mediante Softmax. La salida es una suma ponderada de los valores. Una gran atención señala una fuerte influencia en este cálculo, no una explicación completa de la decisión.
Vista previa: el resto de la lección está reservado a los inscritos.
Tu acceso está vinculado a tu cuenta, no a este enlace. Inicia sesión con el mismo correo que usaste en clase: tu curso te espera, no hace falta volver a introducir el código.
Iniciar sesión¿Aún no tienes cuenta? Crear unaLos primeros módulos del curso son de acceso libre. Para el resto hay tres opciones: comprar este curso de una vez, suscribirte, o introducir el código entregado en clase.