التدرج والانتشار العكسي

الهدف: فهم كيفية تحوُّل الخطأ النهائي إلى تصحيح محلي.

يُجمِّع التدرج (Gradient) مشتقّات الخسارة بالنسبة للمعاملات. المكوّن ∂L/∂w_i يُبيّن كيف ستؤثّر زيادة صغيرة في الوزن w_i على الخسارة.

قاعدة السلسلة

إذا كانت L تعتمد على a، التي تعتمد على z، التي تعتمد على w:

∂L/∂w = ∂L/∂a × ∂a/∂z × ∂z/∂w

يُطبّق الانتشار العكسي (Backpropagation) هذه القاعدة بكفاءة من الخسارة وصولاً إلى كل معامل داخل الرسم البياني. إنه لا يُشكّل المحسِّن: إنه يحسب التدرجات؛ ويقرّر المحسِّن لاحقاً كيفية التحديث.

optimizer.zero_grad()  # مسح التدرجات السابقة
logits = model(x)
loss = criterion(logits, y)
loss.backward()        # حساب التدرجات
optimizer.step()       # تعديل المعاملات