المتتاليات وRNN وLSTM وGRU

2 دقيقة

الهدف: نمذجة متتالية مرتّبة وفهم الذاكرة العودية (Recurrent memory).

تقرأ الشبكة العودية متتالية عنصراً بعد عنصر. الحالة المخفية (Hidden state) لديها تُلخِّص الماضي:

text
h_t = φ(W_x x_t + W_h h_{t-1} + b)

تُعاد استخدام الأوزان نفسها في كل خطوة. تقبل هذه العودية أطوالاً متغيّرة، لكنها تجعل الحساب الزمني تسلسلياً وتُعرِّض للتدرجات المتلاشية.

LSTM وGRU

يُضيف LSTM حالة ذاكرة وبوابات دخل ونسيان ومخرج. أما GRU فتدمج بعض البوابات وتحتوي على عدد معاملات أقل. تتعلّم هذه البوابات ما ينبغي حفظه أو تعديله أو نسيانه من المعلومات.

python
from torch import nn

rnn = nn.GRU(input_size=64, hidden_size=128, num_layers=2,
             batch_first=True, dropout=0.2, bidirectional=True)

معاينة — بقية الدرس متاحة للمسجّلين فقط.

هل سجّلت من قبل برمز؟

وصولك مرتبط بحسابك وليس بهذا الرابط. سجّل الدخول بنفس البريد الذي استخدمته في الصف: دورتك بانتظارك، ولا حاجة لإدخال الرمز مجددًا.

تسجيل الدخولليس لديك حساب بعد؟ أنشئ حسابًا
هذا الدرس جزء من وحدة «المعماريات المتخصصة»

الوحدات الأولى من الدورة مفتوحة للجميع. أما البقية فأمامك ثلاثة خيارات: شراء هذه الدورة مرة واحدة، أو الاشتراك، أو إدخال الرمز الموزّع في القاعة.

هل أنت طالب في هذه الدورة؟

يرتبط الرمز بحسابك: سجّل الدخول أو أنشئ حسابًا وسيُطبَّق تلقائيًا عند عودتك.

ليس لديك حساب بعد؟ أنشئ حسابًا