التدريب الموزّع والفيدرالي

1 دقيقة
  1. ما الدُّفعة العامة لثمانية عمّال بدُفعة 32 دون تراكم؟
  2. فيمَ يفيد all-reduce للتدرجات؟
  3. لماذا يعتمد المُجدوِل على عدد العمّال؟
  4. ما الفارق الرئيس بين DDP والتعلم الفيدرالي؟
  5. [E] ما الضابط الذي يُصادق تمريرةً موزّعة؟

الأجوبة. 1. 256. 2. لإعطاء التدرج المُجمَّع نفسه للنسخ. 3. قد يتغيّر عدد التحديثات أو حجم الدُّفعة العامّة. 4. الزبائن الفيدراليون منفصلون، وجزئيّون، وغالباً غير مستقلّين ومتماثلين (non-IID). 5. مقارنة مع عامل واحد على البيانات وحجم الدُّفعة العامّة نفسها.

نشاط — التكافؤ مع عامل واحد

احسب الدُّفعة العامّة لثمانية عمّال، دُفعة محلّية 32، وتراكم 2. ثم اكتب اختباراً يقارن تحديثاً بعامل واحد بتحديثٍ موزَّع على البيانات ذاتها. النجاح: تفسير الفجوة العددية، وتسجيل البذور وترتيب أخذ العيّنات.

معاينة — بقية الدرس متاحة للمسجّلين فقط.

هل سجّلت من قبل برمز؟

وصولك مرتبط بحسابك وليس بهذا الرابط. سجّل الدخول بنفس البريد الذي استخدمته في الصف: دورتك بانتظارك، ولا حاجة لإدخال الرمز مجددًا.

تسجيل الدخولليس لديك حساب بعد؟ أنشئ حسابًا
هذا الدرس جزء من وحدة «تعمقات حديثة»

الوحدات الأولى من الدورة مفتوحة للجميع. أما البقية فأمامك ثلاثة خيارات: شراء هذه الدورة مرة واحدة، أو الاشتراك، أو إدخال الرمز الموزّع في القاعة.

هل أنت طالب في هذه الدورة؟

يرتبط الرمز بحسابك: سجّل الدخول أو أنشئ حسابًا وسيُطبَّق تلقائيًا عند عودتك.

ليس لديك حساب بعد؟ أنشئ حسابًا