دوره آموزش یاد گیری عمیق

آموزش یادگیری عمیق

برای دسترسی سریعتر به هر بخش، بر روی لینک های زیر کلیک کنید :

1. روش یاد گیری عمیق چیست
2. عملکرد یاد گیری عمیق
3. مقایسه یاد گیری عمیق و یاد گیری ماشین
4. ملاحظات موجود در زمینه یادگیری عمیق
5. مثال برای یادگیری عمیق
6. فهرست مطالب تئوری در دوره آموزش یاد گیری عمیق
   1. بخش اول از مطالب تئوری در دوره آموزش یاد گیری عمیق : روش یادگیری عمیق چیست
      1. هفته اول: مقدمه ای بر یاد گیری عمیق
   2. بخش دوم از مطالب تئوری در دوره آموزش یاد گیری عمیق : یادگیری عمیق و شبکه‌ عصبی
      1. هفته‌ دوم: دسته‌بند خطی
      2. هفته سوم: پرسپترون چندلایه
      3. هفته‌ چهارم: پیش‌ پردازش داده
   3. بخش سوم از مطالب تئوری در دوره آموزش یاد گیری عمیق : شبکه‌ی عصبی کانولوشنال
      1. هفته‌ پنجم: شبکه‌ی کانولوشنی عمیق (CNN)
      2. هفته ششم: مقدمه‌ای بر معماری‌های رایج شبکه‌ی کانولوشنی
   4. بخش چهارم از مطالب تئوری در دوره آموزش یاد گیری عمیق : شبکه‌ عصبی برگشتی
      1. هفته‌ هفتم: شبکه‌ی عصبی بازگشتی
   5. بخش پنجم از مطالب تئوری در دوره آموزش یاد گیری عمیق : عناوین پیشرفته
      1. هفته‌ هشتم: مکانیزم توجه
      2. هفته‌ نهم: شبکه عصبی خودرمزگذار(Autoencoder)
      3. هفته‌ دهم: شبکه‌ی مولد رقابتی (GAN)
      4. هفته‌ یازدهم: یادگیری تقویتی عمیق (DRL)
7. فهرست مطالب کراس/ تنسورفلو / پایتورچ
   1. بخش اول از مطالب کراس/ تنسورفلو / پایتورچ در دوره آموزش یاد گیری عمیق : مقدمات یاد گیری عمیق
   2. بخش دوم از مطالب کراس/ تنسورفلو / پایتورچ در دوره آموزش یاد گیری عمیق : یادگیری عمیق در سطح متوسط
   3. بخش سوم از مطالب کراس/ تنسورفلو / پایتورچ در دوره آموزش یاد گیری عمیق : یادگیری عمیق در سطح پیشرفته
   4. بخش چهارم از مطالب کراس/ تنسورفلو / پایتورچ در دوره آموزش یاد گیری عمیق : سودمند
8. فهرست مطالب عملی در دوره آموزش یاد گیری عمیق
   1. بخش اول از مطالب عملی در دوره آموزش یاد گیری عمیق : مقدمه‌ای بر کاربردهای یادگیری عمیق
      1. هفته اول: مقدمه‌ای بر کاربردهای یادگیری عمیق
   2. بخش دوم از مطالب عملی در دوره آموزش یاد گیری عمیق : بینایی ماشین
      1. هفته دوم: دسته‌بندی تصاویر
      2. هفته سوم: شناسایی چهره
      3. هفته چهارم: دسته‌بندی و محلی‌سازی
      4. هفته پنجم: تشحیص اشیاء (Yolo)
   3. بخش سوم از مطالب عملی در دوره آموزش یاد گیری عمیق : پردازش زبان طبیعی
      1. هفته ششم: دسته‌بندی متون
      2. هفته هفتم: مدل‌سازی زبانی
      3. هفته هشتم: توصیف(حاشیه‌نویسی) تصویر
      4. هفته نهم: ترجمه‌ ماشینی (En to Per)
9. مهم ترین ابزارها و کتابخانه ها در پایتون

روش یاد گیری عمیق چیست

روش یاد گیری عمیق

تابعی از

هوش مصنوعی

است که فعالیت مغز انسان را در پردازش داده ها و ایجاد الگویی برای تصمیم گیری کاهش می دهد.

یاد گیری عمیق

همینطور زیرمجموعه ای از

یاد گیری ماشین در هوش مصنوعی

است که شبکه های آن قادر به فراگیری داده های غیرساختاری و بدون برچسب هستند؛ و بعنوان

شبکه عصبی عمیق

یا

آموزش عصبی عمیق

نیز شناخته می شود.

از جمله مشخصات کلیدی آن می توان به موارد زیر اشاره کرد :

1.

یاد گیری عمیق

تابعی از

هوش مصنوعی

است که فعالیت مغز انسان را در پردازش داده ها برای مواردی چون دستیابی به objects، تشخیص گفتار، ترجمه زبان و تصمیم گیری، کاهش می دهد.

2.

هوش مصنوعی در یادگیری عمیق

بدون دخالت انسان نیز قادر به فراگیری است و می تواند از داده هایی که ساختاربندی و برچسب گذاری نشده اند اطلاعات استخراج کند.

3.

روش یاد گیری عمیق

که حالتی از

یادگیری ماشین

است می تواند برای کمک به کشف کلاهبرداری و پول شویی در میان دیگر توابع مورد استفاده قرار گیرد.

عملکرد یاد گیری عمیق

روش یاد گیری عمیق

ارتباط تنگاتنگی با حوزه دیجیتال دارد، و داده های بسیاری را از نواحی مختلف دنیا در فرم ها ارائه می دهد. این داده ها که تحت عنوان داده های عظیم شناخته می شوند از منابعی همچون شبکه های اجتماعی، موتورهای جستجو در اینترنت، پلتفرم های تجارت الکترونیک، سینماهای آنلاین و دیگر موارد بدست می آیند. این حجم عظیم از داده ها براحتی در دسترس هستند و می توانند در برنامه های Fintech از جمله محاسبه ابری مورد استفاده قرار بگیرند.

مقایسه یاد گیری عمیق و یاد گیری ماشین

یادگیری ماشین

یکی از معروف ترین تکنیک های

هوش مصنوعی

است که برای پردازش داده های عظیم مورد استفاده قرار می گیرد. تکنیک

یادگیری ماشین

دارای یک الگوریتم خود انطباقی است که ارزیابی بهتر و الگوهای باکیفیت تری را بر اساس تجربه یا داده های جدید اضافه شده، فراهم می کند.

برای مثال، اگر یک شرکت پرداخت دیجیتالی بدنبال بررسی حساب ها برای اطمینان حاصل کردن از عدم وجود کلاهبرداری در سیستم حسابرسی باشد، می تواند ابزارهای

یادگیری ماشین

را بکار گیرد. الگوریتم محاسباتی ساخته شده در مدل کامپیوتری، تمامی تراکنش های انجام شده در پلتفرم دیجیتال را پردازش، و الگوهای لازم در مجموعه داده ها را پیدا می کند و هر گونه ناهنجاری که توسط الگو یافت شود را نشان می دهد.

روش یاد گیری عمیق

زیر مجموعه ای از

یادگیری ماشین

است که سلسله مراتبی از

شبکه های عصبی مصنوعی

را برای انجام پردازش

یادگیری ماشین

بکار می گیرد.

شبکه های عصبی مصنوعی

، شبیه مغز انسان ساخته می شوند و دارای گره های عصبی بهم مرتبط هستند که شبیه وب بهم وصل شده اند. در حالیکه برنامه های قدیمی، تحلیل داده ها را بصورت خطی انجام می دهند، تابع سلسله مراتبی موجود در سیستم های

یاد گیری عمیق

، قادر به ارزیابی داده ها با رویکرد غیرخطی است.

ملاحظات موجود در زمینه یادگیری عمیق

در حالی که رویکرد قدیمی مورد استفاده برای کشف کلاهبرداری یا پولشویی، بر اساس مقدار تراکنش انجام می گیرد؛ روش غیرخطی

یاد گیری عمیق

مواردی همچون زمان، موقعیت جغرافیایی، آدرس IP، نوع خرده فروشی و هر گونه ویژگی دیگری که شبیه فعالیت کلاهبرداری باشد را شامل می شود.

شبکه عصبی

، ردیفی از داده های ورودی همچون مقدار تراکنش ها را مورد پردازش قرار می دهد و آن را به لایه بعدی می فرستد. دومین لایه از

شبکه عصبی

، اطلاعات لایه پیشین را با در نظر گرفتن ملاحضات دیگری همچون آدرس IP کاربر، تحت پردازش قرار می دهد و نتیجه را به لایه بعدی می فرستد.

لایه بعدی، اطلاعات دومین لایه را دریافت و موارد دیگری همچون موقعیت جغرافیایی کاربر را بر روی اطلاعات اعمال کرده و الگو بهتری را ایجاد می کند. این پردازش ها در تمامی لایه های

شبکه عصبی

انجام می شود.

مثال برای یادگیری عمیق

با استفاده از سیستم کشف کلاهبرداری که پیشتر راجع به آن صحبت کردیم می توان مثالی از

یاد گیری عمیق

را ارائه داد. اگر سیستم

یادگیری ماشین

مدلی ارائه دهد که بر اساس مقدار دلاری که کاربر دریافت یا ارسال می کند، ایجاد شده باشد؛

روش یاد گیری عمیق

می تواند شروع به کار بر روی نتایج ارائه شده توسط

یادگیری ماشین

کند.

هر لایه از شبکه عصبی بر روی لایه پیشین خود ساخته می شود، و داده هایی همچون خرده فروش، فرستنده، کاربر، رویدادهای شبکه اجتماعی، سقف اعتبار، آدرس IP و دیگر ویژگی ها، یکی یکی به هر لایه اضافه می شوند. الگوریتم های

یاد گیری عمیق

بگونه ای طراحی می شوند که نه تنها الگوهایی از تمامی تراکنش ها ایجاد کنند، بلکه سیگنال یک الگو برای امکان وجود کلاهبرداری و نیاز به بررسی آن را نیز تشخیص دهند. آخرین لایه سیگنالی را به تحلیلگر ارسال می کند و ممکن است تحلیلگر حساب کاربر را تا پایان بررسی های لازم مسدود کند.

یاد گیری عمیق

در تمام صنایع و برای امور مختلف مورد استفاده قرار می گیرد. زمینه های کاربردی زیر از جمله مواردی هستند که

روش یاد گیری عمیق

را بکار می گیرند:

برنامه های تجاری که از سیستم تشخیص چهره استفاده می کنند، پلتفرم های منبع باز با برنامه های مصرف کننده پیشنهادی و ابزارهای پزشکی پژوهشی که امکان استفاده مجدد از داروها برای بیماری های مزمن را مورد بررسی قرار می دهند.

سرفصل دوره آموزش یاد گیری عمیق

فهرست مطالب تئوری در دوره آموزش یاد گیری عمیق

بخش اول از مطالب تئوری در

 

دوره آموزش یاد گیری عمیق :

 

روش یادگیری عمیق چیست

هفته اول:

مقدمه ای بر یاد گیری عمیق

مسیر یادگیری

شبکه‌ی عصبی مصنوعی

چرا به شبکه‌ی عصبی مصنوعی نیاز داریم؟

نورون

توابع فعالساز

شبکه‌ی عصبی چگونه کار می‌کند؟

شبکه‌ی عصبی چگونه یادگیری انجام می‌دهد؟

بهینه‌سازی

بخش دوم از مطالب تئوری در

 

دوره آموزش یاد گیری عمیق :

 

یادگیری عمیق و شبکه‌ عصبی

هفته‌ دوم:

دسته‌بند خطی

پرسپترون

گرادیان کاهشی

گرادیان کاهشی تصادفی

تابع هزینه (تابع زیان)

• مجموع مربعات خطا
• انتروپی
• انتروپی متقابل
• همگراییKL
• تابع زیانHinge

تنظیم سازی شبکه

• L1 , L2 & Elastic net (L1 + L2)

هفته سوم:

پرسپترون چندلایه

معماری شبکه‌ی عصبی

توابع فعالساز

• سیگموید
• تانژانت هایپربولیک
• واحد تصحیح کننده‌ی خطی (Relu)
• Leaky Relu
• Maxout
• واحد تصحیح‌کننده‌ی نمایی (ELU)
• Swish

الگوریتم انتشار به عقب

• Boxing
• Sensitivity
• Weight updates

حذف تصادفی DropOut

هفته‌ چهارم:

پیش‌ پردازش داده

پیش‌ پردازش داده

وزن‌دهی اولیه

نرمالسازی دسته‌ای

نرمال‌سازی از طریق دسته‌های کوچک

بخش سوم از مطالب تئوری در

 

دوره آموزش یاد گیری عمیق :

 

شبکه‌ی عصبی کانولوشنال

هفته‌ پنجم:

شبکه‌ی کانولوشنی عمیق (CNN)

چرا به شبکه‌ی کانولوشنی عمیق نیاز داریم

شبکه‌ی کانولوشنی عمیق چطور کار می‌کند

• اتصال خلوت
• اشتراک‌گذاری پارامتر
• Equivariant representations

عملگر کانولوشن

• لایه‌یReLU
• لایه‌ی Pooling
• لایه‌ی Flattening
• لایه‌ی کاملا متصل

تابع زیان

• سافت‌مکس و انتروپی متقابل
• کمترین مربعات خطا برای دسته‌بندی

بهینه‌سازی پارامترهای دستی

• جستجوی همه‌ی حالت‌ها
• جستجوی تصادفی و گرید
• جستجوی همه‌ی حالت‌ها
• بهینه‌سازی پارامتر دستی با رویگرد بیزین

تابع زیان

نحوه‌ی به‌روزرسانی پارمترها

انتقال یادگیری

هفته ششم:

مقدمه‌ای بر معماری‌های رایج شبکه‌ی کانولوشنی

AlexNet

ZFNet

VGGNet

GoogleNet, (Inception)

Residual Networks(ResNet)

Squeeze-and-Excitation Networks

بخش چهارم از مطالب تئوری در

 

دوره آموزش یاد گیری عمیق :

 

شبکه‌ عصبی برگشتی

هفته‌ هفتم:

شبکه‌ی عصبی بازگشتی

ایده‌ی به وجود امدن شبکه‌ی عصبی بازگشتی

مشکل محو شدن گرادیان

شبکه‌ی عصبی بازگشتی (RNN)

حافظه‌ی کوتاه مدت وابستگی طولانی (LSTM)

واحد بازگشتی گیت‌شده (GRU)

بخش پنجم از مطالب تئوری در

 

دوره آموزش یاد گیری عمیق :

 

عناوین پیشرفته

هفته‌ی هشتم:

مکانیزم توجه

مکانیزم توجه باهاندا

مکانیزم توجه لوانگ

هفته‌ نهم:

شبکه عصبی خودرمزگذار(Autoencoder)

نویز زدایی با خودرمزگذار

خودرمزگذاراسپارس

خودرمزگذار عمیق

خودرمزگذارContractive

خودرمزگذارVariational

هفته‌ دهم:

شبکه‌ی مولد رقابتی (GAN)

مقدمه‌ای بر شبکه‌های مولد رقابتی

مدل تفکیک‌کننده

مدل مولد

نحوه‌ی کار شبکه‌ی مولد رقابتی

انواع شبکه‌ی مولد رقابتی

• Deep Convolutional GANs (DCGANs)
• Conditional GANs (cGANs)
• Wasserstein GANs(WGAN)

کاربردهای شبکه‌ی مولد رقابتی

پیاده‌سازی یک شبکه‌ی مولد رقابتی

نمونه‌ای از کاربرد شبکه‌ی مولد رقابتی

• Text to Image Generation
• Image to Image Translation
• Increasing Image Resolution
• Predicting Next Video Frame

هفته‌ یازدهم:

یادگیری تقویتی عمیق (DRL)

مفاهیم اولیه‌ی یادگیری تقویتی

روش‌های مبتنی بر ارزش Value-Based

روش‌های مبتنی بر سیاست Policy-Based

یادگیری عمیق چند عاملی

فهرست مطالب کراس/ تنسورفلو / پایتورچ

بخش اول از مطالب کراس/ تنسورفلو / پایتورچ در

 

دوره آموزش یاد گیری عمیق :

 

مقدمات یاد گیری عمیق

مقدمات

رگرسیون خطی

رگرسیون منطقی

شبکه‌ی عصبی پیش‌خور

بخش دوم از مطالب کراس/ تنسورفلو / پایتورچ در

 

دوره آموزش یاد گیری عمیق :

 

یادگیری عمیق در سطح متوسط

شبکه‌ی کانولوشنی

شبکه‌ی باقی‌مانده‌ی عمیق Deep Residual Network

شبکه‌ی بازگشتی عمیق Recurrent Neural Network

شبکه‌ی بازگشتی عمیق دوسویه Bidirectional Recurrent Neural Network

مدل‌سازی زبانی Language Model (RNN-LM)

بخش سوم از مطالب کراس/ تنسورفلو / پایتورچ در

 

دوره آموزش یاد گیری عمیق :

 

یادگیری عمیق در سطح پیشرفته

شبکه‌ی مولد رقابتی Generative Adversarial Networks

شبکه‌ی خودرمزگذار Variational Auto-Encoder

انتقال سبک عصبی Neural Style Transfer

حاشیه نویسی تصاویر Image Captioning (CNN-RNN)

بخش چهارم از مطالب کراس/ تنسورفلو / پایتورچ در

 

دوره آموزش یاد گیری عمیق :

 

سودمند

مصورسازی مراحل یادگیری شبکه TensorBoard in PyTorch

فهرست مطالب عملی

بخش اول از مطالب عملی در

 

دوره آموزش یاد گیری عمیق :

 

مقدمه‌ای بر کاربردهای یادگیری عمیق

هفته اول:

مقدمه‌ای بر کاربردهای یادگیری عمیق

ماشین‌های خودران

تشخیص اخبار جعلی

پردازش زبان طبیعی

دستیار مجازی

سرگرمی

شناسایی بصری

تشخیص کلاه برداری

بهداشت و سلامت

ترجمه ماشینی

تولید ارقام و حروف دستنویس

Photo Descriptions

Demographic and Election Predictions

Deep Dreaming

بخش دوم از مطالب عملی در

 

دوره آموزش یاد گیری عمیق :

 

بینایی ماشین

هفته دوم:

دسته‌بندی تصاویر

شبکه‌ی کانولوشنی عمیق

از پیش اموزش دیده (Pre-trrain)

انتقال یادگیری (Transfer Learning)

هفته سوم:

شناسایی چهره

یادگیری در یک مرحله (One Shot learning)

شبکه‌ی عصبی سیامی

تابع زیان سه‌گانه

هفته چهارم:

دسته‌بندی و محلی‌سازی

شبکه‌ی کانولوشنی عمبق

از پیش اموزش دیده (Pre-trrain)

انتقال یادگیری (Transfer Learning)

دسته‌بندی و رگرسیون

هفته پنجم:

تشحیص اشیاء (Yolo)

تشخیص اشیاء به صورت بلادرنگ با الگوریتم YOLO

نخوه‌ی کارکرد الگوریتم YOLO

تشخیص با شبکه‌ی پیش اموزش دیده (Pre-trrain)

تشخیص چند شی در تصویر

یولو نسخه‌ی کوچک Tiny YOLOv3

ویژگی‌های تصمیم‌گیری( Backbone Features)

بخش سوم از مطالب عملی در

 

دوره آموزش یاد گیری عمیق :

 

پردازش زبان طبیعی

هفته ششم:

دسته‌بندی متون

تحلیل قطبیت (تحلیل قطبیت)

تعبیه‌سازی واژگان

جاسازی کلمه در بردار Word to Vec

• مدل Skip Gram & CBOW

حافظه‌ی کوتاه مدت وابستگی طولانی (LSTM)

هفته هفتم:

مدل‌سازی زبانی

مدل‌سازی در پردازش زبان طبیعی چیست؟

ایجاد یک مدل زبانی

ایجاد مدل زبانی عصبی

تولید زبان طبیعی با OpenAI’s GPT-2

هفته هشتم:

توصیف(حاشیه‌نویسی) تصویر

حاشیه‌نویسی خودکار تصاویر با استفاده از یادگیری عمیق (CNN and LSTM)

CNN & LSTM

کاربرد توصیف تصاویر/ویدئو

روش‌های حل مساله

پیاده‌سازی

هفته نهم:

ترجمه‌ ماشینی (En to Per)

ترجمه ماشینی

درک مساله

مقدمه‌ی بر پیش‌بینی دنباله به دنباله

پیاده‌سازی ترجمه ماشینی

مهم ترین ابزارها و کتابخانه ها در پایتون به شرح زیر هستند:

• anaconda
• spyder
• ipython
• jupyter notebook
• csv
• database
• pandas
• numpy
• scipy
• scikit-learn
• opencv
• keras
• nltk
• tensorflow
• pytorch
• tensorboard