شبکه های عصبی و الگوریتم های یادگیری در متلب

در این مجموعه آموزشی قصد داریم ساختار مهم و کاربردی شبکه های عصبی از قبیل

• شبکه های عصبی گاما،
• Group Method of Data Handling (GMDH)
• Radial basis function (RBF)
• Recurrent neural network (RNN)
• Convolutional neural network (CNN)
• cerebellar-model-articulation-controller (CMAC)
• Multilayer perceptron (MLP)
• و برخی شبکه های عصبی مهم و کابردی دیگر از قبیل شبکه های عصبی خود تنظیم و شکبه های عصبی بر اساس تئوری راف و شبکه های عصبی Lolimot

همچنین روش های مختلف آموزش شبکه های عصبی بر اساس روش های آموزشی پس انتشار خطا (Back Propagation و Full Propafation) متدهای مختلف بهینه سازی از قبیل

• گرادیان نزولی (Learning of neural network based on gradient descent algorithm )،
• فیلتر کالمن توسعه یافته (Learning of neural network based on extended Kalman filter)،
• فیلتر کالمن غیر خطی (Learning of neural network based on unsecented Kalman filter) و (Learning of neural network based on square root capture kalman filter)
• روش کمترین مربعات خطا (Learning of neural network based on recursive least square algorithm)
• روش آموزش مرتبه دوم لونبرگ مارکوآت (Learning of neural network based on Levenbeg-Marquat) و
• روش مرتبه دوم نیوتن و روش مرتبه دوم  conjugate-gradient
• روشهای تکاملی مثل الگوریتم ژنتیک (genetic algorithm) الگوریتم تجمعی پرندگان (particle swarm optimization) و الگوریتم عنکبوت (Social Spider optimization) رشد علف های هرز IWO و برخی دیگر از الگوریتم های مهم تکامی.

در این جلسه مقدمه ای بر شبکه های عصبی و الگوریتم های یادگیری ارائه می شود و یک برنامه متلب به صورت برداری برای محاسبه خروجی شبکه های عصبی MLP شرح داده می شود. در جلسات بعدی از این برنامه برای محاسبات پیشرو شبکه های عصبی استفاده خواهد شد.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

پیش نمایش جلسه اول:

در این جلسه شبکه های عصبی MLP بر اساس روش آموزش پس انتشار خطا Back Propagation و روش بهینه سازی گرادیان نزولی   Gradient Descent آموزش داده می شود. همچنین مسئله Over Train شرح داده می شود. الگوریتم های توضیح داده شده در محیط متلب به صورت کدنویسی شبیه سازی شده و در یک مسئله تخمین تابع غیرخطی به کار گرفته می شوند. برنامه ها به صورتی نوشته شده که به آسانی می توانید در مسئله خودتان استفاده نمایید.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

پیش نمایش جلسه دوم:

در این جلسه ابتدا شبکه های عصبی MLP بر اساس روش آموزش  Full Propagation و روش بهینه سازی گرادیان نزولی   Gradient Descent آموزش داده می شود. سپس  این شبکه ها در یک مسئله کابردی با داده های واقعی برای دسته بندی classification  مورد استفاده قرار می گیرد. در نهایت مسئله Over Parameterize توضیح داده می شود. الگوریتم های توضیح داده شده در محیط متلب به صورت کدنویسی شبیه سازی می شوند. به آسانی می توانید از این مثال در کابرد دسته بندی مربوط به خودتان استفاده نمایید.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

پیش نمایش جلسه سوم:

در این جلسه آموزش شبکه های عصبی MLP با استفاده از گرادیان نزولی با نرخ تطبیقی و روش کمترین مربعات خطا RLS شرح داده می شود. دقت این الگوریتم ها با روشهای جلسه قبل مقایسه می شود. همچنین مشکلات روش RLS و روشهای رفع آنها با استفاده از Forgeting Factor و Covariance Matrix Resetting شرح داده می شود. همه الگوریتم های در محیط متلب به صورت کدنویسی پیاده سازی می شوند. برنامه ها به صورت برداری نوشته شده اند تا با سرعت بهینه در متلب اجرا شوند.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

پیش نمایش جلسه چهارم:

در این جلسه آموزش شبکه های عصبی MLP با استفاده از روشهای مرتبه دومی مثل لونبرگ-مارکوآت  levenberg-marquardt و Conjugate Gradient آموزش داده می شود. دقت و سرعت این الگوریتم ها با روشهای جلسه قبل مقایسه می شود.  همه الگوریتم های در محیط متلب به صورت کدنویسی پیاده سازی می شوند. برنامه ها به صورت برداری نوشته شده اند تا با سرعت بهینه در متلب اجرا شوند.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه پنجم: 

در این جلسه، ابتدا ساختار شبکه های عصبی RBF  شرح داده می شود، سپس به تشریح روش آموزش شبکه های عصبی بر پایه روش بدون مربی  Unsupervised Learning Algorithm پرداخته می شود. از روش های آموزش بدون مربی، روش خوشه بندی K-means توضیح داده می شود. در نهایت  الگوریتم های توضیح داده شده در محیط کدنویسی متلب و با  یک مثال گویا پیاده سازی میشود و نتایج به دست آمده با روش آموزش با مربی نیز مقایسه می شود.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه ششم:

در این جلسه، شبکه های عصبی GMDH (شبکه عصبی بر اساس چند جمله ای های ایواخننکو Ivakhenenco) معرفی میشود. نحوه تنظیم ساختار، پارامترها و قابلیت های این شکبه عصبی شرح داده شده و در نهایت در یک مسئله تشخیص خطا fault detection  به کار برده می شود. شبیه سازی انجام شده در این جلسه به صورت سیمولنیک و بر اساس یک مقاله معتبر ISI   می باشد.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه هفتم:

در این جلسه، الگوریتم ژنتیک به زبان ساده و با نگاه کاربردی شرح شده و تولباکس متلب برای این الگوریتم همرا با یک مثال گویا و ساده، به صورت کامل بررسی می شود. همچنین یک برنامه متلب برای این الگوریتم نوشته شده است که می توانید از این کدها در مسئله مربوط به خودتان به راحتی استفاده نمایید. در جلسات بعدی از این الگوریتم برای آموزش شبکه عصبی استفاده خواهیم کرد.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه هشتم: 

در این جلسه، ابتدا به معرفی شبکه های عصبی حافظه دار پرداخته شده و روابط آنها، نحوه آموزش و تفاوتشان با شبکه های عصبی قبلی شرح داده می شود. سپس به آموزش شبکه های عصبی بر اساس الگوریتم ژنتیک همراه با یک مثال ساده  گویا، می پردازیم. همچنین نحوه اضافه کردن توابعی دلخواه به تولباکس ژنتیک متلب شرح داده می شود.

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه نهم: 

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه دهم: 

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه یازدهم: 

محتوا: فایل آموزشی ۷۲۰pو کدهای متلب

حجم: حدوداً ۱۰۰MB

پیش نماش جلسه دوازدهم: