یکی از مدل‌های شبکه عصبی که در سال‌های اخیر مورد توجه فراوان قرار گرفته است مدل ELM یا همان Extreme Learning Machine است. در این گزارش به معرفی این مدل و ارتباط آن با مدل‌های مبتنی بر SVM پرداخته شده است. مدل [SVM[1 به خاطر سادگی، در دهه اخیر در انواع کارها مدنظر قرار گرفته است. مدل‌های [PSVM[2 و[3]LS-SVM مدل‌هایی مشتق شده از ایده SVM می‌باشند که سرعت بیشتری دارند و مساله بهینه سازی آنها مثل SVM مکعبی نیست، بلکه خطی است. این مدل‌ها در حوزه دسته بندی باینری می‌باشند. البته با تکنیک‌هایی همچون یکی در مقابل همه[4] و یکی در مقابل یکی[5] قابل توسعه به حالت چند دسته‌ای می‌باشند. پژوهشگران در نشان داده‌اند که PSVM و LS-SVM و الگوریتم‌های تنظیم‌گر[6]می‌توانند بیشتر ساده شوند و در یک قالب یکپارچه تحت عنوان [ELM[7 قرار بگیرند. مدل ELM بر روی شبکه‌های تعمیم یافته فیدفوروارد با تک لایه مخفی[8] (SLFN) کار می‌کند. در مدل ELM لایه مخفی نیاز به تنظیم ندارد و توابع این لایه که یک انتقال ویژگی به فضای جدید است از قبل مشخص است. مدل‌های SVM، شبکه‌های چندجمله‌ای، [RBF[9 و مدل‌های فیدفوروارد تک لایه حالت خاصی از این مدل هستند. پژوهشگران در مقالات چند هدف عمده را مدنظر قرار داده‌اند:

1) مدل ELM می‌تواند یک قالب یکپارچه را با انواع انتقال ویژگی‌های وسیعی که می‌توان در لایه مخفی استفاده کرد، فراهم می‌کند که می‌تواند به طور مستقیم در دسته‌بندی چند دسته‌ای و رگرسیون به کار رود.

2) از منظر بهینه‌سازی ELM محدودیت‌های نرم‌تری نسبت به PSVM و LS-SVM در بر دارد.

3) مدل‌های SVM و LS-SVM نسبت به ELM پیچیدگی محاسباتی بیشتری دارند و به جواب زیر بهینه می‌رسند.

4) از لحاظ تئوری، مدل ELM می‌تواند هر تابع هدف پیوسته‌ای را تخمین بزند و هر ناحیه‌های متمایزی را دسته‌بندی کند. نتایج عملی نشان می‌دهد این مدل مقیاس‌پذیری بهتری دارد و برای رگرسیون و دسته بندی دوکلاسه تعمیم‌پذیری مشابه و برای دسته‌بندی چندکلاسه تعمیم‌پذیری بهتر و سرعت بسیار بالاتری نسبت به روش‌های متداول SVM و LS-SVM دارد.

توضیحات کاملتر در دو فایل ورد و پاورپوینت آماده شده است که از لینک زیر می‌توانید دانلود کنید.

مقاله مرتبط: Extreme Learning Machine for Regression and Multiclass Classification

[1] Support Vector Machine

[2] Proximal Support Vector Machine

[3] Least Square Support Vector Machine

[4] One Against all (OAA)

[5] One Against One

[6] Regularization

[7] Extreme Learning Machine

[8] single-hidden-layer feed-forward networks

[9] Radial Basis Function