افزایش سرعت یادگیری شبکه‌های عصبی تپشی به کمک تندترین کاهش گرادیان پی بهبود یافته با تانژانت موازی

در این مقاله فرایند یادگیری در شبکه‌های عصبی تفرشی بررسی شده است. زیاد شدن تعداد تکرار های مورد نیاز برای هم‌گرایی شبکه‌های عصبی تپشی می‌تواند به عنوان یک ظرف این شبکه‌ها محسوب شود برای همین بهبود فرایند یادگیری می‌تواند باعث کاهش زمان و تعداد تکرار های مورد نیاز برای هم‌گرایی و بهبود عملکرد این شبکه‌ها شود. در این مقاله الگوریتم یادگیری تندترین کاهش گرادیان یک بهبود یافته با تانژانت موازی برای تسریع در یادگیری پیشنهاد شده است و با اجرای دو آزمایش باینری معروف، سرعت یادگیری توسط الگوریتم پیشنهادی با الگوریتم های تندترین کاهش گرادیان و نمونه بهبود یافته آن با مونتوم مقایسه شده است. نتایج به‌دست‌آمده نشان می‌دهد استفاده از الگوریتم پیشنهاد شده موجب هم‌گرایی سریع‌تر شود که در فرایند یادگیری شده است.