شبکه‌های عصبی مصنوعی هم به خواب نیاز دارند

محققان می‌گویند شبکه‌های عصبی مصنوعی نیز مشابه مغز انسان در دوره‌های متناوب «آفلاین» بودن (همانند خواب انسان) بهتر یاد می‌گیرند و از پدیده «فراموشی» در آنها جلوگیری می‌شود.

کد خبر: ۵۴۲۹۰۳

تاریخ: ۳۰ آبان ۱۴۰۱ - ۱۵:۲۲

به گزارش گروه علم و آموزش ایران اکونومیست از «ساینس دیلی»، هر فرد بسته به این که چه سنی داشته باشد به هفت تا ۱۳ ساعت خواب در شبانه روز نیاز دارد. در این مدت اتفاقات زیادی روی می‌دهد: قلب می‌تپد، تنفس و متابولیسم بالا و پایین می‌شود، سطح هورمون‌ها تنظیم می‌شود و بدن استراحت می‌کند، اما مغز نه خیلی.

پروفسور «ماکسیم باژینوف» استاد پزشکی و محقق خواب در دانشگاه کالیفرنیا می‌گوید: مغز در زمانی که می‌خوابیم بسیار مشغول است و آنچه را در طول روز یاد گرفته‌ایم تکرار می‌کند. خواب به سازماندهی مجدد خاطرات کمک می‌کند و آنها را به موثرترین شکل ارایه می‌دهد. باژینوف و همکاران او در کارهای منتشر شده قبلی گزارش داده‌اند که خواب چگونه خاطره و حافظه منطقی را می‌سازد و با فراموشی خاطرات قدیمی مبارزه می‌کند.

شبکه‌های عصبی مصنوعی از ساختار مغز انسان برای بهبود سامانه‌ها و فناوری‌های مختلفی استفاده می‌کنند. آنها به برخی اشکال به عملکردهای ابرانسانی مانند سرعت محاسباتی دست یافته‌اند، اما از یک جنبه خاص شکست می‌خورند: وقتی که شبکه‌های عصبی مصنوعی بطور زنجیره‌ای یاد می‌گیرند، اطلاعات جدید، اطلاعات قبلی را بازنویسی می کند که به این پدیده «فراموشی فاجعه‌ای» (catastrophic forgetting) گفته می‌شود.

باژینوف گفت: این در حالی است که مغز انسان بطور مداوم یاد می‌گیرد و داده‌های جدید را وارد دانش موجود می‌کند و یادگیری مغز نوعا" زمانی بهترین حالت است که آموزش بطور متناوب با دوره‌هایی از خواب برای تثبیت حافظه همراه باشد. باژینوف و همکاران او در مقاله جدید خود در این خصوص بحث می‌کنند که چگونه مدل‌های بیولوژیک ممکن است به کاهش تهدید فراموشی فاجعه‌ای در شبکه‌های عصبی مصنوعی یاری برسانند.

این دانشمندان از شبکه‌های عصبی اسپایکی استفاده کردند که بطور مصنوعی از سامانه‌های عصبی طبیعی تقلید می‌کنند: بجای اینکه اطلاعات بطور مداوم منتقل شود به عنوان رویدادهای مجرد و جدا در مقاطع زمانی خاصی منتقل می‌شود.

شبکه‌های عصبی اسپایکی، شبکه‌های عصبی مصنوعی هستند که به‌طور دقیق تری از شبکه‌های عصبی زیستی الهام می‌گیرند. در شبکه‌های عصبی اسپایکی علاوه بر متغیرهای حالت نورونی و سیناپسی، مفهوم زمان نیز در مدل در نظر گرفته می‌شود.

آنها دریافتند زمانی که شبکه‌های اسپایکی درباره یک وظیفه جدید آموزش می‌بینند، اما در میان آن دوره‌هایی از «آف لاین» مشابه دوره خواب (در انسان) ایجاد می‌شود، میزان فراموشی فاجعه‌بار کاهش می‌یابد. این محققان می‌گویند که «خواب» برای این شبکه‌های مصنوعی هم مانند خواب برای مغز انسان به آن شبکه‌های مصنوعی اجازه می‌دهد تا خاطرات را بدون استفاده از داده‌های آموزشی قدیمی، فعال سازی کنند.