پژوهش تازه درباره حملات سایبری به مدل‌های هوش مصنوعی

شکل‌گیری حملات خصمانه به شبکه‌های عصبی

کد خبر: ۸۳۵۶۶۴

تاریخ: ۱۶ خرداد ۱۴۰۵ - ۱۵:۰۱

به گزارش ایران اکونومیست؛ پژوهشگران در مطالعه‌ای جدید نقش ویژگی‌های ذاتی ابرنقاط سه‌بعدی را در شکل‌گیری حملات خصمانه به شبکه‌های عصبی بررسی کردند.

مقاله پژوهشی حانیه نادری، عضو هیئت علمی دانشکده فناوری‌های میان‌رشته‌ای دانشگاه تهران، با همکاری "Chinthaka Dinesh" از دانشگاه نورث‌ایسترن کانادا، "Ivan V. Bajić" از دانشگاه سایمون فریزر کانادا و شهره کسایی از دانشگاه صنعتی شریف در مجله معتبر بین‌المللی PLOS ONE منتشر شد.

این پژوهش با ارائه رویکردی نوین، افق‌های تازه‌ای برای توسعه سامانه‌های هوش مصنوعی ایمن‌تر، سریع‌تر و قابل‌اعتمادتر گشوده است.

این مقاله با عنوان Toward Leveraging Intrinsic Point Cloud Features in 3D Adversarial Attacks به بررسی نقش ویژگی‌های ذاتی داده‌های سه‌بعدی در عملکرد و امنیت سامانه‌های مبتنی بر هوش مصنوعی می‌پردازد. پژوهشگران در این مطالعه تلاش کرده‌اند با تمرکز بر ویژگی‌های درونی داده‌ها، رویکردی متفاوت از روش‌های متداول ارائه کنند و نشان دهند که بخشی از آسیب‌پذیری یا رفتار سامانه‌های هوشمند، ریشه در ساختار داده‌ها دارد و نه صرفاً در معماری مدل‌های یادگیری عمیق.

در این پژوهش، مجموعه‌ای از ویژگی‌های هندسی داده‌های سه‌بعدی مورد تحلیل قرار گرفته و نتایج نشان داده است که برخی از این ویژگی‌ها می‌توانند در پیش‌بینی رفتار سامانه‌های هوشمند و شناسایی نقاط حساس نقش مؤثری ایفا کنند. بر پایه این یافته‌ها، پژوهشگران روشی نوین و کم‌هزینه از نظر محاسباتی ارائه کرده‌اند که قابلیت استفاده در طیف گسترده‌ای از مدل‌های هوش مصنوعی را دارد.

نتایج این تحقیق نشان می‌دهد که شناخت بهتر ویژگی‌های بنیادی داده‌ها می‌تواند به طراحی سامانه‌های هوش مصنوعی ایمن‌تر، دقیق‌تر و قابل‌توضیح‌تر منجر شود. این دستاورد همچنین می‌تواند در توسعه فناوری‌های نوینی همچون خودروهای خودران، ربات‌های هوشمند، سامانه‌های بینایی ماشین و تحلیل داده‌های سه‌بعدی کاربرد داشته باشد.