ارائه روشی برای مقاوم‌سازی مدل‌های هوش مصنوعی در برابر حملات خصمانه

به گزارش خبرگزاری مهر به نقل از دانشگاه صنعتی امیرکبیر، محمد خالوئی، دانش‌آموخته این دانشگاه، با راهنمایی محمدمهدی همایون‌پور و مریم امیرمزلقانی، اعضای هیئت علمی دانشگاه، طرح «مقاوم‌سازی شبکه‌های کانولوشنی عمیق نسبت به حملات خصمانه جعبه‌سفید مبتنی بر تابع هزینه» را اجرا کرده است.

وی درباره علت انتخاب این موضوع پژوهشی گفت: دستیابی مدل‌های هوش مصنوعی به دقت بالا، به‌تنهایی تضمین‌کننده عملکرد ایمن و قابل اعتماد آن‌ها نیست. با گسترش کاربرد این مدل‌ها در حوزه‌های حساس، از احراز هویت و پردازش داده‌های شخصی گرفته تا صنایع و زیرساخت‌های حیاتی، اطمینان از صحت، پایداری و مقاومت پاسخ‌های آن‌ها در برابر دستکاری‌های هدفمند، اهمیت فزاینده‌ای یافته است. …