پژوهشگر ایرانی نوعی مقاوم‌سازی مدل‌های هوش مصنوعی در برابر حملات خصمانه را ارائه کرد

نورنیوز- گروه اجتماعی : محمد خالوئی، دانش‌آموخته دانشگاه صنعتی امیرکبیر این دانشگاه با راهنمایی محمدمهدی همایون‌پور و مریم امیرمزلقانی، اعضای هیأت علمی دانشگاه، طرح «مقاوم‌سازی شبکه‌های کانولوشنی عمیق نسبت به حملات خصمانه جعبه‌سفید مبتنی بر تابع هزینه» را اجرا کرده است.

وی درباره علت انتخاب این موضوع پژوهشی گفت: دستیابی مدل‌های هوش مصنوعی به دقت بالا، به‌تنهایی تضمین‌کننده عملکرد ایمن و قابل اعتماد آن‌ها نیست. با گسترش کاربرد این مدل‌ها در حوزه‌های حساس، از احراز هویت و پردازش داده‌های شخصی گرفته تا صنایع و زیرساخت‌های حیاتی، اطمینان از صحت، پایداری و مقاومت پاسخ‌های آن‌ها در برابر دستکاری‌های هدفمند، اهمیت فزاینده‌ای یافته است. …