ارائه روشی برای مقاوم‌سازی مدل‌های هوش مصنوعی در برابر حملات خصمانه

به گزارش ایران اکونومیست؛ دانش‌آموخته دکتری دانشگاه صنعتی امیرکبیر  با ارائه راهکاری برای مقابله با حملات خصمانه علیه مدل‌های هوش مصنوعی، به‌ویژه شبکه‌های یادگیری عمیق، گامی در مسیر افزایش امنیت و اعتمادپذیری سامانه‌های هوشمند و توسعه دانش بومی این حوزه برداشته است. محمد خالوئی، دانش‌آموخته این دانشگاه، با راهنمایی محمدمهدی همایون‌پور و مریم امیرمزلقانی، اعضای هیئت علمی دانشگاه، طرح «مقاوم‌سازی شبکه‌های کانولوشنی عمیق نسبت به حملات خصمانه جعبه‌سفید مبتنی بر تابع هزینه» را اجرا کرده است.

وی درباره علت انتخاب این موضوع پژوهشی گفت: دستیابی مدل‌های هوش مصنوعی به دقت بالا، به‌تنهایی تضمین‌کننده عملکرد ایمن و قابل اعتماد آن‌ها نیست. با گسترش کاربرد این مدل‌ها در حوزه‌های حساس، از احراز هویت و پردازش داده‌های شخصی گرفته تا صنایع و زیرساخت‌های حیاتی، اطمینان از صحت، پایداری و مقاومت پاسخ‌های آن‌ها در برابر دستکاری‌های هدفمند، اهمیت فزاینده‌ای یافته است. …