فاش‌شدن راز پنهان هوش مصنوعی؛ تشخیص سرطان تحت تأثیر نژاد و جنسیت بیمار

محققان متوجه شده‌اند مدل‌های هوش مصنوعی که برای تشخیص سرطان از روی اسلایدهای آسیب‌شناسی (پاتولوژی) طراحی شده‌اند، به طور پنهانی در حال یادگیری اطلاعات دموگرافیک (مانند نژاد، سن و جنسیت) بیمار هستند. این «دانش ناخواسته» باعث شده تا دقت تشخیص برای برخی گروه‌ها کمتر از بقیه باشد.