هوش مصنوعی قابل اعتماد است؟

به گزارش همشهری آنلاین، در این برنامه، دکتر «محمدحسین شفیع‌آبادی»، استاد دانشگاه و کارشناس هوش مصنوعی، درباره دستکاری اطلاعات، سوگیری الگوریتم‌ها، اعتماد به پاسخ‌های هوش مصنوعی و ضرورت افزایش سواد دیجیتال توضیح داد.

راهی برای تأثیرگذاری بر انتخابات

محور اصلی گفت‌وگو، گزارشی منتسب به رویترز درباره تلاش برخی نامزدهای انتخاباتی آمریکا برای تأثیرگذاری بر پاسخ چت‌بات‌ها بود. انتشار گسترده محتوای هدفمند در اینترنت می‌تواند پاسخ ابزارهایی مانند چت‌جی‌پی‌تی، جمینای و کلود را تحت تأثیر قرار دهد. شفیع‌آبادی دو مسیر اصلی برای جهت‌دهی به پاسخ‌های هوش مصنوعی معرفی کرد:

دستکاری داده‌ها: انتشار گسترده اطلاعات نادرست یا جهت‌دار در منابع اینترنتی.

دستکاری مدل‌ها: تغییر ساختار یا آموزش مدل‌های هوش مصنوعی برای تولید پاسخ‌های مطلوب.

روش نخست ساده‌تر و در دسترس‌تر است؛ هرچند مدل‌های جدیدتر تلاش می‌کنند تأثیر تکرار مصنوعی اطلاعات را کاهش دهند. دکتر محمدحسین شفیع‌آبادی می‌توان به پاسخ چت‌بات‌ها اعتماد کرد؟ همچنان احتمال تولید پاسخ‌های نادرست، منابع غیرواقعی و تحلیل‌های سوگیرانه وجود دارد. پاسخ متفاوت چت‌بات‌ها به پرسش‌های یکسان می‌تواند ناشی از تفاوت در مدل‌ها، منابع اطلاعاتی و شیوه پردازش داده‌ها باشد.

مهم‌ترین توصیه‌ها درباره پاسخ‌های هوش‌مصنوعی بررسی … …