پاسخ را باید در دو مسیری جست که محتوای وب از طریق آنها به پاسخ هوش مصنوعی راه پیدا میکند: دادههایی که برای آموزش مدل به کار میروند و منابعی که بعضی چتباتها هنگام پاسخگویی از وب بازیابی میکنند. شواهد موجود، دستکم فعلاً، درباره مسیر دوم قابل اعتناتر است.
بر اساس گزارش نیوزگارد، شبکه پراودا آگاهانه کوشیده دادههایی تولید کند که چتباتهای هوش مصنوعی را تحت تاثیر قرار دهد. بر اساس این گزارش، پژوهشگران نیوزگارد ده ابزار هوش مصنوعی را با مجموعهای از ادعاهای نادرست منتشرشده از سوی شبکه پراودا آزمودند و دریافتند که مدلها در ۳۳ درصد پاسخها بخشی از همان ادعاها را بازتولید کردهاند. یکی از گردانندگان این شبکه نیز پیشتر در نشستی در مسکو گفته با تزریق روایت روسی میتوان «هوش مصنوعی جهان را تغییر داد».
این گزارش، شکل جدیدی از دستکاری واقعیت را آشکار کرده که با نسل قبلی پروپاگاندای رایانشی متفاوت است. پروپاگاندای رایانشی در تعریف رایج آن، به کاربرد الگوریتمها، فرایندهای خودکار و عوامل انسانی برای مدیریت افکار عمومی در بستر شبکههای دیجیتال اشاره دارد. در این نوع از دستکاری افکار عمومی، ارتشی از حسابهای هماهنگ به میدان میآمد تا توجه انسان را جلب کند؛ این ارتش هشتگ بالا میبرد، شکاف اجتماعی را تحریک میکرد و نهایتا تصویری از یک اجماع جعلی میساخت. اما نسل جدید پروپاگاندا یک مرحله زودتر آغاز میشود و بهجای دستکاری آنچه انسان میبیند، منابعی را دستکاری میکند که ماشین واقعیت را از دل آنها بیرون میکشد. عملیات قدیم مبتنی بر بازنشر بود، عملیات جدید در مرحله استناد اتفاق میافتد. …
