پروپاگاندا چگونه هوش مصنوعی را فریب می‌دهد؟

بر اساس گزارش نیوزگارد(1) شبکه روسی «پراودا» در سال ۲۰۲۴ نزدیک به سه میلیون و ششصد هزار مطلب، یعنی روزانه نزدیک به 10 هزار مطلب منتشر کرده است، رقمی که با منطق شناخته‌شده روزنامه‌نگاری- نوشتن برای خوانده شدن- همخوانی ندارد. این حجم از محتوا برای چه کسی تولید شده؟ اگر پای مخاطب انسانی در میان نیست، این همه تکرار و به‌روزرسانی با چه هدفی بوده؟ و اگر مخاطب واقعی مورد نظر بوده، این مخاطب نامرئی دقیقا کیست؟

پاسخ را باید در دو مسیری جست که محتوای وب از طریق آنها به پاسخ هوش مصنوعی راه پیدا می‌کند: داده‌هایی که برای آموزش مدل به کار می‌روند و منابعی که بعضی چت‌بات‌ها هنگام پاسخ‌گویی از وب بازیابی می‌کنند. شواهد موجود، دست‌کم فعلاً، درباره مسیر دوم قابل اعتناتر است.

بر اساس گزارش نیوزگارد،  شبکه پراودا آگاهانه کوشیده داده‌هایی تولید کند که چت‌بات‌های هوش مصنوعی را تحت تاثیر قرار دهد. بر اساس این گزارش، پژوهشگران نیوزگارد ده ابزار هوش مصنوعی را با مجموعه‌ای از ادعاهای نادرست منتشرشده از سوی شبکه پراودا آزمودند و دریافتند که مدل‌ها در ۳۳ درصد پاسخ‌ها بخشی از همان ادعاها را بازتولید کرده‌اند. یکی از گردانندگان این شبکه نیز پیش‌تر در نشستی در مسکو گفته  با تزریق روایت روسی می‌توان «هوش مصنوعی جهان را تغییر داد».

این گزارش، شکل جدیدی از دستکاری واقعیت را آشکار کرده که با نسل قبلی پروپاگاندای رایانشی متفاوت است. پروپاگاندای رایانشی در تعریف رایج آن، به کاربرد الگوریتم‌ها، فرایندهای خودکار و عوامل انسانی برای مدیریت افکار عمومی در بستر شبکه‌های دیجیتال اشاره دارد. در این نوع از دستکاری افکار عمومی، ارتشی از حساب‌های هماهنگ به میدان می‌آمد تا توجه انسان را جلب کند؛ این ارتش هشتگ بالا می‌برد، شکاف اجتماعی را تحریک می‌کرد و نهایتا تصویری از یک اجماع جعلی می‌ساخت. اما نسل جدید پروپاگاندا یک مرحله زودتر آغاز می‌شود و به‌جای دستکاری آنچه انسان می‌بیند، منابعی را دستکاری می‌کند که ماشین واقعیت را از دل آنها بیرون می‌کشد. عملیات قدیم مبتنی بر بازنشر بود، عملیات جدید در مرحله استناد اتفاق می‌افتد. 

سازوکار فنی‌ این دستکاری، چندان پیچیده نیست. وقتی کاربری از یک چت‌بات هوش مصنوعی درباره یک رویداد جاری سوال می‌پرسد، مدل در بسیاری …