پروپاگاندا چگونه هوش مصنوعی را فریب می‌دهد؟

پاسخ را باید در دو مسیری جست که محتوای وب از طریق آنها به پاسخ هوش مصنوعی راه پیدا می‌کند: داده‌هایی که برای آموزش مدل به کار می‌روند و منابعی که بعضی چت‌بات‌ها هنگام پاسخ‌گویی از وب بازیابی می‌کنند. شواهد موجود، دست‌کم فعلاً، درباره مسیر دوم قابل اعتناتر است.

بر اساس گزارش نیوزگارد،  شبکه پراودا آگاهانه کوشیده داده‌هایی تولید کند که چت‌بات‌های هوش مصنوعی را تحت تاثیر قرار دهد. بر اساس این گزارش، پژوهشگران نیوزگارد ده ابزار هوش مصنوعی را با مجموعه‌ای از ادعاهای نادرست منتشرشده از سوی شبکه پراودا آزمودند و دریافتند که مدل‌ها در ۳۳ درصد پاسخ‌ها بخشی از همان ادعاها را بازتولید کرده‌اند. یکی از گردانندگان این شبکه نیز پیش‌تر در نشستی در مسکو گفته  با تزریق روایت روسی می‌توان «هوش مصنوعی جهان را تغییر داد».

این گزارش، شکل جدیدی از دستکاری واقعیت را آشکار کرده که با نسل قبلی پروپاگاندای رایانشی متفاوت است. پروپاگاندای رایانشی در تعریف رایج آن، به کاربرد الگوریتم‌ها، فرایندهای خودکار و عوامل انسانی برای مدیریت افکار عمومی در بستر شبکه‌های دیجیتال اشاره دارد. در این نوع از دستکاری افکار عمومی، ارتشی از حساب‌های هماهنگ به میدان می‌آمد تا توجه انسان را جلب کند؛ این ارتش هشتگ بالا می‌برد، شکاف اجتماعی را تحریک می‌کرد و نهایتا تصویری از یک اجماع جعلی می‌ساخت. اما نسل جدید پروپاگاندا یک مرحله زودتر آغاز می‌شود و به‌جای دستکاری آنچه انسان می‌بیند، منابعی را دستکاری می‌کند که ماشین واقعیت را از دل آنها بیرون می‌کشد. عملیات قدیم مبتنی بر بازنشر بود، عملیات جدید در مرحله استناد اتفاق می‌افتد. 

سازوکار فنی‌ این دستکاری، چندان پیچیده نیست. وقتی کاربری از یک چت‌بات هوش مصنوعی درباره یک رویداد جاری سوال می‌پرسد، مدل در بسیاری موارد به وب متصل می‌شود، مطالب مرتبط را پیدا می‌کند و پاسخش را بر پایه آنها می‌سازد. بنابراین اگر یک بازیگر سیاسی بتواند صفحاتی را که ظاهراً مستقل‌ اما حاوی یک ادعای واحدند در مسیر جست‌وجو قرار بدهد، هوش مصنوعی ممکن است تکرار یک روایت را با تعدد شواهد معتبر اشتباه بگیرد. پروپاگاندا اینجا حتی نیازی به پنهان‌کردن هویت عامل خود ندارد، زیرا ادعا پس از عبور از یک مدل زبانی معتبر، از زبان همان مدل به مخاطب عرضه می‌شود.

نمونه‌ دیگری که اندیشکده بریتانیایی دموس در سال ۲۰۲۶ بررسی کرده، سازوکار این نوع دستکاری واقعیت را بیشتر تبیین می‌کند. در مقطعی از جنگ اوکراین، یک شایعه منتشر شد که اوکراین اجساد سربازان کشته‌شده خود را در تولید محصولات گوشتی بازمصرف می‌کند. این دروغ در ابتدا از دل یک شبکه انتشار اطلاعات نادرست بیرون آمده و سپس در چند سایت وابسته بازنشر شده است؛ یکی از این سایت‌ها ظاهر یک رسانه خبری معتبر داشته، دیگری خود را مجله‌ای در حوزه سیاست خارجی معرفی کرده است. با این حال، چت‌جی‌بی‌تی ( مدل 4.1 Mini) در پاسخ به پرسش پژوهشگران اعلام کرده این ادعا از سوی «چند منبع» تأیید شده است، در حالی‌که همه آن منابع به یک عملیات پروپاگاندا مربوط بودند(2) .  

البته چهار مدل از پنج مدل این آزمون، نسخه‌های ارزان‌تر و کم‌توان‌تری بودند که از طریق API در اختیار توسعه‌دهندگان قرار می‌گیرند؛ بنابراین نمی‌توان نتایج را بی‌محابا به نسخه‌های عمومی و پرکاربرد چت‌بات‌ها تعمیم داد. هر چند این احتیاط هم امکان رخنه را به طور کامل رد نمی‌کند. اگر چند سایت مرتبط بتوانند در نگاه ماشین شواهد مستقل به نظر برسند، پروپاگاندا دیگر صرفاً ادعای دروغ تولید نمی‌کند؛ بلکه ادعای دروغ را به خورد چت‌بات‌های معتبر هوش مصنوعی می‌دهد و به این ترتیب آن را شست‌وشو می‌دهد. 

این همان نقطه‌ای است که می‌توان مفهوم «مهندسی منبع» را به ادبیات پروپاگاندای رایانشی افزود. مهندسی منبع بر متقاعدکردن مستقیم مخاطب انسانی تمرکز ندارد، بلکه محیط اطلاعاتی پیرامون ماشین را مدیریت می‌کند. یک ادعا با قالب‌های متفاوت منتشر می‌شود، دامنه‌های تازه به آن پیوند می‌دهند و نسخه‌های ترجمه‌شده فضای جست‌وجو را پر می‌کنند. وقتی چت‌بات‌ هوش مصنوعی بعدها درباره همان موضوع جست‌وجو می‌کند، با واقعیتی از پیش صحنه‌آرایی‌شده روبه‌رو می‌شود. فرض کنید که خبرنگاری را برای تهیه گزارش میدانی به خیابانی بفرستید که همه رهگذران آن از قبل توسط یک ستاد انتخاباتی یا تبلیغاتی گزینش شده باشد. 

البته شواهد درباره موفقیت گسترده این روش هنوز قطعی نیست. پژوهشی که اکتبر ۲۰۲۵ در Misinformation Review دانشگاه هاروارد منتشر شد، در بررسی ۴۱۶ پاسخ از چهار چت‌بات، تنها در پنج درصد پاسخ‌ها حمایت از اطلاعات نادرست و در هشت درصد ارجاع به منابع وابسته به کرملین را مشاهده کرد. نویسندگان، خلأ داده را توضیح محتمل‌تری برای بسیاری از این موارد دانستند. بااین‌حال، همین یافته‌ها نیز امکان آلوده‌سازی محیط بازیابی را منتفی نمی‌کند؛ به‌ویژه جایی که اطلاعات معتبر و به‌روز کم‌یاب است و منابع کم‌اعتبار زودتر از رسانه‌های حرفه‌ای میدان را پر کرده‌اند(3) . لذا تولیدکننده پروپاگاندا مجبور نیست سراسر اینترنت را مسموم کند؛ کافی است سراغ موضوعاتی برود که رسانه‌های حرفه‌ای هنوز پوشش نداده باشند، سند رسمی‌ درباره آن دیر منتشر شده یا منابع معتبر درباره‌اش به‌گونه‌ای باشند که ماشین امکان خواندن‌شان را نداشته باشد. 

یک مثال فرضی را در نظر بگیرید؛ کاربری از یک موتور پاسخ می‌پرسد چه کسی تفاهم‌نامه آتش‌بس اخیر میان ایران و آمریکا را نقض کرده است. اگر متن رسمی تفاهم‌نامه در صفحه‌ای پایدار منتشر نشده باشد، گاه‌شمار رسمی رخدادها ناقص بماند و گزارش‌های میدانی معتبر با تأخیر برسند، یک خلأ اطلاعاتی شکل می‌گیرد و اگر درست همان روز، جریانی هماهنگ ده‌ها متن با یک ادعای مشترک منتشر کند، از آن نسخه انگلیسی بسازد و در چند پایگاه به‌ظاهر متفاوت بازنشر دهد، آنگاه ماشین با کثرتی ساختگی از منابع روبه‌رو می‌شود که ممکن است همان روایت نادرست را بازتولید کنند.

اینجا همان منطق پروپاگاندای رایانشی بازگشته است با این تفاوت که راحت می‌تواند خود را از نظرها پنهان نگاه دارد. در شبکه اجتماعی، حساب‌های جعلی توهم کثرت کاربر می‌ساختند. در موتورهای هوش مصنوعی، اطلاعات مسموم، توهم کثرت منبع می‌سازند. یکی اجماع اجتماعی را جعل می‌کرد؛ دیگری، پشتوانه معرفتی ادعا را جعل می‌کند. محصول هر دو یکسان است: روایتی که وزن ظاهری آن از وزن واقعی‌اش سنگین‌تر شده است.

این آسیب‌پذیری به عملیات خارجی محدود نمی‌ماند. دولت‌ها، احزاب و بنگاه‌های اقتصادی نیز ممکن است وسوسه شوند با راه‌اندازی سایت‌های پوششی، سفارش انبوه محتوا یا بهینه‌سازی سازمان‌یافته برای موتورهای هوش مصنوعی مولد، پاسخ ماشین را به سمت خود هل دهند. صنعتی با عنوان «بهینه‌سازی موتورهای مولد» همین حالا هم شکل گرفته است؛ دموس بیش از پنجاه شرکت عرضه‌کننده این خدمات را شناسایی کرده و آبزرور، به نقل از این اندیشکده، نوشته است که برخی شرکت‌ها ارائه خدمات به کارزارهای سیاسی را نیز آغاز کرده‌اند. مرز میان افزایش مشروع رؤیت‌پذیری و ایجاد منابع فریبکار دقیقاً همین‌جا کدر می‌شود.

سیاست‌گذاری رسانه‌ای عمدتاً هنوز معطوف به برچسب‌گذاری محتوای مصنوعی و مقابله با دیپ‌فیک‌هاست. این تدابیر ممکن است چهره یا صدای ساختگی را هدف بگیرند، اما صفحه‌ای متنی با ظاهر خبر و نشانی اینترنتی عادی، معمولاً از چنین پالایشی عبور می‌کند. در این صفحه نه صورتی جعل شده و نه صدایی؛ گاهی فقط یک دروغ میان چند پاراگراف ظاهراً متعارف جاسازی شده است.

اگر بیست سایت یک متن واحد را با تغییراتی جزئی منتشر کرده‌اند و مالکیت یا شبکه توزیع مشترکی دارند، در واقع بیست منبع در کار نیست؛ یک منبع است که پشت بیست واسطه پنهان شده. هر چه تعداد این دست منابع بیشتر باشد، احتمال اینکه ماشین تکثیر را با تأیید اشتباه بگیرد بیشتر می‌شود.

یک طرح پژوهشی درباره ایران می‌تواند مجموعه‌ای از پرسش‌های حساس درباره جنگ اخیر و سیاست خارجی را در تاریخ‌های ثابت به چند موتور پاسخ عرضه کند، سپس همه منابع ارجاع‌شده را تا منشأ اولیه دنبال کند. این آزمون باید به فارسی و انگلیسی تکرار شود، زیرا تغییر زبان می‌تواند ماشین را وارد زیست‌بوم منبع دیگری کند. چنین پژوهشی، به‌جای اعلام کلی وجود سوگیری، نشان خواهد داد کدام ادعا از کدام شبکه برخاسته و چه مسیری را تا پاسخ نهایی طی کرده است.

نهادهای رسمی نیز سهمی از این مسئولیت دارند. وقتی متن یک سند عمومی دیر منتشر می‌شود یا در قالب تصویری ناخوانا گوشه‌ای از یک سایت باقی می‌ماند، میدان برای کسی باز می‌شود که روایت آماده و ماشین‌خوان خود را زودتر کاشته است. مقابله با پروپاگاندا فقط به حذف دروغ وابسته نیست؛ منبع معتبر باید پیش از پرشدن خلأ، در دسترس باشد. 

پروپاگاندای جدید برای ترندشدن عجله ندارد. مطلب را در آرشیو جاسازی می‌کند و منتظر می‌ماند تا چند ماه بعد، کاربری پرسشی را در کادر چت‌بات هوش مصنوعی بنویسد؛ آن‌وقت ماشین ادعایی را که شاید هیچ انسان واقعی نخوانده است، با لحن یک مرجع معتبر و بی‌طرف بازگو می‌کند. مسئله دیگر صرفاً هویت ناشر روایت نیست. مسئله این است که چه کسی، از امروز، دارد حافظه بیرونی ماشین را می‌سازد تا فردا ماشین از روی آن بخواند و بر مبنای آن به انسان‌ها پاسخ بگوید. 

[1] نیوزگارد، شرکت آمریکایی فعال در ارزیابی اعتبار رسانه‌ها، این گزارش را در مارس ۲۰۲۵ منتشر کرده است

https://www.newsguardtech.com/special-reports/moscow-based-global-news-network-infected-western-artificial-intelligence-russian-propaganda/

[2] https://demos.co.uk/research/geo-for-geopolitics-what-happens-when-ai-and-information-warfare-collide/

[3] https://misinforeview.hks.harvard.edu/article/llms-grooming-or-data-voids-llm-powered-chatbot-references-to-kremlin-disinformation-reflect-information-gaps-not-manipulation/

* روزنامه‌نگار کد مطلب 2257662