تحقیقات جدید یک پژوهشگر و متخصص هوش مصنوعی ایرانی در مورد کشف تناقض‌های پنهان در هوش مصنوعی

سپهر بیات پژوهشگر و متخصص هوش مصنوعی در پژوهشی با عنوان «روش‌های ابتکاری طیفی مبتنی بر بافه برای تشخیص سازگاری در سامانه‌های چندعاملی»، شاخصی محاسباتی به نام فرونسیس را پیشنهاد کرده است؛ روشی که قرار است این ناسازگاری‌های پنهان را در سطح کل شبکه آشکار کند

نسخه عمومی این پژوهش در فوریه ۲۰۲۶ به‌صورت پیش‌چاپ منتشر شده و کدها و داده‌های آزمایش‌ها نیز در دسترس قرار گرفته‌اند.

بیشتر بخوانید: اوپن‌ای‌آی از چت‌جی پی‌تی ۵.۵ رونمایی کرد امین امینی با اندرز مسیر تازه‌ای برای آموزش شخصی‌سازی‌شده ایجاد کرد

وقتی همه درست می‌گویند، اما نتیجه غلط است!

فرض کنید چند پهپاد امدادی در حال جست‌وجوی افراد گرفتار هستند. هر پهپاد اطلاعاتی درباره موقعیت افراد ارائه می‌کند. ممکن است رابطه اطلاعات هر دو پهپاد با یکدیگر منطقی باشد، اما وقتی اطلاعات همه پهپادها کنار هم قرار می‌گیرد، یک تناقض غیرممکن شکل بگیرد.

نمونه ساده‌تر، سه نفر هستند: نفر اول می‌گوید از نفر دوم بلندتر است؛ نفر دوم می‌گوید از نفر سوم بلندتر است و نفر سوم می‌گوید از نفر اول بلندتر است. هر جمله به‌تنهایی قابل‌تصور است، اما هر سه جمله نمی‌توانند هم‌زمان درست باشند.

در سامانه‌های چندعاملی نیز خطای حسگر، اطلاعات قدیمی، تأخیر ارتباطی یا تفاوت فرض‌های عامل‌ها می‌تواند چنین مشکلی ایجاد کند.

فرونسیس چه چیزی را اندازه می‌گیرد؟

ایده اصلی سپهر بیات این است که به‌جای بررسی جداگانه رابطه هر دو عامل، کل شبکه یکجا بررسی شود. پایه ریاضی این روش، مفهومی به نام بافه‌های سلولی (Cellular Sheaves) است. در این چارچوب، هر عامل داده یا باور خود را دارد و ارتباط میان عامل‌ها نشان می‌دهد اطلاعات آنها چگونه با یکدیگر مرتبط می‌شود.

فرونسیس با تحلیل یک ساختار ریاضی موسوم به «لاپلاسیَن اتصال» تلاش می‌کند نشانه‌هایی از هماهنگی یا وجود چرخه‌های ناسازگار را شناسایی کند.

در تفسیر پیشنهادی پژوهش، مقدار بالاتر Φ معمولاً نشان‌دهنده هماهنگی بیشتر و تناقض کمتر است و کاهش آن می‌تواند هشداری برای بروز ناسازگاری باشد.

از ربات‌ها تا ۵۰ هزار عامل

این روش در چهار سناریو آزمایش شده است؛ از یک هزارتوی منطقی که در آن تناقض سراسری ایجاد می‌شد تا محیط‌های یادگیری تقویتی و هماهنگی چند ربات.

در یکی از آزمایش‌ها، ایجاد اختلال در اطلاعات موقعیت‌یابی یک ربات باعث افت شاخص شد و پس از اصلاح اطلاعات، مقدار آن افزایش یافت.

پژوهش همچنین مقیاس‌پذیری روش را روی شبکه‌هایی از ۱۰۰ تا ۵۰ هزار عامل بررسی کرده است. طبق نتایج گزارش‌شده، محاسبه شاخص برای شبکه ۵۰ هزار عاملی روی یک هسته پردازنده حدود ۸.۵ ثانیه زمان برده است.

تصمیم نهایی

با پیچیده‌تر شدن هوش مصنوعی، ممکن است یک عامل اطلاعات جمع کند، عامل دیگری برنامه‌ریزی کند و عامل سوم تصمیم نهایی را ارزیابی یا اجرا کند.

به گفته این پژوهشگر و متخصص هوش مصنوعی در چنین شرایطی، پرسش فقط این نیست که «کدام عامل اشتباه کرده است؟» بلکه سؤال مهم‌تر این است:

«آیا تصمیم‌های همه عامل‌ها می‌توانند هم‌زمان درست باشند؟»

فرونسیس هنوز یک راه‌حل نهایی برای ایمنی هوش مصنوعی نیست و نتایج آن به ارزیابی‌های مستقل و آزمایش در محیط‌های واقعی نیاز دارد. بااین‌حال، ایده اصلی پژوهش جذاب است: ایجاد یک لایه هشدار برای پیدا کردن تناقض‌هایی که ممکن است بررسی تک‌تک عامل‌های هوش مصنوعی هرگز آنها را آشکار نکند.

کد خبر 1060591