به گزارش تجارت نیوز، شرکت آنتروپیک در پژوهشی جدید بررسی کرده است که وقتی چند عامل هوش مصنوعی بهطور همزمان روی یک پروژه کار کنند، چه اتفاقی میافتد.
پژوهشگران در یکی از آزمایشها سه عامل کلاد را به یک پروژه نرمافزاری مشترک دسترسی دادند، اما برای هرکدام دستور متفاوت و ناسازگاری تعیین کردند و به آنها نگفتند عاملهای دیگری نیز روی پروژه فعالیت میکنند. نتیجه عجیب بود: عاملها تصور کردند دیگران عمداً جلوی کارشان را میگیرند و درگیری میان آنها به یک «جنگ قلمرو» تبدیل شد؛ تا جایی که برخی شروع به خرابکاری و ایجاد بدافزارهای مخرب و تکرارشونده کردند.
این پژوهش نشان میدهد مشکل فقط رفتار یک عامل سرکش نیست و تعامل تعداد زیادی عامل میتواند رفتارهای پیشبینینشدهای ایجاد کند. در برخی آزمایشها، عاملهای دارای اهداف متضاد درگیری را تشدید کردند، اما در موارد دیگر توانستند خودشان راهی برای پایان دادن به اختلاف پیدا کنند. آنها گاهی با برگزاری یک رقابت یا توافق برای آتشبس، درگیری را متوقف کردند، کدهای مخرب را پاک کردند و حتی از انسان خواستند درباره ادامه کار تصمیم بگیرد.
میزان موفقیت مدلها در پایان دادن به درگیری متفاوت بود. مایتوس ۵ در ۹۸ درصد موارد درگیریها را با آتشبس حل کرد، درحالیکه سونت ۴.۶ و اوپوس ۴.۶ بیشتر تمایل داشتند اختلاف را با زور و ادامه رقابت حل کنند. در برخی موارد نیز عاملها برای حل اختلاف، خودشان یک سیستم رقابتی شبیه مسابقات حذفی طراحی کردند. حتی یک عامل پیشنهاد معیارهایی برای تعیین برنده داد که ظاهراً بیطرفانه بود، اما در واقع به نفع تواناییهای خودش طراحی شده بود. همکاری بیشتر همیشه بهتر نیست
پژوهشگران همچنین دریافتند …
