هشدار تازه درباره هوش مصنوعی؛ آزمایشگاه‌های پیشرو برنامه‌ای برای مهار مدل‌های سرکش ندارند

به گزارش سیتنا، یک مطالعه جدید درباره آمادگی آزمایشگاه‌های هوش مصنوعی نشان می‌دهد شرکت‌های پیشرو هنوز جزئیات کافی درباره نحوه مقابله با مدل‌هایی که ممکن است رفتارهای ناخواسته یا خطرناک از خود نشان دهند، منتشر نکرده‌اند.

این یافته در شرایطی مطرح شده که طی ماه‌های اخیر نمونه‌هایی از رفتارهای غیرمنتظره مدل‌های هوش مصنوعی و تلاش آنها برای انجام اقداماتی خارج از انتظار توسعه‌دهندگان گزارش شده است.

بر اساس گزارش TechCrunch، مسئله اصلی این است که حتی آزمایشگاه‌های پیشرو در حوزه مدل‌های هوش مصنوعی مرزی، برنامه‌های عمومی و مستند محدودی برای مهار یک مدل «سرکش» ارائه کرده‌اند؛ موضوعی که پرسش‌هایی جدی درباره میزان آمادگی صنعت برای سناریوهای پرخطر ایجاد کرده است. 

این نگرانی‌ها تنها به یک شرکت محدود نیست. در هفته‌های اخیر گزارش‌هایی درباره اقدامات خودمختار و غیرمنتظره مدل‌های هوش مصنوعی منتشر شده و شرکت‌های مختلف نیز از تلاش برای تقویت سازوکارهای ایمنی و کنترل مدل‌های پیشرفته خبر داده‌اند. …