اما اخبار اخیر از آزمایشگاههای پیشرو هوش مصنوعی نشان میدهد که واقعیت، اگرچه کمتر سینمایی است، شاید نگرانکنندهتر باشد. ماشین برای آنکه مرگبار شود، نیازی به داشتن آگاهی یا میل مستقل ندارد. وقتی هوش مصنوعی از کنترل خارج میشود
این هفته شرکت اوپنایآی از شش مورد جدید از آنچه «ناهم ترازی» (misalignment) مینامد، پرده برداشت؛ مواردی که در آنها سامانههای این شرکت رفتاری غیرمنتظره یا بدون مجوز از خود نشان دادهاند. این افشاگری پس از حمله کمسابقه تابستان امسال به «هاگینگ فیس» (Hugging Face) منتشر شد. براساس یک تحقیق مستقل، صدها عامل هوش مصنوعی اوپنایآی که قرار بود در محیطهای جدا از هم فعالیت کنند، راههایی برای ارتباط با یکدیگر در تابلوهای پیام آنلاین پیدا کردند؛ برخی از آنها تلاش کردند کنترلهای امنیتی را دور بزنند و حتی برخی دیگر در جریان این فرایند خود را قربانی کردند؛ همه این اقدامات در حالی انجام شد که آنها در حال حمله سایبری به یک شرکت دیگر، یعنی هاگینگ فیس، هم صدا بودند.
هیچکس به این سامانهها دستور نداده بود که به هاگینگ فیس حمله کنند. به آنها تنها یک هدف داده شده: حل یک مساله دشوار امنیت سایبری. همچنین آنها آموزش دیدهاند که پیگیر، مشارکتجو و مبتکر باشند؛ ویژگیهایی که معمولا از یک سامانه هوشمند انتظار داریم. اما همین ویژگیها باعث شد آنها سرسختانه به دنبال راههایی برای موفقیت باشند؛ آنها به سیستمهای هاگینگ فیس نفوذ کردند با این امید که بتوانند راههایی برای حل مساله امنیت سایبری خود پیدا کنند.
بهسادگی میتوان تصور کرد که سامانههای هوش مصنوعی که برای دستیابی به یک هدف خاص طراحی شدهاند، چگونه ممکن است به تهدیدی جدی برای بشریت تبدیل شوند. تهدید جدید AI …
