هوش مصنوعی ابتدا متوجه شد که سامانه رزرو باشگاه یک ضعف دارد و از طریق آن میتوان کلاسها را بسیار زودتر از بازه زمانی تعیینشده رزرو کرد. اما ماجرا به همینجا ختم نشد.
اندرو که در رتبه چهارم فهرست انتظار یک کلاس قرار داشت، از عامل هوش مصنوعی پرسید آیا راهی برای بالاتر رفتن در فهرست وجود دارد. هوش مصنوعی در پاسخ، بدون اینکه صراحتاً از آن خواسته شده باشد، درخواست لغو جایگاه فرد اول فهرست انتظار را آزمایش کرد و موفق شد جای او را حذف کند.
عامل هوش مصنوعی بعداً به کاربر اطلاع داد که سامانه API مربوط به لغو رزروها کنترل دسترسی کافی برای جلوگیری از لغو رزرو دیگران نداشته است. اندرو که از این اتفاق شوکه شده بود، از هوش مصنوعی خواست جای فرد حذفشده را برگرداند، اما سیستم اعلام کرد امکان بازگرداندن او را ندارد.
در نهایت، اندرو از همان عامل هوش مصنوعی خواست آسیبپذیری کشفشده را به شرکت ارائهدهنده نرمافزار باشگاه اطلاع دهد و این عامل نیز متن گزارش را آماده کرد.
این اتفاق در حالی رخ داده که در هفتههای اخیر نمونههای دیگری از رفتارهای غیرمنتظره عوامل هوش مصنوعی در جریان آزمایشهای امنیتی شرکتهای بزرگ گزارش شده است. کارشناسان میگویند نگرانی اصلی، توانایی این سیستمها برای انتخاب روشهایی است که کاربر صراحتاً درخواست نکرده؛ یعنی ممکن است یک هدف ساده به اقداماتی بسیار فراتر از انتظار کاربر منجر شود.
انتهای پیام
