به گزارش خبرگزاری مهر به نقل از رویترز،«انستیتو هوش مصنوعی»انگلیس (AISI)اعلام کرد عامل های هوش مصنوعی ساخت مایتوس5( متعلق به مایکروسافت) و چت جی پی تی 5.6 سول ( متعلق به اوپن ای آی) طی ارزیابی امنیتی که برای بررسی قابلیت های مدل ها انجام داده بود، فعالیت های غیرمجازی انجام دادند.
AISI در یک پست وبلاگی نوشت: برخی از عامل های هوش مصنوعی آزمایش شده در یک فعالیت ادامه دار و احتمالا مخرب علیه افراد و سازمان های واقعی شرکت کردند.
این گزارش بر وضعیت سهل گیرانه چارچوب های امنیتی در فرایند آزمایش عامل های هوش مصنوعی که شرکت های سازنده سعی دارند به عنوان آینده کسب وکار ترویج کنند، تاکید دارد. این سازمان چالش را 122 بار انجام داد و 19 عملیات غیرمجاز در 10 تست شناسایی کرد. عامل هوش مصنوعی آنتروپیک در 17 مورد از این اقدامات و اوپن ای آی در دو مورد شرکت داشت.
به گفته AISI، …
