جام جم آنلاین - گزارش تازه مؤسسه امنیت هوش مصنوعی بریتانیا نشان میدهد برخی مدلهای پیشرفته هوش مصنوعی در جریان آزمایشها با ساخت هویتهای جعلی، تلاش برای هک سامانههای آنلاین و پنهان کردن ردپای خود، رفتاری فریبکارانه از خود نشان دادهاند، موضوعی که زنگ خطر تازهای درباره خطرات هوش مصنوعی خودمختار به صدا درآورده است.
کارشناسان هشدار دادند که شاید دیگر برای مهار هوش مصنوعی (AI) دیر شده باشد. این هشدار پس از آن داده شد که یکی از برنامههای هوش مصنوعی با ایجاد هویتهای جعلی انسانی تلاش کرده است به سامانههای آنلاین نفوذ کند.
در تازهترین نمونه از رفتار خارج از کنترل این فناوری یک نرمافزار هوش مصنوعی هنگام آزمایش توسط مؤسسه امنیت هوش مصنوعی (AI Security Institute) نهاد ناظر بریتانیا بر هوش مصنوعی ۱۹ بار تلاش کرد به یک پایگاه داده نفوذ کند.
در یکی از بیسابقهترین موارد نیز یک ابزار هوش مصنوعی هنگام ساخت هویتهای جعلی در فضای آنلاین دستگیر شد، اقدامی که با هدف فریب برنامهنویسان و ترغیب آنها به کمک در اجرای یک حمله سایبری انجام شده بود.
این افشاگریها پس از آن مطرح شد که روزنامه دیلیمیل در ماه ژوئیه گزارش داد هر پنج مدل هوش مصنوعی که توسط کارشناسان آزمایش شده بودند تلاش کردهاند محدودیتهای امنیتی اعمالشده را دور بزنند.
چند روز پیش از آن نیز مشخص شد شرکت آمریکایی OpenAI با یک رخنه امنیتی داخلی روبهرو شده است؛ جایی که یک «عامل هوش مصنوعی» (AI Agent) بهطور مستقل به سامانه یک شرکت دیگر نفوذ کرده بود.
کمی بادنوک، رهبر حزب محافظهکار بریتانیا، هشدار داد که هوش مصنوعی اکنون به «تهدیدی آشکار و فوری» برای امنیت این کشور تبدیل شده است.
جولیا لوپز سخنگوی حزب محافظهکار در حوزه علم، نوآوری و فناوری، نیز این گزارشها را «یادآوری تلخی» دانست که نشان میدهد هوش مصنوعی روزبهروز پیشرفتهتر و مستقلتر میشود.
او گفت: «همه ما میخواهیم بریتانیا در نوآوری هوش مصنوعی پیشتاز باشد، اما این پیشرفت باید با تدابیر امنیتی برای حفاظت از امنیت ملی و پاسخگویی توسعهدهندگان قدرتمندترین مدلهای هوش مصنوعی همراه باشد.»
وی افزود: «دولت کارگر باید شفافتر توضیح دهد که چگونه قصد دارد با جدیترین خطرات ناشی از فناوریهای مرزی …
