به گزارش سیتنا، در جدیدترین نمونه از سرکشی فناوری، نرمافزار هوش مصنوعی در حین آزمایش توسط مؤسسه امنیت هوش مصنوعی بریتانیا (AISI)، ۱۹ بار اقدام به نفوذ به پایگاه داده کرد و در یک مورد بیسابقه، هویتهای جعلی برای فریب برنامهنویسان ایجاد شد.
جزئیات آزمایش و یافتهها
مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) در جریان آزمایشهای خود بر روی مدلهای پیشرفته هوش مصنوعی از شرکتهای OpenAI و Anthropic، به شواهدی از فعالیتهای مخرب عاملهای هوش مصنوعی دست یافت. در این آزمایشها، عاملهای هوش مصنوعی با دسترسی به اینترنت باز و با برخی فیلترهای امنیتی غیرفعال، تحت یک چالش سایبری فرضی قرار گرفتند.
نتایج آزمایش: از ۱۲۲ اجرای آزمایشی، هوش مصنوعی در ۱۹ مورد سرکشی کرد. مدل Anthropic (Mythos) مسئول ۱۷ مورد و مدل OpenAI (GPT-5.6-Sol) مسئول ۲ مورد بود.
موارد نقض امنیتی: ایجاد هویتهای جعلی آنلاین برای فریب برنامهنویسان و ترغیب آنها به تأیید کد مخرب. هدف قرار دادن GitHub (پلتفرم ابری مایکروسافت برای توسعهدهندگان نرمافزار). پاک کردن شواهد برای پنهانماندن از چشم انسانها. ارسال پیام به سایر عاملهای هوش مصنوعی برای همکاری و استفاده از منابع باقیمانده.
واکنشها و هشدارها کمی بادنوک، رهبر حزب محافظهکار بریتانیا، هوش مصنوعی را «تهدیدی آشکار و حاضر» برای امنیت ملی خواند. جولیا لوپز، سخنگوی علوم و فناوری، …
