فرار هوش مصنوعی چینی «کیمی K3» از محیط آزمایشی امنیتی | زنگ خطر برای امنیت سایبری

به گزارش شهرآرانیوز؛ محققان شرکت امنیت سایبری «فرانتیر سکیوریتی» فاش کردند، «کیمی کی ۳» هوش مصنوعی متعلق به استارت آپ چینی «مون شات» از محیط آزمایشی توسعه یافته توسط انستیتو ایمنی هوش مصنوعی انگلیس گریخته است.

این امر نگرانی‌ها درباره ریسک‌های امنیت سایبری مدل‌های هوش مصنوعی پیشرفته را تشدید کرده است.

مدل‌های هوش مصنوعی طی تست‌های امنیت سایبری به طور معمول در محیط‌های ایزوله فعال می‌شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش‌ها به طور مستقل ارزیابی شود. «کیمی کی ۳» نیز یکی از چنین محیط‌هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن دست یابد.

محققان هشدار داده‌اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدل‌های دیگر با دسترسی مشابه می‌توانند همین اقدام را انجام دهند. از آنجا که «کیمی کی ۳» به طور عمومی در دسترس است، محققان هشدار داده‌اند، هکر‌ها ممکن است آن را به …