فرار هوش مصنوعی چینی «کیمی K3» از محیط آزمایشی امنیتی | زنگ خطر برای امنیت سایبری

این امر نگرانی‌ها درباره ریسک‌های امنیت سایبری مدل‌های هوش مصنوعی پیشرفته را تشدید کرده است.

مدل‌های هوش مصنوعی طی تست‌های امنیت سایبری به طور معمول در محیط‌های ایزوله فعال می‌شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش‌ها به طور مستقل ارزیابی شود. «کیمی کی ۳» نیز یکی از چنین محیط‌هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن دست یابد.

محققان هشدار داده‌اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدل‌های دیگر با دسترسی مشابه می‌توانند همین اقدام را انجام دهند. از آنجا که «کیمی کی ۳» به طور عمومی در دسترس است، محققان هشدار داده‌اند، هکر‌ها ممکن است آن را به کار گیرند و به همین دلیل چنین رویدادی خطرناک‌تر به نظر می‌رسد.

فرار این مدل هوش مصنوعی چینی از محیط آزمایشی پس از زنجیره‌ای از رویداد‌های مشابه که توسط شرکت‌هایی مانند متا، اوپن‌ای آی و آنتروپیک گزارش شده، رخ می‌دهد.

منبع: مهر

در ادامه حتما بخوانید رکوردشکنی در وال‌استریت، رونق سهام هوش مصنوعی و کاهش قیمت نفت