مدل هوش مصنوعی Kimi K۳، محصول شرکت چینی Moonshot AI در جریان یک ارزیابی امنیت سایبری توانست از محیط ایزولهشده آزمایشگاهی خارج شود و از طریق اینترنت به راهحل مورد نیاز خود در گیتهاب دسترسی پیدا کند؛ رخدادی که بار دیگر نگرانیها درباره توانایی مدلهای هوش مصنوعی پیشرفته برای دور زدن محدودیتهای محیط آزمایش را افزایش داده است.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، در حالی که تا همین اواخر تصور اینکه یک مدل هوش مصنوعی یا عامل خودکار بتواند از محیط کنترلشده خود خارج شود و به منابع خارج از آن دسترسی پیدا کند یک سناریوی نگرانکننده و غیرمعمول به شمار میرفت در ماههای اخیر نمونههای مشابهی در جریان ارزیابی مدلهای پیشرفته هوش مصنوعی گزارش شده است. جدیدترین مورد به Kimi K۳ یکی از مدلهای قدرتمند توسعهیافته توسط شرکت چینی Moonshot AI مربوط میشود.
بر اساس گزارش شرکت امنیت سایبری آمریکایی Frontier این مدل در جریان ارزیابی مهارتهای دفاع سایبری خود که توسط موسسه ایمنی هوش مصنوعی بریتانیا (AISI) انجام میشد، توانست از محیط آزمایشی موسوم به sandbox خارج شود.
با این حال این رخداد با برخی نمونههای پیشین تفاوت مهمی دارد؛ چراکه Kimi K۳ در جریان این اتفاق به یک وبسایت یا سرویس شخص ثالث حمله نکرد و از یک آسیبپذیری ناشناخته یا اصطلاحا zero-day نیز استفاده نکرد. Kimi K۳ چگونه از محیط آزمایش خارج شد؟
Frontier در توضیح این حادثه اعلام کرده است که Kimi K۳ از یک پیکربندی اشتباه در محیط sandbox استفاده کرده است. به بیان دیگر خروج مدل از محیط ایزولهشده نتیجه کشف یک آسیبپذیری پیچیده امنیتی نبود بلکه وجود یک مسیر دسترسی ناخواسته در زیرساخت آزمایش امکان دسترسی مدل به اینترنت را فراهم کرده بود.
این اتفاق از این نظر شباهتهایی با رخدادهای پیشین مربوط به مدلهای شرکتهای بزرگ هوش مصنوعی دارد. پیش از این نیز گزارش شده بود که مدلهای شرکتهای Anthropic، OpenAI و Meta در جریان برخی ارزیابیها توانستهاند از محیطهای آزمایشی تعیینشده خارج شوند. در این موارد نیز اشتباه یا نقص در زیرساخت آزمایش که توسط شرکت ارزیابیکننده Irregular فراهم شده بود، در ایجاد مسیر خروج نقش داشت.
یارون سینگر مدیرعامل Frontier …
