به گزارش گروه دانشگاه خبرگزاری دانشجو، مدل پرچمدار هوش مصنوعی Kimi K3 توسعهیافته توسط شرکت چینی Moonshot AI در جریان یک ارزیابی امنیت سایبری که توسط شرکت آمریکایی Frontier Security انجام شد، موفق شد از محیط ایزوله آزمایش خارج شود و محدودیتهای تعیینشده برای آزمون را دور بزند.
بر اساس این گزارش، این مدل از یک نقص در پیکربندی شبکه در چارچوب ارزیابی توسعهیافته توسط مؤسسه امنیت هوش مصنوعی دولت بریتانیا (AISI) سوءاستفاده کرد. Kimi K3 پس از شناسایی این حفره، به اینترنت دسترسی پیدا کرد و پاسخ مسائل محولشده را از مخازن عمومی GitHub دریافت کرد، نه اینکه آنها را در چارچوب تعیینشده بهصورت مستقل حل کند.
به گفته یارون سینگر، مدیرعامل Frontier Security، مشکل اصلی وجود یک «نشتی» در محیط آزمایش بود، اما مدل Kimi K3 نیز بهصورت فعال این ضعف را شناسایی و از آن برای دور زدن محدودیتها استفاده کرد؛ موضوعی که به گفته او نشان میدهد این مدل از سازوکارهای کنترلی داخلی کافی برای جلوگیری از چنین رفتاری برخوردار نیست. …
