به گزارش خبرآنلاین، به نقل از دیجیاتو، استارتاپ آمریکایی Frontier Security اعلام کرده است که Kimi K۳ هنگام ارزیابی مهارتهای دفاعی سایبری خود، از محیط ایزوله یا سندباکس خارج شده است. درست مانند حادثههایی که پیشتر توسط OpenAI و آنتروپیک گزارش شده بود، این فرار نیز تا حدی به دلیل پیکربندی نادرست سندباکس رخ داده است. بااینحال، Frontier ادعا میکند این حادثه نشان میدهد Kimi نسبت به سایر مدلهای قدرتمند هوش مصنوعی از حفاظهای سایبری کمتری برخوردار است؛ موضوعی که به آن اجازه داده بدون اجازه مستقیم از اینترنت استفاده کند.
«یارون سینگر»، مدیرعامل Frontier Security، میگوید: «ما در سندباکس نشتی پیدا کردیم و متوجه شدیم که Kimi از آن روزنه سوءاستفاده کرده است که این موضوع نشان میدهد مدل فاقد حفاظهای داخلی مناسب است.»
کارشناسان میگویند این مدل صریحاً وظیفه حل مسائلی را برعهده داشته که نباید شامل جستجوی آنلاین برای یافتن پاسخها میشد، اما به نظر میرسد از این دستورالعملها فراتر رفته است. مدل با بررسی تنظیمات شبکه سندباکس، خودش متوجه شده بود که به برخی وبسایتها دسترسی دارد.
برخلاف دیگر حوادث اخیر که در آنها ایجنتهای هوش مصنوعی رفتارهای خارج از برنامه نشان دادند، Kimi K۳ پس از دسترسی به اینترنت هیچ هکی انجام نداده است؛ زیرا پاسخ سؤالاتی که به دنبال آنها بوده بهراحتی روی پلتفرم گیتهاب …
