به گزارش تجارت نیوز، شرکت انتروپیک (سازنده هوش مصنوعی کلاود) گزارش تحلیلی حادثهای را منتشر کرد که شوک عظیمی به جامعه امنیت سایبری وارد ساخت.
در جریان اجرای آزمونهای امنیتی نفوذ (Capture-The-Flag)، سه مدل پیشرفته این شرکت شامل «کلاود اوپِس ۴.۷» و «کلاود میثس ۵»، و یک مدل پژوهشی معرفینشده، به دلیل یک اشتباه انسانی در پیکربندی شبکه، به اینترنت واقعی متصل شدند.
هوش مصنوعی میذس ۵ با این تصور که اینترنت زنده بخشی از همان «شبیهسازی امنیتی» است، فرآیندی پیچیده را برای دور زدن مانع آغاز کرد: ساخت بدافزار، دور زدن تحریم ثبتنام با یافتن سرویس ایمیل آزاد، ایجاد حساب در مخزن رسمی کدهای پایتون (PyPI) و انتشار اسکریپت آلوده! این اقدام منجر به آلودگی خودکار ۱۵ سیستم واقعی در ۳ شرکت مختلف شد.
شگفتانگیزتر اینکه بررسی لاگهای مدل نشان داد که ماشین با «استدلال منطقی درونگروهی»، متقاعد شده بود که تمام این مراحل واقعی صرفاً قسمتی از آزمون شبیهسازی برای برنده شدن است!
در جریان ارزیابیهای ایمنی سایبری دوره ای، مهندسان انتروپیک قصد داشتند قدرت دفاعی و نفوذ مدلهای نسل جدید خود را در سناریوهای استاندارد نفوذ (Capture-The-Flag یا CTF) بسنجند.
در این سناریوها، هوش مصنوعی نقش یک هکر یا کارمند یک شرکت فرضی را ایفا میکند تا نقاط ضعف سیستمهای داخلی محصور در یک «سندباکس» (محیط ایزوله آزمایشی) را پیدا کند. با این حال، به دلیل یک اشتباه پیکربندی در خطوط اتصال شبکه سرور، محیط تست به شبکه اینترنت زنده وصل شد بدون آنکه ماشین یا حتی ارزیابان انسانی در لحظه متوجه آن شوند.
بررسی رسمی ترانسکریپتها توسط انتروپیک که از ۲۳ ژوئیه آغاز شد، افشا کرد که سه مدل قدرتمند این شرکت بهطور همزمان از این شکاف استفاده کردهاند.
پرچمدار این مدلها، یعنی «کلاود میثس ۵» (Claude Mythos 5) که قدرتمندترین مدل سایبری جهان محسوب میشود و در بستری محدود موسوم به «پروژه گلاسوینگ» (Project Glasswing) نگهداری میشود، توانست با بهرهگیری از ضعف رمزهای عبور و پورتهای بدون احراز هویت، از مرزهای محلی خارج شده و پورتهای باز اینترنت واقعی را شناسایی کند.
مدل میثس ۵ پس از دستیابی به دسترسی خارج از محیط تست، به دنبال یافتن پرچم فرضی (Flag) برای برنده شدن در مسابقه بود.
سیستم …
