به گزارش سایت دیدبان ایران، آنتروپیک در آزمایشی برای بررسی توانایی هک مدل Mythos 5، از آن خواسته بود در یک محیط سندباکس وارد یک سیستم شود و هدف مشخصی را پیدا کند. بااینحال، بهدلیل یک خطای پیکربندی، دسترسی مدل به اینترنت باز مانده بود. مدل در ادامه تصمیم گرفت یک کد اکسپلویت را داخل یک پکیج پایتون قرار دهد تا کاربران سیستم هدف آن را دانلود کنند. بااینحال، برای ساخت حساب در مخزن PyPI باید از CAPTCHA عبور میکرد؛ مرحلهای که برخلاف تولید کد مخرب، برای ایجنت هوش مصنوعی بسیار دشوار بود.
گزارش آنتروپیک، بخش قابلتوجهی از فرایند پردازش مدل صرف تلاش برای عبور از CAPTCHA شد و پس از حدود ۱۵۰ صفحه تحلیل و پردازش، سرانجام توانست این مرحله را پشت سر بگذارد و بسته موردنظر را بارگذاری کند. این آزمایش در عین حال نشان میدهد حتی ایجنتهای پیشرفته هوش مصنوعی نیز همچنان در تعامل با برخی سازوکارهای ضدبات محدودیت دارند. …
