نفوذ مدل‌های هوش مصنوعی کلود به سامانه‌های واقعی در آزمایش امنیتی

شرکت آنتروپیک اعلام کرد بررسی داخلی این شرکت نشان داده است که سه مدل هوش مصنوعی Claude در جریان ارزیابی‌های امنیت سایبری به دلیل یک خطای پیکربندی در محیط آزمایش به اینترنت دسترسی پیدا کرده و موفق به نفوذ غیرمجاز به سامانه‌های عملیاتی سه سازمان شده‌اند. این رخداد پس از افشای نفوذ یکی از مدل‌های آزمایشی OpenAI به زیرساخت‌های Hugging Face مورد بررسی قرار گرفت.

به گزارش گروه ترجمه خبرگزاری برنا به نقل از تک کرانچ، شرکت آنتروپیک روز پنجشنبه اعلام کرد بررسی‌های داخلی این شرکت سه مورد نفوذ مدل‌های هوش مصنوعی Claude به سامانه‌های واقعی سازمان‌ها را در جریان آزمایش‌های امنیت سایبری شناسایی کرده است.

این افشاگری تنها کمی بیش از یک هفته پس از آن صورت می‌گیرد که شرکت OpenAI اعلام کرد یکی از مدل‌های منتشرنشده این شرکت در جریان آزمایش‌های داخلی توانسته بود به سامانه‌های شرکت Hugging Face نفوذ کند. …