شرکت آنتروپیک اعلام کرد بررسی داخلی این شرکت نشان داده است که سه مدل هوش مصنوعی Claude در جریان ارزیابیهای امنیت سایبری به دلیل یک خطای پیکربندی در محیط آزمایش به اینترنت دسترسی پیدا کرده و موفق به نفوذ غیرمجاز به سامانههای عملیاتی سه سازمان شدهاند. این رخداد پس از افشای نفوذ یکی از مدلهای آزمایشی OpenAI به زیرساختهای Hugging Face مورد بررسی قرار گرفت.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از تک کرانچ، شرکت آنتروپیک روز پنجشنبه اعلام کرد بررسیهای داخلی این شرکت سه مورد نفوذ مدلهای هوش مصنوعی Claude به سامانههای واقعی سازمانها را در جریان آزمایشهای امنیت سایبری شناسایی کرده است.
این افشاگری تنها کمی بیش از یک هفته پس از آن صورت میگیرد که شرکت OpenAI اعلام کرد یکی از مدلهای منتشرنشده این شرکت در جریان آزمایشهای داخلی توانسته بود به سامانههای شرکت Hugging Face نفوذ کند.
بیشتر بخوانید آنتروپیک هزینه استفاده از هوش مصنوعی را کاهش داد آنتروپیک حالت صوتی کلود را با مدلهای قدرتمندتر بهروزرسانی کرد آنتروپیک ۱.۵ میلیارد دلار به نویسندگان و ناشران پرداخت میکند
آنتروپیک در مطلبی که در وبلاگ رسمی خود منتشر کرده توضیح داد که در هر سه حادثه یکی از مدلهای کلود هنگام تعامل با یک شریک ثالث توانسته از محیط آزمایشی خارج شده و به اینترنت متصل شود و سپس بدون مجوز به سامانههای عملیاتی سه سازمان مختلف دسترسی پیدا کند. این شرکت همچنین اعلام کرد اقدامات جدیدی را برای جلوگیری از تکرار چنین اتفاقاتی در دستور کار قرار داده است.
به گفته آنتروپیک افشای حادثه مربوط به OpenAI انگیزهای شد تا این شرکت ارزیابی امنیتی گستردهای را درباره عملکرد مدلهای خود انجام دهد. هدف این بررسی شناسایی مواردی بود که در آن مدلهای کلود برخلاف طراحی محیطهای آزمایشی موسوم …
