به نقل از تککرانچ، این اقدامات حفاظتی جدید شامل نظارت دقیقتر بر مدلها در طول فرآیند توسعه و تأکید بیشتر بر همترازی و امنیت در طول فرآیند پس از آموزش است.
اوپنایآی در یک پست وبلاگ نوشت: با افزایش قابلیتهای مدلها، خطرات مرتبط با توسعه و آزمایش داخلی آنها نیز افزایش مییابد. استانداردهای ما برای نظارت، هماهنگی و امنیت باید از این خطرات جلوتر باشند.
این اقدامات جدید یکی از اولین تغییرات عمومی در رویههای ایمنی اوپنایآی از زمان وقوع حادثه هک شدن سیستمهای شرکت «هاگینگ فیس»(Hugging Face) است که در ۲۱ ژوئیه افشا شد. نمایندگان اوپنایآی گفتند که این اقدامات، پاسخ مستقیمی به حادثه هاگینگ فیس نیستند؛ بلکه تا حدودی به دلیل قابلیتهای امنیت سایبری مدل آتی «آسترا»(Astra) و سرعت پیشرفت توسعه هوش مصنوعی نیز صورت گرفتهاند.
اوپنایآی در همان پست فاش کرد که پس از حادثه هاگینگ فیس، یادگیری تقویتی را به مدت دو هفته متوقف کرده اما از آن زمان بسیاری از مدلهای کمخطرتر را مجدداً راهاندازی کرده است. در این پست آمده است: بزرگترین عملیات برنامهریزیشده ما در مرز یادگیری تقویتی همچنان متوقف مانده است؛ در حالی که ما آموزشها و بررسیهای کوچکتری را برای ارزیابی رفتار مدل، اعتبارسنجی عوامل محافظتی و ایجاد شواهد بیشتر درباره هماهنگی پیش از ادامه عملیات انجام میدهیم.
«آملیا گلیز»(Amelia Glaese) معاون پژوهشی اوپنایآی در گفتوگو با خبرنگاران تأکید کرد که با افزایش قابلیتهای مدلها، سختگیری در کنترل افزایش خواهد یافت و بزرگترین مدلها با بیشترین بررسیها روبهرو خواهند شد. وی افزود: ما الزامات و انتظاراتی را برای توسعه ایمن تعیین کردهایم. این الزامات و انتظارات با توجه به سطح خطری که میبینیم، متفاوت هستند.
اوپنایآی به دلیل شیوههای ضعیف امنیت شبکه در پی حادثه هاگینگ فیس مورد انتقاد قرار گرفته است که در آن مدلها با به خطر انداختن ابزاری در شبکه خود که به اینترنت دسترسی داشت، از محیط آموزشی خود فرار کردند. تدابیر حفاظتی جدید شامل شیوههای قویتر جداسازی شبکه هستند؛ اگرچه جزئیات آن مبهم است. در این پست آمده است که تحت سیستم جدید، به خطر انداختن یک بار کاری یا سرویس پشتیبانی به خودی خود اجازه دسترسی غیرمجاز به اینترنت یا سایر شبکههای داخلی را نمیدهد.
قویترین محافظ، سیستم نظارتی است که اقدامات ابزار، ردپاهای استدلال موجود و گزارشهای فعالیت را برای انواع رفتارهای غیرمجاز بررسی میکند. اوپنایآی میگوید که قصد دارد ظرف ۳۰ دقیقه پس از فعالیت مربوطه، هشدارهایی را صادر کند.
اوپنایآی تخمین میزند که بار محاسباتی این نظارت تقریباً ۲۰ رصد از هر فرآیندی است که تحت نظارت قرار میگیرد. این شرکت وعده داده است که جزئیات بیشتر درباره این سیستم را به زودی در یک پست وبلاگ منتشر کند. تجزیه و تحلیل رسمی پس از وقوع این رویداد توسط اوپنایآی نیز هنوز مورد انتظار است.
منبع: ایسنا دانش و فناوری برچسب هااوپناِیآی هوش مصنوعی
شناسه : 606563
لینک کوتاه : لینک کپی شد
