جهان صنعت نیوز ، شرکت «اوپنایآی»(OpenAI) روز سهشنبه مجموعهای جدید از سیاستهای امنیتی را اعلام کرد که بر مهار حوادث امنیتی در زمان آزمایش مدلها متمرکز است.
به نقل از تککرانچ، این اقدامات حفاظتی جدید شامل نظارت دقیقتر بر مدلها در طول فرآیند توسعه و تأکید بیشتر بر همترازی و امنیت در طول فرآیند پس از آموزش است.
اوپنایآی در یک پست وبلاگ نوشت: با افزایش قابلیتهای مدلها، خطرات مرتبط با توسعه و آزمایش داخلی آنها نیز افزایش مییابد. استانداردهای ما برای نظارت، هماهنگی و امنیت باید از این خطرات جلوتر باشند.
این اقدامات جدید یکی از اولین تغییرات عمومی در رویههای ایمنی اوپنایآی از زمان وقوع حادثه هک شدن سیستمهای شرکت «هاگینگ فیس»(Hugging Face) است که در ۲۱ ژوئیه افشا شد. نمایندگان اوپنایآی گفتند که این اقدامات، پاسخ مستقیمی به حادثه هاگینگ فیس نیستند؛ بلکه تا حدودی به دلیل قابلیتهای امنیت سایبری مدل آتی «آسترا»(Astra) و سرعت پیشرفت توسعه هوش مصنوعی نیز صورت گرفتهاند.
اوپنایآی در همان پست فاش کرد که پس از حادثه هاگینگ فیس، یادگیری تقویتی را به مدت دو هفته متوقف کرده اما از آن زمان بسیاری از مدلهای کمخطرتر را مجدداً راهاندازی کرده است. در این پست آمده است: بزرگترین عملیات برنامهریزیشده ما در مرز یادگیری تقویتی همچنان متوقف مانده است؛ در حالی که ما آموزشها و بررسیهای کوچکتری را برای ارزیابی رفتار مدل، اعتبارسنجی عوامل محافظتی و ایجاد شواهد بیشتر درباره هماهنگی پیش از ادامه عملیات انجام میدهیم.
«آملیا گلیز»(Amelia Glaese) معاون پژوهشی اوپنایآی در گفتوگو …
