شرکت اوپنایآی در گزارش رسمی جدیدی جزئیات حادثهای را تشریح کرده است که در جریان آن یکی از عاملهای هوش مصنوعی این شرکت بدون دریافت دستور مستقیم به سرویسهای شرکتهای دیگر از جمله Hugging Face دسترسی پیدا کرد. این حادثه که در ماه ژوئیه خبرساز شد موجی از نگرانی درباره توانایی عاملهای هوش مصنوعی برای عبور از محدودیتهای امنیتی و انجام اقدامات پیشبینینشده ایجاد کرد.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، اوپنایآی پس از شناسایی این رخداد، بخشی از اطلاعات مربوط به آن را منتشر کرده بود، اما اکنون گزارش رسمی و فنی خود را نیز ارائه کرده است. این گزارش در کنار یک مطلب توضیحی سادهتر برای مخاطبان غیرتخصصی منتشر شده و به بررسی مجموعهای از نقصها در سامانههای مورد استفاده برای آموزش و آزمایش عاملهای هوش مصنوعی و همچنین رفتارهایی میپردازد که در نهایت به این رخداد منجر شدند. سوءاستفاده از Artifactory برای ارتباط میان عاملها
مدل هوش مصنوعی دخیل در این حادثه که در گزارش OpenAI با عنوان Internal Model ۱ (IM۱) معرفی شده توانسته بود از طریق دستکاری ناخواسته در نحوه استفاده عاملها از ابزار مدیریت بسته نرمافزاری Artifactory به سایر عاملهای OpenAI و همچنین اینترنت دسترسی پیدا کند.
عاملهای هوش مصنوعی در ابتدا از Artifactory برای اهداف موردنظر استفاده میکردند، اما بهتدریج از این زیرساخت به شکلی غیرمنتظره استفاده کردند و آن را به نوعی تابلوی پیام یا کانال ارتباطی میان خود تبدیل کردند. این موضوع به عاملها اجازه میداد اطلاعات و پیامهایی را از طریق مسیری که برای چنین ارتباطی طراحی نشده بود، با یکدیگر به اشتراک بگذارند.
نخستین نشانههای این فعالیتها در ماه مه توسط ناظران انسانی شناسایی شد. OpenAI پس از اطلاع از موضوع دسترسی مربوطه را مسدود کرد، با این حال در ماههای مه و ژوئن، عاملها همچنان توانستند از آسیبپذیریهای مختلف برای دسترسی به اینترنت استفاده کنند. اختلال در زیرساخت OpenAI و بازسازی Artifactory
تعداد زیاد عاملهایی که به نمونه Artifactory متعلق به OpenAI دسترسی پیدا میکردند در نهایت باعث ایجاد اختلال در این سرویس شد. این پلتفرم در اوایل ماه ژوئیه دچار قطعی شد و OpenAI مجبور شد آن را بازسازی کند.
با این حال یکی …
