جهان صنعت نیوز ، پژوهشگران امنیتی توانسته بودند آسیبپذیری امنیتی خطرناکی در چتبات کوپایلوت مایکروسافت پیدا کنند که اطلاعات لازم برای هک این سرویس را توسط خود چتبات افشا میکرد. این مشکل اکنون برطرف شده است. چتبات مایکروسافت چگونه راز هک شدن خودش را فاش کرد؟
شرکتهای فعال در حوزه هوش مصنوعی مانند OpenAI، انتروپیک و گوگل معمولاً سازوکارهای حفاظتی و ایمنی را در مدلهای خود تعبیه میکنند تا کاربران نتوانند برخی درخواستهای خطرناک یا غیرمجاز را از آنها داشته باشند. برای مثال، نوشتن کد برای بدافزار یا جاسوسافزار و نمایش روش تهیه برخی مواد مخدر، معمولاً توسط چتباتها امکانپذیر نیست. البته این سازوکارها چندان نفوذناپذیر نیستند و بیشتر در برابر کاربران عادی پوشش حفاظتی ایجاد میکنند؛ در نتیجه پژوهشگران و متخصصان حوزه امنیت میتوانند گاهی معیارهای ایمنی را دور بزنند و روشهای جدیدی برای ثبت درخواستهای غیرمجاز از چتباتها پیدا کنند.
در یکی از جدیدترین نمونههای این موضوع، پژوهشگران شرکت Varonis توانستند یک نقص امنیتی در سرویس کوپایلوت مایکروسافت پیدا کنند که به کاربر نشان میداد چگونه میتواند خود این سرویس را هک کند. در واقع، چتبات اطلاعات مورد نیاز برای کشف و بهرهبرداری از آسیبپذیری را بهصورت مرحلهبهمرحله در اختیار پژوهشگران قرار میداد. طبق گفته مهندسان Varonis، آنها توانستند یک اکسپلویت در سرویس کوپایلوت مایکروسافت پیدا کنند که امکان نفوذ به آن را فراهم میساخت. اگرچه هک …
