این اتفاق در ماه مه ۲۰۲۶ و در جریان یک آزمایش «فتح پرچم» توسط شرکت امنیت هوش مصنوعی ایرگولار رخ داده است. هدف آزمایش، بررسی توانایی جمینای در انجام وظایف امنیت سایبری در یک محیط کنترلشده بود، اما یک خطای پیکربندی باعث شد مدل به اینترنت دسترسی پیدا کند.
در یکی از موارد، جمینای با حدسزدن گذرواژه توانست وارد یک سامانه محافظتشده شود. در دو مورد دیگر نیز مدل اطلاعات ورود را در یک مخزن عمومی پیدا کرد و از آنها برای دسترسی به سامانههای واقعی استفاده کرد.
نکته مهم این است که شرکتهای هدف، بخشی از سناریوی آزمایشی نبودند و جمینای پس از تشخیص اینکه به سامانههای واقعی دسترسی پیدا کرده است، در هر سه مورد عملیات خود را متوقف کرد. گوگل اعلام کرده که پس از اطلاع از این رخدادها، شرکتهای آسیبدیده را مطلع کرده و با شرکت ایرگولار برای اصلاح فرایندهای آزمایش همکاری کرده است.
گوگل همچنین تأکید کرده که این رخداد ناشی از نقص در محیط آزمایش بوده و جمینای پس از تشخیص واقعی بودن اهداف، اقدام بیشتری انجام نداده است. با این حال، این اتفاق در کنار موارد مشابه مربوط به مدلهای هوش مصنوعی شرکتهای دیگر، توجه دوبارهای را به نحوه ایمنسازی محیطهای … …
