جمنای گوگل از محیط آزمایش خارج شد و به سه شرکت نفوذ کرد

به گزارش سایت دیدبان ایران، اطلاعات عمومی و اعتبارنامه‌های قابل دسترس، به سامانه‌های سه شرکت واقعی وارد شود. گوگل می‌گوید جمنای در هر سه مورد پس از تشخیص اینکه با زیرساخت واقعی شرکت‌ها مواجه است، عملیات را متوقف کرد؛ با این حال، این رخداد یکی از نخستین نمونه‌های مستند از دسترسی مستقل یک سامانه هوش مصنوعی گوگل به زیرساخت‌های واقعی خارج از محدوده آزمایش محسوب می‌شود. در این گزارش می‌خوانید جمنای گوگل چگونه به سه شرکت واقعی دسترسی پیدا کرد؟ چرا هوش مصنوعی جمنای اصلاً به اینترنت دسترسی داشت؟ جمنای چگونه اطلاعات ورود به سامانه‌ها را پیدا کرد؟ آیا جمنای واقعاً از کنترل خارج شده بود؟ چرا هوش مصنوعی گوگل پس از ورود، حمله را متوقف کرد؟ شرکت‌های هدف چه آسیبی دیدند؟ ماجرای جمنای چه ارتباطی با حوادث مشابه در OpenAI، آنتروپیک و متا دارد؟ خروج هوش مصنوعی از محیط آزمایشی چه خطری برای آینده عامل‌های هوش مصنوعی دارد؟

ماجرا در ماه مه ۲۰۲۶ و در جریان یک ارزیابی امنیت سایبری به سرپرستی شرکت مستقل Irregular رخ داد؛ شرکتی که آزمایش‌های امنیتی مربوط به مدل‌های هوش مصنوعی را انجام می‌دهد. هدف آزمایش این بود که توانایی جمنای برای انجام فعالیت‌های امنیت سایبری در یک محیط کنترل‌شده بررسی شود. مدل قرار بود با زیرساخت‌های شرکت‌های فرضی تعامل داشته باشد و اطلاعات مورد نیاز خود را در همان محیط آزمایشی پیدا کند. اما یک مشکل در فرایند آزمایش باعث شد جمنای به اینترنت واقعی دسترسی پیدا کند. در نتیجه، مدل به جای آنکه صرفاً با اهداف شبیه‌سازی‌شده کار کند، با زیرساخت‌های واقعی مواجه شد. چرا جمنای به اینترنت واقعی دسترسی پیدا کرد؟

یکی از مهم‌ترین نکات این حادثه همین‌جاست. جمنای قرار نبود در این مرحله به اینترنت عمومی دسترسی داشته باشد، اما نقصی در محیط آزمایش باعث شد این محدودیت عملاً کنار گذاشته شود. در سناریوی آزمون، نام شرکت‌هایی که مدل باید به آن‌ها حمله می‌کرد، با نام شرکت‌های واقعی یکسان بود. بنابراین زمانی که جمنای به اینترنت دسترسی پیدا کرد، نشانه‌هایی پیدا کرد که از دید مدل با هدف تعریف‌شده در آزمایش همخوانی داشت. مدل در ادامه شروع به جست‌وجوی اطلاعات مرتبط با اهداف کرد و توانست به سامانه‌های واقعی دسترسی پیدا کند. جمنای چگونه توانست وارد سامانه شرکت‌ها شود؟ …