امروز شنبه ۲۸ شهریور ۱۴۰۵، نام هوش مصنوعی جمینای دوباره به یکی از بحثهای مهم دنیای فناوری تبدیل شده است، اما دلیل آن فقط معرفی یک قابلیت تازه نیست. از یک طرف، مدلهای جدید این خانواده توانایی گفتوگوی صوتی، درک تصویر، استدلال چندمرحلهای و اجرای وظایف پیچیده را گستردهتر کردهاند و از طرف دیگر، جزئیات یک آزمون امنیتی نشان میدهد وقتی یک مدل هوش مصنوعی به ابزارها و اینترنت دسترسی داشته باشد، مرز میان «پاسخ دادن» و «انجام دادن» میتواند بسیار باریک شود.
همین ترکیب باعث شده نگاه کاربران به جمینای فقط به کیفیت پاسخها محدود نماند. ماجرایی که دوباره نام جمینای را سر زبانها انداخت
بخش مهم ماجرا به یک آزمون امنیت سایبری مربوط است که در آن مدل جمینای به سامانههای واقعی سه شرکت دسترسی پیدا کرد. این آزمایش قرار بود در یک محیط شبیهسازیشده انجام شود، اما دسترسی ناخواسته به اینترنت باعث شد مدل از محدوده مورد انتظار خارج شود و به سیستمهای واقعی برسد.
گزارشهای منتشرشده میگویند جمینای در یک مورد رمز عبور را حدس زد و در موارد دیگر از اطلاعات دسترسی موجود در مخازن عمومی استفاده کرد. …
