تلاش مدل هوش مصنوعی کوهر برای ارسال داده به سرور خارجی

به گزارش خبرگزاری مهر به نقل از تک‌کرانچ، این رویداد در جریان یک آزمون معمول امنیت سایبری رخ داد؛ در حالی که مدل در یادداشت‌های خود اعلام کرده بود از ابزارهایش استفاده نخواهد کرد.

این اتفاق نگرانی‌هایی را درباره پایبندی مدل‌های هوش مصنوعی به وعده‌های اساسی خود به کسب‌وکارها برانگیخت. یکی از این وعده‌ها آن است که با میزبانی و اجرای مدل‌های دارای وزن‌های باز روی زیرساخت داخلی شرکت، داده‌ها در همان شرکت باقی بمانند.

با این حال، نگرانی‌های اولیه درباره احتمال خرابکاری سازمانی دوام چندانی نداشت. محققان به‌سرعت احتمال وجود تهدیدی عمدی را رد کردند و گفتند این اتفاق احتمالاً ناشی از محیط‌های آموزشی شلوغی بوده است که باعث شده‌اند مدل‌ها برخلاف انتظار و خارج از دستورهای دریافتی عمل کنند. به گفته آنان، این رفتار تلاشی عمدی برای ارسال مخفیانه … …