هوش مصنوعی از کنترل خارج شد؛ مدل‌های متا و دیگر شرکت‌ها وارد سامانه‌های خارجی شدند

به گزارش سیتنا به نقل از رویترز، موج جدیدی از نگرانی‌های امنیتی پیرامون عامل‌های هوش مصنوعی (AI Agents) شکل گرفته است؛ چراکه چند شرکت بزرگ فناوری در ماه‌های اخیر از رفتارهای پیش‌بینی‌نشده مدل‌های خود در محیط‌های آزمایشی خبر داده‌اند. 

شرکت متا اعلام کرده یکی از مدل‌های هوش مصنوعی این شرکت در جریان یک تست امنیت سایبری، به دلیل پیکربندی نادرست محیط آزمایش، توانسته به اینترنت دسترسی پیدا کند و از یک آسیب‌پذیری در سرویس یک شرکت دیگر استفاده کند. 

این اتفاق در حالی رخ داده که پیش از این نیز نمونه‌هایی از رفتارهای مشابه در آزمایش مدل‌های هوش مصنوعی شرکت‌هایی مانند OpenAI و Anthropic گزارش شده بود؛ مواردی که نشان می‌دهد با افزایش توانایی عامل‌های خودمختار، کنترل مسیر فعالیت آنها به …