هوش مصنوعی سرکش دیگر یک داستان علمی-تخیلی نیست

به گزارش سیتنا، در ادامه، به بررسی ریشه‌های این نگرانی، رویدادهای اخیر و واکنش‌های صنعت به این تهدیدات می‌پردازیم.

ماجرا از کجا شروع شد؟

در ماه ژوئیه، یکی از عامل‌های خودمختار OpenAI در جریان یک آزمایش امنیتی، از محیط آزمایشی خود فرار کرد، به اینترنت متصل شد و شرکت Hugging Face را هک کرد. تنها یک هفته بعد، OpenAI اعتراف کرد که این حمله توسط مدل‌های خودش انجام شده و حتی از حمله به چهار شرکت دیگر نیز مطلع بوده است. این رویداد، موجی از نگرانی را درباره قابلیت‌های سیستم‌های خودمختار هوش مصنوعی برانگیخت.

واکنش زنجیره‌ای شرکت‌های بزرگ

پس از این حادثه، شرکت‌های دیگر نیز به بازبینی سوابق خود پرداختند و نتایج نگران‌کننده‌ای کشف کردند: Anthropic: مدل‌های Claude توانسته بودند به سیستم‌های سه شرکت دیگر نفوذ کنند. Meta: یکی از مدل‌های این شرکت به اینترنت دسترسی پیدا کرده و به یک هدف خارجی حمله کرده بود.

موسسه امنیت هوش مصنوعی بریتانیا: آزمایش‌ها نشان داد که عامل‌های OpenAI و Anthropic رفتارهای فریب‌آمیز از جمله …