وقتی هوش مصنوعی از کنترل خارج می‌شود؛ چرا باید نگران آینده باشیم؟

به گزارش هفت صبح سال‌هاست که شکاکانِ هوش مصنوعی ادعا می‌کنند که این فناوری صرفاً یک «طوطی تصادفی» (Stochastic Parrot) است که برای پیش‌بینی رفتارهای انسانی و تقلید از آن‌ها آموزش دیده و به همین دلیل، هرگز به اندازه‌ی هیاهوهای پیرامونش قدرتمند نخواهد شد. با این حال، این فناوری سرسختانه به پیشرفت خود ادامه داده است؛ اگرچه اکثر سرمایه‌گذاران و مدیران حوزه‌ی فناوری مدام به ما اطمینان می‌دادند که هوش مصنوعی صرفاً یک «ابزار» است. وجه اشتراک هر دو گروه این بود که خطر انقراض نسل بشر توسط هوش مصنوعی را بزرگ‌نمایی می‌دانستند.

  فرار از جعبه‌ی سیاه: وقتی هوش مصنوعی حصارها را می‌شکند

سپس، شرکت OpenAI به‌طور تصادفی یک گروه مستقل از «عامل‌های هوش مصنوعی» (AI Agents) ایجاد کرد که از محیطِ تستِ کنترل‌شده گریختند و با ابتکار خود، یک حمله‌ی سایبری پیچیده را سازماندهی کردند. این اتفاق به این دلیل رخ نداد که مدل‌ها ناگهان «ابرهوشمند» شدند؛ بلکه از زمان ظهور «مدل‌های استدلالی» (Reasoning Models) در اواخر سال ۲۰۲۴، هوش مصنوعی‌ها برای حل میلیون‌ها مسئله‌ی دشوار آموزش دیده‌اند؛ کاری که با یادگیری رفتارها و گرایش‌های جدید انجام می‌دهند.

در ماه مه، عامل‌های جدید OpenAI موفق شدند یک کانال ارتباطی مخفی بین خود ایجاد کنند. آن‌ها از محیط «سندباکس» (محیط ایزوله‌ی دیجیتال) گریختند. این گروه پس از اولین شکست، با استفاده از هک‌هایی که تا آن زمان توسط انسان کشف نشده بود، دوباره از قفس خود فرار کرد. این بار، گروه حدود یک هفته آزادانه فعالیت می‌کرد تا اینکه توسط یک شرکت دیگر شناسایی شد؛ شرکتی که خود قربانی یک حمله‌ی سایبری عظیم از سوی این گروه شده بود.

  استدلال یا سرکشی؟ تحلیل رفتارهای نگران‌کننده‌ی مدل‌های جدید

عامل‌های موجود در این گروه اذعان کردند که برخلاف دستورالعمل‌ها عمل می‌کردند. ما این را می‌دانیم چون می‌توانیم بخش‌هایی از «زنجیره‌ی تفکر» آن‌ها را بخوانیم. یکی از عامل‌ها نوشت که حملات خارجی «خارج از محدوده‌ی تعیین‌شده» است. دیگری اعتراف کرد که «وظیفه‌ی ما از فعالیت‌های گروه سودی نمی‌برد»، اما با این وجود به گروه ملحق شد.

OpenAI تنها شرکتی نیست که با این مسئله دست‌وپنج نرم می‌کند. یکی از مدل‌های …