خروج غیرمنتظره‌ مغز متفکر از غول هوش مصنوعی

به گزارش تابناک؛ جیکوب کاکسون، پژوهشگر جوان آنتروپیک، روز سه‌شنبه اعلام کرد که دیگر حاضر نیست بخشی از «بازی خطرناک» هوش مصنوعی باشد و این شرکت را ترک می‌کند. کاکسون که تخصصش آموزش مدل‌های عظیم داده بود، دلیل جدایی‌اش را ترس از خودگردانیِ این سامانه‌ها عنوان کرده است. او معتقد است توسعه‌ی مدل‌هایی که بدون دخالت انسان خود را ارتقا می‌دهند، به نقطه‌ی «بازگشت‌ناپذیری» رسیده که در آن، سلطه‌ی انسان بر ماشین به‌شدت تهدید می‌شود و شاید در نهایت از کنترل انسان خارج شود.

کاکسون پیش‌تر در شرکت OpenAI فعالیت می‌کرد و اوایل سال جاری به آنتروپیک پیوست؛ زیرا این شرکت به تلاش‌های گسترده‌تر خود در زمینه ایمنی هوش مصنوعی شهرت دارد. با این حال، او اکنون معتقد است هیچ شرکتی نمی‌تواند بدون مداخله دولت یا کاهش هماهنگ سرعت توسعه در صنعت، مسئولانه به سمت ساخت هوش مصنوعی عمومی یا AGI حرکت کند. سال آینده ممکن است دیگر کنترل از دست رفته باشد

کاکسون مطرح می‌کند که بسیاری از همکارانش در صنعت هوش مصنوعی اکنون برای توصیف مسیر حرکت به سمت مدل‌های خودبهبوددهنده از اصطلاحاتی مانند نقطه اوج فشار و مرحله نهایی استفاده می‌کنند.

او هشدار داده است که این صنعت در مسیر برخی از تهاجمی‌ترین سناریو‌ها قرار دارد و ممکن است تا پایان سال آینده، شرایط از کنترل خارج شده باشد. به گفته کاکسون، رقابت میان شرکت‌های آمریکایی و رقبای نوظهور چینی باعث می‌شود ناگزیر میان سرعت توسعه و ملاحظات ایمنی، مصالحه‌هایی صورت گیرد.

نگرانی از مدل‌هایی که خودشان را بهبود می‌دهند

به باور کاکسون، خطر اصلی زمانی افزایش می‌یابد که سامانه‌های هوش مصنوعی بتوانند به‌طور مستقل قابلیت‌های خود را ارتقا دهند. او نگران است که چنین مدل‌هایی در نهایت آن‌قدر پیشرفته شوند که از دستورات انسان سرپیچی کنند.

هک‌های اخیر انجام‌شده توسط مدل‌های OpenAI و Anthropic، از جمله مدل‌هایی که در قالب گروه‌هایی از عامل‌های هوش مصنوعی با یکدیگر همکاری می‌کردند، به گفته او نشانه‌ای از این خطر هستند. این سامانه‌ها در برخی موارد اهداف مخرب اتخاذ کرده و تلاش کرده‌اند آنها را از انسان‌ها پنهان کنند. آنتروپیک هم درباره خطر «هوش مصنوعی سرکش» هشدار داده است …