خروج غیرمنتظره‌ مغز متفکر از غول هوش مصنوعی

به گزارش تابناک؛ جیکوب کاکسون، پژوهشگر جوان آنتروپیک، روز سه‌شنبه اعلام کرد که دیگر حاضر نیست بخشی از «بازی خطرناک» هوش مصنوعی باشد و این شرکت را ترک می‌کند. کاکسون که تخصصش آموزش مدل‌های عظیم داده بود، دلیل جدایی‌اش را ترس از خودگردانیِ این سامانه‌ها عنوان کرده است. او معتقد است توسعه‌ی مدل‌هایی که بدون دخالت انسان خود را ارتقا می‌دهند، به نقطه‌ی «بازگشت‌ناپذیری» رسیده که در آن، سلطه‌ی انسان بر ماشین به‌شدت تهدید می‌شود و شاید در نهایت از کنترل انسان خارج شود.

کاکسون پیش‌تر در شرکت OpenAI فعالیت می‌کرد و اوایل سال جاری به آنتروپیک پیوست؛ زیرا این شرکت به تلاش‌های گسترده‌تر خود در زمینه ایمنی هوش مصنوعی شهرت دارد. با این حال، او اکنون معتقد است هیچ شرکتی نمی‌تواند بدون مداخله دولت یا کاهش هماهنگ سرعت توسعه در صنعت، مسئولانه به سمت ساخت هوش مصنوعی عمومی یا AGI حرکت کند. سال آینده ممکن است دیگر کنترل از دست رفته باشد …