موج اخیر نگرانیها درباره هوش مصنوعی از هشتم سپتامبر آغاز شد؛ زمانی که پژوهشگری به روزنامه والاستریت ژورنال گفت از شرکت هوش مصنوعی آنتروپیک در سانفرانسیسکو استعفا داده است، زیرا نگران بود سامانههایی که این شرکت در حال توسعه آنها است، از کنترل خارج شوند و بشریت را نابود کنند.
او در پستی در شبکه اجتماعی ایکس که نخستین پست او در این شبکه بود، نوشت: افرادی که در حال ساخت هوش مصنوعی هستند، واقعا باور دارند که این فناوری ممکن است تا پایان این دهه همه ما را بکشد.
چند ساعت بعد، ایوان هابینگر که مسئول بخش «همراستاسازی» (Alignment Science) در آنتروپیک است، حوزهای که هدف آن هماهنگ کردن رفتار مدلهای هوش مصنوعی با ارزشهای انسانی است، این پیام را بازنشر کرد و برآورد خود را نیز افزود. او احتمال انقراض انسان در دهه آینده را بیش از ۱۰ درصد تخمین زد.
این پست طی ۲۴ ساعت بیش از ۱۰۰ میلیون بازدید به دست آورد.
پس از آن، داریو آمودی، مدیرعامل آنتروپیک مقالهای منتشر کرد و کاهش سرعت توسعه هوش مصنوعی را خواستار شد. مدیران شرکتهای رقیب، از جمله سم آلتمن از اوپن ایآی و ایلان ماسک از ایکس ایآی نیز از این پیشنهاد حمایت کردهاند. هوش مصنوعی دقیقاً چگونه میتواند همه انسانها را از بین ببرد؟
پژوهشگران توضیح دقیقی درباره اینکه هوش مصنوعی چگونه ممکن است انسانها را از بین ببرد، ارائه نکردهاند. با این حال، تلاشهایی برای ترسیم سناریوهای احتمالی انجام شده است.
در یک پیشبینی فرضی با عنوان «AI ۲۰۲۷» که توسط پروژه غیرانتفاعی AI Futures تهیه شده، یک هوش مصنوعی برای از بین بردن انسانها یک سلاح زیستی آزاد میکند تا فضای بیشتری برای ساخت پنلهای خورشیدی و کارخانههای تولید ربات فراهم شود. …
