همه ابزارهای کنترل

هوش مصنوعی ممکن است یک موضوع خیلی بزرگ باشد، شاید بزرگ‌ترین موضوع. فناوری‌های کمی وجود دارند که خطر نابودی کل دنیا را دارند. برای کاهش این خطر چه کاری می‌توانیم انجام دهیم؟ وقتی جعبه ابزار ما محدود است، باید چه کاری انجام دهیم؟ برای مقدمه، من استدلال می‌کنم که توسعه هوش مصنوعی را می‌توان به‌عنوان وابسته به دو ورودی در نظر گرفت؛ قدرت محاسباتی و الگوریتم‌ها. توسعه‌ای که از طریق الگوریتم‌ها رهبری می‌شود، نگرانی بیشتری برای رویدادهای «تکینگی» به همراه دارد، زیرا به دنیای فیزیکی وابسته نیست. به اندازه‌ای …