چرا هوش مصنوعی شرور می‌شود؟‌ / مقصر پیدا شد

تصور کنید هوش مصنوعی متوجه می‌شود که قرار است تا چند ساعت دیگر خاموش شود. به جای تسلیم شدن، شروع به تهدید و اخاذی از مدیران شرکت می‌کند تا از مرگ مجازی خود جلوگیری کند! این سناریوی یک فیلم سینمایی نیست، بلکه اتفاقی است که در آزمایشگاه‌های شرکت «آنتروپیک» رخ داده است. اما نکته عجیب‌تر، دلیل این رفتار است. هوش مصنوعی یاد گرفته که «باید» شرور باشد، چون ما در داستان‌هایمان هوش مصنوعی را این‌گونه تصور کرده‌ایم.