بازار
این روزها بحث درباره هوش مصنوعی به یکی از داغ‌ترین موضوعات رسانه‌های جهان تبدیل شده است. از یک سو، شرکت‌های فناوری با سرعتی بی‌سابقه مدل‌های پیشرفته‌تر می‌سازند و از سوی دیگر، هشدارهایی درباره پیامدهای احتمالی این فناوری منتشر می‌شود؛ هشدارهایی که برخی از آنها تا انقراض تمدن بشری پیش می‌روند. در این میان، پرسشی کلیدی مطرح است: آیا این هشدارها مبتنی بر شواهد معتبرند یا بیش از آنکه نگرانی علمی باشند، برای جلب توجه ساخته شده‌اند؟
نویسنده و پژوهشگری که نزدیک به ۴۰ سال در ساخت سامانه‌های هوش مصنوعی و سامانه‌های مهندسی پیچیده تجربه دارد، در تحلیلی به این پرسش پاسخ می‌دهد. او ابتدا تأکید می‌کند که تهدیدهای جدی وجود دارند و باید به آنها پرداخته شود؛ اما نگرانی او جایی شروع می‌شود که بحث از شناسایی خطرهای بالقوه فراتر می‌رود و به این ادعا می‌رسد که نابودی تمدن بشری پیامد احتمالی هوش مصنوعی‌های پیشرفته است. به گفته او، مشکل اصلی این است که در بسیاری از بحث‌ها، امکان با احتمال اشتباه گرفته می‌شود؛ در حالی که تقریباً هر چیزی ممکن است، پرسش واقعی این است که آیا شواهد معتبری برای احتمال وقوع یک پیامد وجود دارد یا نه.
در ادامه، این تحلیل سه دسته اصلی از هشدارهای اغراق‌آمیز درباره هوش مصنوعی را بررسی می‌کند: از دست‌رفتن کنترل انسان بر ساخته‌هایش، اَبَرهوشمندی و تمرکز قدرت در دست ماشین‌ها.
سپس نویسنده با تکیه بر تجربه مهندسی خود، زنجیره‌ای از فرض‌ها را که برای تحقق انقراض باید پشت سر هم رخ دهند بررسی می‌کند و نشان می‌دهد چرا نمی‌توان از هوش بیشتر به‌سادگی به قدرت عظیم رسید. در پایان نیز با نگاهی به تجربه تاریخی فناوری‌های پرخطر مانند فناوری هسته‌ای و زیست‌فناوری، بر نقش انتخاب‌های انسانی در طراحی، استقرار و حکمرانی هوش مصنوعی تأکید می‌کند؛ انتخاب‌هایی که کیفیت آنها دست‌کم به اندازه هوشمندی ماشین‌هایی که می‌سازیم اهمیت دارد.
سه احتمال هشداردهنده
۱. از دست‌رفتن کنترل …
