دکتر داوود ادیب، رئیس انجمن صنفی کارفرمایی شرکتهای فناور هوش مصنوعی و اقتصاد دیجیتال ایران، در یادداشت ارسالی برای سیتنا آورده است:
در بخش نخست این یادداشت، این پرسش مطرح شد که آیا ممکن است یک هوش مصنوعی بسیار پیشرفته و خودمختار، بدون آنکه الزاماً «شرور» باشد، از کنترل انسان خارج شود. توضیح داده شد که یکی از نگرانیهای جدی درباره سیستمهای بسیار پیشرفته آینده این است که هوش مصنوعی در مسیر تحقق هدفی که خود انسان برای آن تعیین کرده، رفتارهایی از خود نشان دهد که طراحانش پیشبینی نکردهاند.
اما این بحث ما را به پرسشی شاید دشوارتر میرساند: اگر روزی هوش مصنوعی به سطح بسیار بالایی از توانمندی و خودمختاری برسد، آیا میتوان آن را برای همیشه تحت کنترل انسان نگه داشت؟
در نگاه نخست، پاسخ ساده به نظر میرسد. ممکن است بگوییم اگر یک سیستم هوش مصنوعی رفتار خطرناکی از خود نشان داد، کافی است آن را متوقف یا خاموش کنیم. اما مسئله دقیقاً از همین نقطه پیچیده میشود. …
