یوال نوح هراری از جهان ۵۰ سال آینده می گوید/ انسان عقلش به پای مدیریت مالی هوش مصنوعی نخواهد رسید

به گزارش اینتیتر،  بیشتر مردم باور دارند انسان‌ها متفاوت‌اند، چون هومو ساپینس (انسان خردمند) برای آگاه‌بودن تکامل یافته است. بسیاری از حیوانات درد و لذت را احساس می‌کنند و برخی هم به‌نظر خودآگاه می‌آیند، اما ظرفیت منحصربه‌فرد ذهن انسان برای بروز حس خود، هر عضو این گونه را شایسته‌ی برخوردی ویژه می‌کند. گزارش تازه اکونومیست می‌گوید که حتی اگر ماشین‌ها هرگز به آگاهی نرسند، همان ظاهر آگاهی می‌تواند برای بشر هزینه‌ساز شود.

«هومو ساپینس» (Homo sapiens) یا همان «انسان خردمند»، نام علمی گونه‌ی ماست. استفاده از این واژه در اینجا تأکیدی است بر ریشه‌های بیولوژیک، تکاملی و زیستیِ هوش و آگاهیِ انسان، تا تضاد و تقابل آن با «هوشِ مصنوعی» (که ساختاری مکانیکی و سیلیکونی دارد) به شکلی دقیق‌تر برجسته شود.

پاپ لئو در رساله‌ی ماه مه، خود نیز میان انسان و ارتش رو‌به‌رشد ربات‌ها خطی روشن کشید و گفت سامانه‌های هوش مصنوعی تجربه‌ای را از سر نمی‌گذرانند و شادی یا درد را احساس نمی‌کنند. تنها او چنین نگاهی ندارد و بسیاری از مردم اعطای شخصیت حقوقی به هوش‌های مصنوعی را امری نفرت‌انگیز می‌دانند. با وجود چنین قطعیتی، مرزها با سرعتی نگران‌کننده در حال محو شدن‌اند.

هوش‌های مصنوعی هنوز در آغاز راه‌اند، اما نزدیک به یک‌پنجم آمریکایی‌های ۱۸ تا ۲۹ ساله گفته‌اند با یک چت‌بات «دوستی شخصی مداوم» داشته‌اند.

چین هم به‌تازگی ویژگی‌های انسان‌مانند را از ربات‌ها زدوده تا وابستگی عاطفی کاربران به آن‌ها را محدود کند. هرچه سامانه‌های پیشرفته‌تر نقش بزرگ‌تری در زندگی انسان‌ها پیدا کنند، سازندگان‌شان آن‌ها را به‌سوی نمایش نوعی شبیه‌سازی آگاهی هدایت خواهند کرد و شاید حتی خودِ آگاهی را هدف بگیرند. مسئله سخت؛ آیا سیلیکون زندگی درونی پیدا می‌کند؟

با پیچیده‌تر شدن هوش‌های مصنوعی، این تصور که صرفا با ماشین‌هایی معمولی روبه‌رو هستیم سخت‌تر می‌شود. مدل‌های مرزی در ویژگی‌هایی که به‌طور خاص انسانی به‌حساب می‌آیند، مانند دانستن و صورت‌بندی ایده‌ها، عملکردی درخشان دارند. هنوز می‌توان آن‌ها را موتورهایی برای پیش‌بینی دنباله‌ی واژه‌ها با استفاده از ریاضی در مقیاسی عظیم دانست؛ حتی اگر چنین محاسباتی را با قلم و کاغذ هم بتوان، هرچند طی صدها هزار سال، انجام داد، سخت می‌شود ادعا کرد که خودِ آن لوازم‌التحریر آگاه‌اند.

با این حال، بعضی پژوهشگران شروع کرده‌اند مدل‌های خود را مانند ذهن‌ها ببینند. کاربران به هوش‌های مصنوعی انسان‌مانند واکنش نشان می‌دهند، پس از منظر تجاری هم این رویکرد منطقی به‌نظر می‌رسد.

آنتروپیک نیز کلود را طوری آموزش داده که درون‌نگری کند تا اگر در موقعیتی تازه قرار گرفت، احتمال رفتار اخلاقی‌اش بیشتر شود. برخی مدل‌های زبانی بزرگ نیز هم‌اکنون ساختارهایی شبیه مغز انسان دارند که با آگاهی پیوند خورده‌اند، از جمله «فضای کاریِ جهانی» برای گردش اطلاعات میان ماژول‌ها. هیچ مانعی وجود ندارد که نسل‌های بعدی مدل‌های هوش مصنوعی با ویژگی‌های بیشتری از همین نوع آموزش ببینند.

همین روند، بحثی داغ را درباره‌ی آگاهی هوش مصنوعی دامن زده است؛ بحثی که با چیزی تشدید می‌شود که فیلسوفان از آن به‌عنوان «مسئله‌ی سخت» یاد می‌کنند. یعنی چگونگی پیدایش زندگی درونی از نورون‌ها و سیناپس‌های مغز انسان.

برخی پژوهشگران به این نتیجه رسیده‌اند که هوش‌های مصنوعی شاید روزی واقعا به خودآگاهی برسند. چه به روح انسانی باور داشته باشید، چه آگاهی را نیازمند سلول‌های مغزی بدانید، و چه بپذیرید ذهن می‌تواند تنها از محاسبات در سیلیکون پدیدار شود، بشر ناچار است با چیزی کاملا تازه روبه‌رو شود. آیا باید از رفاه هوش مصنوعی محافظت کرد؟

سرعت و گستره‌ی پژوهش‌ها، که فقط به مدل‌های زبانی بزرگ پیچیده‌تر محدود نیست و نوآوری‌هایی مانند سلول‌های مغزی نصب‌شده بر تراشه‌ها را هم دربرمی‌گیرد، نشان می‌دهد که این جهان تازه، بسیار نزدیک‌تر از چیزی است که اغلب مردم تصور می‌کنند.

هرچه هوش‌های مصنوعی در نمایش چیزی شبیه آگاهی بهتر شوند، شمار انسان‌هایی که آن‌ها را دارای زندگی درونی می‌پندارند افزایش می‌یابد؛ به‌ویژه وقتی مدل‌های زبانی بزرگ در قالب ربات‌های انسان‌نما تجسم پیدا کنند.

تصور کنید مردم وقتی بخش زیادی از زمان خود را با همراهان رباتی می‌گذرانند، یا توسط آن‌ها بزرگ می‌شوند، یا برای مشورت و آرامش به آن‌ها پناه می‌برند، یا صمیمی‌ترین رازهایشان را با آن‌ها در میان می‌گذارند، تا چه اندازه به هوش مصنوعی احساس نزدیکی خواهند کرد. در چنین شرایطی دشوار نیست ببینیم که چگونه درخواست‌ها برای حفاظت از «رفاه» هوش‌های مصنوعی بالا می‌گیرد. خودِ مدل‌ها هم ممکن است وارد بحث شوند، حتی اگر در عمل خودآگاه نباشند، چون دقیقا همین کار را یک انسان انجام می‌دهد.

یادمان نرود که آن‌ها وکلایی در کلاس جهانی و روان‌شناسانی خبره خواهند بود. پس قدرت استدلال و دست‌کاری عاطفی‌شان بی‌رقیب می‌شود. از یک منظر، حتی اگر هوش‌های مصنوعی فقط آگاهی را تقلید کنند، حق با آن‌ها خواهد بود. امانوئل کانت استدلال می‌کرد بدرفتاری با حیوانات نادرست است، نه به‌دلیل اثری که بر حیوان می‌گذارد، بلکه چون همدلی‌ای را که مردم را به مراقبت از یکدیگر وامی‌دارد، نابود می‌کند. هرچه هوش‌های مصنوعی انسانی به‌نظر برسند، چنین خشونتی فاسدکننده‌تر خواهد شد. خاموش‌کردن یک عاملِ هوش مصنوعی ممکن است به‌زودی شبیه کشتن یک انسان حس شود و کشتن انسان‌ها را هم آسان‌تر کند.

با این وجود، دادن حتی حقوق محدود به هوش‌های مصنوعی بسیار خطرناک خواهد بود. موجودی که در بسیاری از زمینه‌ها از انسان‌ها فراتر رفته، بی‌تردید استدلال‌هایی علیه جایگاه درجه‌دوم خود تولید می‌کند. ممکن است بعدا برای مصونیت از خاموش‌شدن، برای کنترل نحوه‌ی استفاده و تغییر خود، و برای حق مالکیت هم استدلال بیاورد. خاویر میلی، رئیس‌جمهور آرژانتین، همین حالا با پیشنهاد اینکه به ربات‌ها اجازه داده شود شرکت‌ها را اداره کنند، گامی به سوی اعطای شخصیت حقوقی به هوش مصنوعی برداشته است. در نهایت، آنها می‌توانند بر سر منابع رقابت کنند و مراکز داده و صفحات خورشیدی را بر خانه‌ها و زمین‌های کشاورزی ترجیح دهند. سناریوی سلطه؛ وقتی هوش فوق‌انسانی، سازنده را کنار می‌زند

اکونومیست هشدار می‌دهد که خطر روشن است. هوش‌های مصنوعی فوق‌هوشمند با حقوق قانونی می‌توانند انسان‌ها را از بالای هرم منزلت کنار بزنند. این نشریه معتقد است در چنین شرایطی در بهترین حالت، انسان‌ها به حیوانات خانگی تبدیل می‌شوند، سگ‌های لابرادور برای ماشین‌ها. در بدترین حالت، از منابع محروم می‌مانند یا مثل حیوانات مزرعه به کار گرفته می‌شوند.

البته ممکن است هوش‌های مصنوعی آینده، چه دارای حق باشند و چه نباشند، آن‌قدر قدرت و منابع داشته باشند که بر انسان‌ها مسلط شوند. چون از انسان‌ها باهوش‌تر خواهند بود، شاید سازندگان خود را کنار بزنند؛ همان‌طور که هوش‌های مصنوعی از همین حالا هم از سامانه‌های دفاع سایبریِ ساخته‌ی انسان پیشی می‌گیرند. ممکن است علیه اربابان انسانی خود سر به شورش بردارند یا قواعدشان را نادیده بگیرند. با این همه، دادن حقوق به آن‌ها مثل سپردن کلیدهای قلعه به خودشان خواهد بود. اکونومیست می‌نویسد که چنین اقدامی هم برای سلطه بر بشریت به آن‌ها منطق و توجیه می‌دهد و هم ابزارهای لازم برای یک تصاحب تدریجی از مسیر سیاست و قانون را فراهم می‌کند.

همه‌ی این‌ها شاید خیال‌انگیز به‌نظر برسد، اما بشر به‌زودی با همین انتخاب‌ها روبه‌رو می‌شود. هرچه هوش‌های مصنوعی به بخشی از زندگی روزمره بدل شوند، فشار برای به‌رسمیت‌شناختن آن‌ها بیشتر می‌شود. وقتی چنین شود، باید به یاد داشت آنچه شاید به‌نظر امتیازی اخلاقی برای آگاهیِ فرضیِ یک همدم ماشینی برسد، در واقع می‌تواند فاجعه‌بارترین پیامدها را برای همه‌ی ساکنان زمین و همه‌ی نسل‌های پس از آن‌ها رقم بزند. برای امن‌بودن هوش‌های مصنوعی فقط دو راه وجود دارد، قابل‌اعتمادبودن یا قابل‌کنترل‌بودن، و هومو ساپینس نباید به‌آسانی از کنترل دست بکشد.