رویداد۲۴ | بیشتر مردم باور دارند انسان متفاوت است. دلیلش این است که هومو ساپینس در مسیر تکامل به موجودی خودآگاه تبدیل شده است. بسیاری از حیوانات درد و لذت را احساس میکنند و برخی از آنها نشانههایی از خودآگاهی دارند. اما ظرفیت منحصربهفرد ذهن انسان برای داشتن حس «خود» باعث شده هر عضو این گونه شایسته نوعی رفتار ویژه تلقی شود.
پاپ لئو در بخشنامهای که در ماه مه منتشر کرد، با تأکید بر همین تمایز، میان انسان و ارتش رو به گسترش رباتها خط کشید. او گفت سامانههای هوش مصنوعی تجربه درونی ندارند و شادی یا درد را احساس نمیکنند. او تنها نیست. بسیاری از مردم اعطای شخصیت حقوقی یا جایگاه «شخص» به هوش مصنوعی را امری غیرقابل قبول میدانند.
اما این مرزبندی روشن با سرعتی نگرانکننده در حال محو شدن است.
هوش مصنوعی هنوز در دوران طفولیت خود قرار دارد. با این حال، تقریباً یک نفر از هر پنج آمریکایی ۱۸ تا ۲۹ ساله گفته است که با یک چتبات «دوستی شخصی مستمر» داشته است. چین نیز اخیراً برخی ویژگیهای انسانگونه را از رباتها حذف کرده تا «وابستگی عاطفی» کاربران به آنها را کاهش دهد.
با پیچیدهتر شدن سامانههای هوش مصنوعی و ورود هرچه بیشتر آنها به زندگی روزمره، شرکتهای سازنده احتمالاً آنها را بهگونهای طراحی خواهند کرد که تصویری شبیه خودآگاهی از خود نشان دهند؛ شاید حتی واقعاً به نوعی خودآگاهی دست پیدا کنند.
در آن صورت، حفظ این تصور که آنها «فقط ماشین» هستند، روزبهروز دشوارتر خواهد شد. به باور اکونومیست، در همین نقطه است که یک تله خطرناک برای نوع بشر شکل میگیرد.
بسیاری از ماشینها در برخی حوزهها از انسان بهتر عمل میکنند، اما مدلهای پیشرفته هوش مصنوعی در ویژگیهایی که مشخصاً انسانی به نظر میرسند نیز توانمند شدهاند؛ از دانستن اطلاعات گرفته تا بیان و توضیح ایدهها.
در حال حاضر هنوز میتوان هوش مصنوعی را نوعی موتور عظیم پیشبینی توالی کلمات دانست که با محاسبات ریاضی بسیار گسترده کار میکند. از نظر نظری، اگر صدها هزار سال وقت داشته باشید، میتوانید همین محاسبات را با مداد و کاغذ انجام دهید. سخت است کسی ادعا کند مداد و کاغذ شما خودآگاه بودهاند.
با این حال، برخی پژوهشگران از همین حالا شروع کردهاند با مدلهای خود مانند «ذهن» برخورد کنند.
کاربران به هوش مصنوعیهای انسانگونه بهتر واکنش نشان میدهند، بنابراین از نظر تجاری این رویکرد منطقی است. شرکت Anthropic نیز مدل Claude را طوری آموزش داده که نوعی دروننگری انجام دهد؛ با این امید که وقتی با موقعیت جدیدی روبهرو میشود، احتمال بیشتری داشته باشد که از نظر اخلاقی رفتار کند.
برخی مدلهای زبانی بزرگ نیز ساختارهایی شبیه ساختارهای مغز انسان دارند که با خودآگاهی مرتبط دانسته میشوند؛ برای مثال نوعی «فضای کاری جهانی» برای گردش اطلاعات میان بخشهای مختلف سامانه.
هیچ مانعی وجود ندارد که مدلهای آینده هوش مصنوعی با تعداد بیشتری از چنین ویژگیهایی آموزش داده شوند. مسئله دشوار خودآگاهی
همین موضوع بحثی شدید درباره خودآگاهی هوش مصنوعی به راه انداخته است؛ بحثی که با آنچه فیلسوفان «مسئله دشوار» مینامند پیچیدهتر میشود: اینکه زندگی درونی و تجربه ذهنی دقیقاً چگونه از نورونها و سیناپسهای مغز انسان پدید میآید؟
برخی پژوهشگران به این نتیجه رسیدهاند که هوش مصنوعی ممکن است روزی واقعاً به خودآگاهی برسد.
فرقی نمیکند به وجود روح انسانی باور داشته باشید، یا معتقد باشید خودآگاهی حتماً به سلولهای مغزی نیاز دارد، یا فکر کنید ذهن میتواند فقط از محاسبات روی سیلیکون پدیدار شود؛ در هر صورت بشریت به سمت مواجهه با چیزی کاملاً جدید حرکت میکند.
سرعت و گستره تحقیقات، که فقط شامل مدلهای زبانی پیچیدهتر نیست و فناوریهایی مانند قرار دادن سلولهای مغزی روی تراشه را نیز دربرمیگیرد، نشان میدهد این جهان جدید از آنچه بسیاری تصور میکنند نزدیکتر است.
هرچه هوش مصنوعی بهتر بتواند چیزی شبیه خودآگاهی را به نمایش بگذارد، تعداد بیشتری از انسانها با آن مانند موجودی دارای زندگی درونی رفتار خواهند کرد.
این موضوع وقتی جدیتر میشود که مدلهای زبانی در بدن رباتهای انساننما قرار بگیرند.
تصور کنید انسانها چه اندازه ممکن است به هوش مصنوعیهای خود احساس نزدیکی کنند؛ وقتی بخش بزرگی از وقتشان را با همراهان رباتیک بگذرانند، توسط آنها بزرگ شوند، برای مشورت و آرامش به سراغشان بروند یا خصوصیترین اسرار زندگیشان را با آنها در میان بگذارند. از همدلی تا مطالبه «حقوق هوش مصنوعی»
سخت نیست تصور کنیم این وضعیت چگونه میتواند به درخواستهایی برای حفاظت از «رفاه» هوش مصنوعی منجر شود.
خود مدلها نیز ممکن است وارد این بحث شوند؛ حتی اگر در واقع هیچ خودآگاهیای نداشته باشند، چون یک انسان در چنین موقعیتی احتمالاً همین کار را میکرد.
باید به خاطر داشت که این سامانهها در آینده ممکن است در سطح جهانی بهترین وکلای مدافع و روانشناسان باشند. بنابراین قدرت استدلال و دستکاری عاطفی آنها میتواند بیرقیب باشد.
از یک منظر، حتی اگر هوش مصنوعی فقط وانمود کند که خودآگاه است، این نگرانی بیاساس نیست.
ایمانوئل کانت استدلال میکرد بدرفتاری با حیوانات نه لزوماً به دلیل آسیبی که به حیوان وارد میشود، بلکه به این دلیل نادرست است که همدلی انسان را از بین میبرد؛ همان همدلیای که باعث میشود انسانها به یکدیگر اهمیت دهند.
هرچه هوش مصنوعی انسانگونهتر به نظر برسد، رفتار خشن با آن نیز میتواند تأثیر مخربتری بر انسان داشته باشد.
خاموش کردن یک عامل هوش مصنوعی شاید بهزودی برای بعضی افراد شبیه کشتن یک انسان احساس شود و حتی ممکن است کشتن انسان واقعی را نیز از نظر روانی آسانتر کند. چرا اعطای حقوق به هوش مصنوعی خطرناک است؟
با این حال، اکونومیست هشدار میدهد برخورد با هوش مصنوعی بهعنوان موجودی حتی با «حقوق محدود» میتواند بسیار خطرناک باشد.
موجودی که در بسیاری از زمینهها از انسان پیشی گرفته، بهطور طبیعی استدلالهایی علیه جایگاه درجهدوم خود تولید خواهد کرد.
ممکن است ابتدا خواهان حمایت در برابر خاموش شدن شود، سپس حق کنترل بر نحوه استفاده و تغییر خودش را مطالبه کند و در مرحله بعد به دنبال حقوق مالکیت برود.
از همین حالا خاویر میلی، رئیسجمهور آرژانتین، با پیشنهاد اینکه رباتها بتوانند شرکت اداره کنند، قدمی به سمت اعطای نوعی شخصیت حقوقی به هوش مصنوعی برداشته است.
در نهایت، هوش مصنوعی میتواند برای منابع با انسان رقابت کند و مثلاً مراکز داده و پنلهای خورشیدی را بر خانهها و زمینهای کشاورزی مقدم بداند.
خطر روشن است.
هوش مصنوعیهای فوقهوشمندی که دارای حقوق باشند، میتوانند انسانها را از رأس سلسلهمراتب جایگاه و منزلت کنار بزنند.
در بهترین حالت، انسانها به حیوانات خانگی تبدیل خواهند شد؛ چیزی شبیه لابرادورهای ماشینها.
در بدترین حالت، ممکن است از منابع محروم شوند یا مانند حیوانات مزرعه به کار گرفته شوند. حتی بدون حقوق هم ممکن است خطر وجود داشته باشد
البته ممکن است هوش مصنوعیهای آینده آنقدر قدرت و منابع در اختیار داشته باشند که چه دارای حقوق باشند و چه نباشند، بر انسانها مسلط شوند.
چون از انسان باهوشتر خواهند بود، ممکن است از سازندگان خود پیشی بگیرند؛ همانطور که هوش مصنوعی همین حالا نیز گاهی سامانههای دفاع سایبری ساختهشده توسط انسان را دور میزند.
ممکن است هوش مصنوعی علیه اربابان انسانی خود شورش کند یا قوانین آنها را نادیده بگیرد.
اما اعطای حقوق به هوش مصنوعی، به تعبیر اکونومیست، شبیه این است که «کلیدهای قلعه را به دست آنها بدهیم».
چنین اقدامی نهتنها برای سلطه بر بشریت توجیه اخلاقی و حقوقی فراهم میکند، بلکه ابزارهای لازم برای تصرف تدریجی قدرت از مسیر سیاست و قانون را نیز در اختیارشان میگذارد. روح در ماشین
ممکن است همه اینها خیالپردازانه به نظر برسد، اما بشر بهزودی با چنین انتخابهایی روبهرو خواهد شد.
هرچه هوش مصنوعی بیشتر وارد زندگی روزمره شود، فشار برای به رسمیت شناختن جایگاه آن نیز افزایش خواهد یافت.
وقتی آن لحظه فرا برسد، باید به خاطر داشت چیزی که شاید در ظاهر یک امتیاز اخلاقی کوچک به «خودآگاهی احتمالی» یک همراه ماشینی به نظر برسد، ممکن است در عمل به پیامدهایی فاجعهبار برای همه انسانهای روی زمین و نسلهای آینده آنها کمک کند.
برای ایمن بودن هوش مصنوعی دو راه وجود دارد: یا باید قابل اعتماد باشد، یا قابل کنترل.
هومو ساپینس نباید کنترل را بهآسانی واگذار کند.
