بهای پایداری در عصر الگوریتم‌ها

هر روز خبرهای تازه‌ای از توانایی‌های هوش مصنوعی، از تولید متن و تصویر و تحلیل داده‌ها تا پیش‌بینی بیماری‌ها و کمک به تصمیم‌گیری‌های اقتصادی، منتشر می‌شود. هم‌زمان، نگرانی‌ها درباره حذف مشاغل، وابستگی انسان به ماشین و پیامدهای زیست‌محیطی این فناوری افزایش یافته است. اما شاید پرسش مهم‌تر این باشد که انسان در جریان توسعه هوش مصنوعی تا چه اندازه حاضر است اختیار، قدرت تحلیل و توانایی تصمیم‌گیری خود را به آن واگذار کند. آیا این فناوری صرفاً ابزاری برای تقویت توانایی‌های انسان است یا به‌تدریج به مرجعی برای اندیشیدن و تصمیم‌گرفتن تبدیل می‌شود؟

برای بررسی این پرسش‌ها، پیام ما با «محمد رهبری»، پژوهشگر حوزه جامعه‌شناسی و فناوری و مدرس «دانشگاه علامه طباطبایی»، و «مهدی نوریان»، پژوهشگر مطالعات فرهنگی و مدرس دانشگاه، گفت‌وگو کرده است. اعتماد به الگوریتم و وابستگی شناختی

 

یکی از دلایل استقبال از هوش مصنوعی، توانایی آن در تولید پاسخ‌هایی منسجم، سریع و قانع‌کننده است. تشخیص خطاهای این پاسخ‌ها گاهی دشوار می‌شود. همین ویژگی این تصور را ایجاد کرده که شاید بتوان تحلیل و قضاوت انسانی را نیز به الگوریتم‌ها واگذار کرد.

محمد رهبری معتقد است باید میان توانایی تولید پاسخ درست و درک آن پاسخ تفاوت قائل شد. مدل‌های زبانی بزرگ براساس حجم عظیمی از داده‌های متنی، تصویری و صوتی آموزش دیده‌اند و ممکن است پاسخ‌های درستی تولید کنند، اما لزوماً درکی از محتوای پاسخ‌های خود ندارند. او دراین‌باره می‌گوید: «شاید هوش مصنوعی پاسخ‌های درستی به ما بدهد، اما لزوماً درکی از پاسخی که می‌دهد ندارد.»

از نظر رهبری، مسئله مهم، اعتماد بی‌قیدوشرط به خروجی این مدل‌هاست. به گفته او، هوش مصنوعی گاهی پاسخ‌هایی جعل می‌کند که مبتنی بر واقعیت نیستند، اما آن‌ها را چنان حرفه‌ای و انسانی ارائه می‌دهد که تشخیص نادرستی‌شان دشوار است. رهبری می‌گوید: «ما نباید نسبت به پاسخ‌هایی که هوش مصنوعی می‌دهد، دچار شیفتگی شویم.» به همین دلیل، به‌ویژه در موضوعات حساس و مهم، باید پاسخ‌های این ابزار را راستی‌آزمایی کرد. رهبری تأکید می‌کند: «به هوش مصنوعی به‌عنوان یک دستیار نگاه کنیم، نه به‌عنوان یک جایگزین.» …