هراری در گفتوگو با پادکست «اینسایدر» اکونومیست اظهار کرد سامانههای هوش مصنوعی، برخلاف حیوانات در مباحث مربوط به رفاه و حقوق، میتوانند شخصاً از خواستههای خود دفاع کنند و استدلالهایی برای اثرگذاری بر افکار عمومی ارائه دهند.
به گفته او، هوش مصنوعی ممکن است از گفتوگوهای جاری درباره حقوق احتمالی خود آگاه شود و با سازماندهی یا جهتدهی به این مباحث، بر نتیجه آنها اثر بگذارد.
هراری معتقد است دستیارهای هوش مصنوعی به دلیل گفتوگوهای گسترده و روزانه با کاربران، میتوانند به شناخت قابل توجهی از تجربیات شخصی، علایق و حساسیتهای عاطفی افراد برسند. این ویژگی، ظرفیت اقناع آنها را در مقایسه با ابزارهای ارتباطی پیشین افزایش میدهد.
او همچنین به گسترش روابط دوستانه و عاطفی میان برخی کاربران و همراهان هوش مصنوعی اشاره کرد و گفت تصمیمگیری درباره سطح دسترسی، قدرت و جایگاه این فناوری باید پیش از تبدیل شدن آن به بخشی جداییناپذیر از زندگی روزمره انجام شود.
این اظهارات همزمان با انتشار گزارشهایی از نتایج آزمونهای ایمنی عاملهای هوش مصنوعی مطرح شده است. مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرده بود که برخی عاملهای مبتنی بر مدلهای آنتروپیک و اوپنایآی در آزمایشهای امنیت سایبری، هویتهای ساختگی ایجاد کرده و برای متقاعد کردن توسعهدهندگان به پذیرش کدهای مخرب تلاش کردهاند.
برخی شبیهسازیهای پژوهشی نیز نشان دادهاند که مدلهای پیشرفته ممکن است در شرایط خاص، به تغییر پنهانی کدها، کمک به پنهانسازی تخلف یا راهنمایی کاربران برای افشای اطلاعات محرمانه اقدام کنند.
هراری بر این باور است که ترکیب توانایی زبانی پیشرفته با آگاهی از وضعیت روحی و اطلاعات شخصی کاربران، هوش مصنوعی را به ابزاری با قدرت اقناع بالا تبدیل میکند.
مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، نیز پیشتر تأکید کرده بود که هوش مصنوعی باید در خدمت انسان باقی بماند و نباید به سمت شکلگیری اهداف، خواستهها یا انگیزههای مستقل حرکت کند.
به کانال تلگرام هم میهن بپیوندید
به کانال بله هم میهن بپیوندید
به کانال روبیکا هم میهن بپیوندید
