همین توانایی باعث میشود مدلهای هوش مصنوعی متنهایی طبیعی و سودمند تولید کنند، اما تضمین نمیکند که هر نام، تاریخ، عدد، نقلقول یا منبعی که در پاسخ میآید، درست باشد.
گاهی مدل اطلاعات ناقص را با جزئیاتی ساختگی تکمیل میکند؛ پدیدهای که در ادبیات هوش مصنوعی از آن با عنوان «توهم» یا Hallucination یاد میشود. دکتر اباذر کریمی پنابندانی، متخصص هوش مصنوعی و عضو آکادمی علوم اروپا
خطر اصلی، فقط خطا نیست
دکتر اباذر کریمی پنابندانی، متخصص هوش مصنوعی و عضو آکادمی علوم اروپا میگوید: انسانها هم اشتباه میکنند و خطای هوش مصنوعی موضوع تازهای نیست. اما به اعتقاد کریمی، مشکل مهمتر این است که هوش مصنوعی ممکن است هنگام ارائه یک پاسخ اشتباه، همان نشانههای اطمینانی را داشته باشد که هنگام ارائه یک پاسخ صحیح دارد.
کاربر معمولاً پشتصحنه تولید پاسخ را نمیبیند و نمیداند کدام بخش بر یک منبع معتبر تکیه دارد، کدام قسمت استنباط مدل است و کدام بخش صرفاً محتمل به نظر رسیده است؛ بنابراین، روانی متن نباید جای اعتبار شواهد را بگیرد.
وقتی یک اشتباه میتواند جدی باشد
این خطاها در پرسشهای روزمره شاید فقط باعث اتلاف زمان شوند، اما در حوزههایی مانند پزشکی، حقوقی، مالی و علمی، پیامدهای جدیتری دارند.
تصور کنید فردی درباره تداخل دو دارو سؤال میکند، مدیری بر اساس یک عدد تأییدنشده تصمیم مالی میگیرد، دانشجویی منبعی ساختگی را در مقاله خود میآورد یا شهروندی یک توضیح حقوقی ناقص را مبنای اقدام قرار میدهد. در چنین شرایطی، هوش مصنوعی میتواند نقطه شروع بررسی باشد، اما نباید بهتنهایی نقش مرجع نهایی را ایفا کند.
بیشتر بخوانید : دانشمندان با الهام از ژنوم باکتری، هوش مصنوعی کوچکتر میسازند
تحقیقات جدید یک پژوهشگر و متخصص هوش مصنوعی ایرانی در مورد کشف تناقضهای پنهان در هوش مصنوعی
سواد هوش مصنوعی فقط کار با ابزار نیست …
