شما دقیقاً به «چتجیپیتی»(ChatGPT) میگویید که چه کاری انجام دهد. سپس پاسخ میرسد و میبینید که مشکلی وجود دارد زیرا این مدل هوش مصنوعی، اطلاعاتی را که شما درخواست نکرده بودید اضافه کرده، ساختار را تغییر داده، نکتهای را که به آن گفته بودید حذف کند، تکرار کرده یا یکی از دستورالعملهای شما را به طور کامل نادیده گرفته است.
به گزارش ایسنا به نقل از فاینچنل، شما دستور متنی یا «پرامپت»(Prompt) خود را اصلاح میکنید. چتجیپیتی عذرخواهی میکند و قول میدهد که از دستورالعملها پیروی کند. گاهی اوقات این کار را انجام میدهد، اما گاهی اوقات همان اشتباه را تکرار میکند. این تجربه که به طور فزایندهای رایج شده است، یکی از مشکلات حلنشده در هوش مصنوعی را آشکار میکند. مشکل این است که مدلهای زبانی بزرگ هنوز در پیروی از دستورالعملها ناقص هستند؛ حتی زمانی که آن دستورالعملها واضح باشند.
این مسئله با حرکت هوش مصنوعی از چتباتها به سوی عاملهایی که قادر به وبگردی، مطالعه اسناد، استفاده از نرمافزارها و انجام اقدامات به نیابت از کاربران هستند، اهمیت فزایندهای پیدا میکند. …
