وی افزود: در این مسیر، مهارتهایی مانند تحلیل چندبعدی مسائل، داشتن نگرش کلان به موضوعات و توانایی برقراری ارتباط میان موضوعات، ابزارها و روشهای مختلف برای حل یک مسئله، اهمیت بسیار بالایی دارد. اینها مهارتهایی هستند که در عصر هوش مصنوعی و با گسترش توانمندی دستیارهای هوشمند، همچنان مورد نیاز انسان خواهند بود.
این کارشناس هوش مصنوعی ادامه داد: برخلاف تصور برخی، با پیشرفت فناوری نهتنها اهمیت این مهارتها کاهش پیدا نمیکند، بلکه هر سال بر ارزش آنها افزوده میشود. در عین حال، بسیاری از افراد نیز همزمان با توسعه فناوری، در این حوزهها دچار ضعف میشوند؛ از همین رو انتظار میرود نظام آموزشی و دانشگاهها با اصلاح روشهای سنجش و ارزیابی، دانشجویان را به ارتقای این تواناییها هدایت کنند.
شریعتزاده با اشاره به شیوه صحیح استفاده از دستیارهای هوشمند و چتباتها بیان کرد: استفاده درست و فرهنگمند از این ابزارها را میتوان در چند مرحله تعریف کرد؛ نخست، درک صحیح و کلان از مسئله، سپس تشریح دقیق زمینه یا Context موضوع، پس از آن استفاده از هوش مصنوعی برای تولید پاسخ و در ادامه بازبینی پاسخ تولیدشده، بهویژه از نظر صحت، دقت و کامل بودن آن. اگر پاسخ تولیدشده این ویژگیها را نداشته باشد، باید همین مراحل دوباره تکرار شود تا در نهایت پاسخی دقیق، کارآمد و متناسب با زمینه واقعی مسئله به دست آید.
افراط و تفریط در استفاده از هوش مصنوعی، تهدیدی برای خلاقیت است
وی با اشاره به تأثیر نحوه استفاده از هوش مصنوعی بر خلاقیت اظهار کرد: تکیه صرف بر هوش مصنوعی میتواند به کاهش خلاقیت بینجامد. در حقیقت، بهکارگیری هوش مصنوعی بهخودیخود نه موجب کاهش خلاقیت میشود و نه افزایش آن؛ بلکه استفاده نادرست، چه از نظر میزان استفاده و چه از نظر کیفیت بهرهگیری، میتواند پیامدهایی مانند کاهش خلاقیت، افت دقت و انجام نادرست امور را به دنبال داشته باشد.
مدیر مرکز مشاوره انجمن هوش مصنوعی ایران افزود: هنگامی که از کمیت و کیفیت صحیح استفاده از هوش مصنوعی سخن میگوییم، منظور آن است که نه در استفاده از این فناوری افراط شود و نه تفریط. از سوی دیگر، کیفیت استفاده نیز اهمیت ویژهای دارد؛ به این معنا که هم ورودیهای مناسبی در اختیار هوش مصنوعی قرار گیرد و هم پاسخهای تولیدشده بهطور دقیق بازبینی، صحتسنجی و با مسئله اصلی تطبیق داده شوند.
شریعتزاده ادامه داد: چنین فرآیندی بهصورت خودکار اتفاق نمیافتد. طراحی دستیارهای هوشمند و مدلهای زبانی بزرگ به گونهای است که ذاتاً سازوکاری برای اعمال مرزهای دقیق بازبینی در اختیار کاربر قرار نمیدهند. بنابراین اگر کاربر از این ابزارها به شکل نادرست استفاده کند، نه خود دستیار هوشمند متوجه این مسئله میشود و نه هشداری به کاربر ارائه میکند تا از بروز خطا جلوگیری شود.
ضرورت آموزش هدفمند فرهنگ صحیح استفاده از هوش مصنوعی
وی تأکید کرد: لازم است این مهارتها بهصورت هدفمند آموزش داده شوند و مدارس، دانشگاهها و سایر مراکز مسئول آموزش فناوری، فرهنگ صحیح استفاده از هوش مصنوعی را به افراد منتقل کنند تا کاربران بتوانند از این ابزارها بهعنوان یک دستیار فکری بهره ببرند، نه جایگزینی برای تفکر و قضاوت انسانی باشند.
این کارشناس هوش مصنوعی با اشاره به یکی از خطاهای رایج در استفاده از دستیارهای هوشمند اظهار کرد: برای مثال، زمانی که یک ایده کسبوکاری، علمی یا فناورانه با یک دستیار هوشمند مطرح میشود، این ابزارها معمولاً ویژگیها و جنبههای مثبت آن ایده را برجسته میکنند. این مسئله ممکن است باعث شود فرد نسبت به ایده خود دچار برداشت نادرست و خوشبینی بیش از حد شود.
شریعتزاده افزود: نکته قابل توجه این است که اگر همان ایده دقیقاً از زاویهای کاملاً مخالف برای دستیار هوشمند مطرح شود، باز هم مشاهده میکنیم که پاسخ تا حد زیادی در راستای همان نگاه و دیدگاه پرسشگر شکل میگیرد. این ویژگی میتواند زمینهساز بروز خطاهای شناختی و تصمیمگیریهای نادرست شود و حتی در برخی موارد، خسارتهای قابل توجهی را در نتیجه اتکای بیش از حد به توصیههای دستیار هوشمند به کاربران تحمیل کند.
وی ادامه داد: یکی از دلایل این مسئله، وجود نوعی «سوگیری تأییدطلبی» و همچنین تمایل به تولید پاسخها و جملات مثبتتر در مدلهای زبانی بزرگ است. این ویژگی بهصورت صریح در مرحله supervized fine-tuning (sft) یا «تنظیم دقیق نظارتشده» در فرآیند آموزش این مدلها شکل میگیرد و میتواند در صورت استفاده ناآگاهانه، آثار و پیامدهای مخربی برای کاربران به همراه داشته باشد.
مدیر مرکز مشاوره انجمن هوش مصنوعی ایران تأکید کرد: به همین دلیل، کاربران نباید پاسخهای هوش مصنوعی را بدون ارزیابی و بررسی بپذیرند. استفاده صحیح از این فناوری زمانی محقق میشود که کاربر بتواند ضمن بهرهگیری از توانمندیهای دستیار هوشمند، همواره پاسخها را از منظر دقت، صحت، کامل بودن و انطباق با واقعیت مورد بازبینی قرار دهد و از گرفتار شدن در سوگیریهای شناختی ناشی از نحوه پاسخدهی مدلهای هوش مصنوعی جلوگیری کند.
انتهای پیام
