به گزارش خبرنگار اقتصاد معاصر؛ شرکت OpenAI در تازهترین اقدام خود برای افزایش ایمنی کاربران نوجوان، نسخهای از ChatGPT با محافظتهای متناسب با سن را معرفی کرده است؛ اقدامی که پس از افزایش نگرانیها درباره تاثیر چتباتهای هوش مصنوعی بر سلامت روان نوجوانان و طرح چندین دعوا علیه شرکت انجام میشود.
نسخه جدید ChatGPT علاوه بر سازوکارهای ایمنی بیشتر، امکانات آموزشی تازهای را نیز در اختیار نوجوانان قرار میدهد. یکی از مهمترین این قابلیتها حالت مطالعه است که به جای ارائه مستقیم پاسخ، با طرح پرسشهای راهنما و ارائه توضیحات مرحلهبهمرحله، کاربر را به درک بهتر مطالب و حل مساله هدایت میکند.
OpenAI همچنین قابلیتی برای یادآوری تکالیف در نظر گرفته است که در صورت تشخیص تلاش کاربر برای دریافت پاسخ آماده و تقلب، وی را به استفاده از حالت مطالعه هدایت میکند. پشتیبانی از آزمونها و تصاویر آموزشی و همچنین امکان تعیین شرایط فعال شدن پیشفرض حالت مطالعه از سوی والدین یا سرپرستان، از دیگر امکانات این نسخه است.
با وجود این، میزان موفقیت این تدابیر در عمل همچنان مشخص نیست. یکی از چالشهای اصلی، امکان دور زدن محدودیتهای اعمالشده از سوی نوجوانان است؛ موضوعی که بهویژه در زمینه کنترلهای دیجیتال و محدودیتهای والدین، همواره یکی از دغدغههای اصلی بوده است.
OpenAI اعلام کرده محافظتهای متناسب با سن در نسخه نوجوانان بهصورت پیشفرض فعال خواهند بود و هدف آنها کاهش مواجهه کاربران با محتوای آسیبزا یا نامتناسب با سن است. این سیاستها بر پایه اصول ویژه کاربران زیر ۱۸ سال در چارچوب Model Spec این شرکت و با اتکا به دیدگاه متخصصان و یافتههای مرتبط با رشد نوجوانان طراحی شدهاند.
در کنار این اقدامات، والدین میتوانند از ابزارهای خانوادگی و کنترلهای والدین OpenAI برای مدیریت برخی تنظیمات، دریافت هش
دارهای ایمنی و تعیین ساعات سکوت استفاده کنند. OpenAI همچنین از همکاری با CodeAI برای آموزش نوجوانان درباره نحوه عملکرد هوش مصنوعی، شیوه هدایت و ارزیابی پاسخهای آن و استفاده مسوولانه از این فناوری خبر داده است.
این تغییرات در …
