هوش مصنوعی در رویارویی تصمیم؛ با اعتماد کمتر روی نمودار سرعت حرکت کنید - پیوست

به گزارش خبرنگار اقتصاد معاصر؛ شرکت OpenAI در تازه‌ترین اقدام خود برای افزایش ایمنی کاربران نوجوان، نسخه‌ای از ChatGPT با محافظت‌های متناسب با سن را معرفی کرده است؛ اقدامی که پس از افزایش نگرانی‌ها درباره تاثیر چت‌بات‌های هوش مصنوعی بر سلامت روان نوجوانان و طرح چندین دعوا علیه شرکت انجام می‌شود.

نسخه جدید ChatGPT علاوه بر سازوکارهای ایمنی بیشتر، امکانات آموزشی تازه‌ای را نیز در اختیار نوجوانان قرار می‌دهد. یکی از مهم‌ترین این قابلیت‌ها حالت مطالعه است که به جای ارائه مستقیم پاسخ، با طرح پرسش‌های راهنما و ارائه توضیحات مرحله‌به‌مرحله، کاربر را به درک بهتر مطالب و حل مساله هدایت می‌کند.

OpenAI همچنین قابلیتی برای یادآوری تکالیف در نظر گرفته است که در صورت تشخیص تلاش کاربر برای دریافت پاسخ آماده و تقلب، وی را به استفاده از حالت مطالعه هدایت می‌کند. پشتیبانی از آزمون‌ها و تصاویر آموزشی و همچنین امکان تعیین شرایط فعال شدن پیش‌فرض حالت مطالعه از سوی والدین یا سرپرستان، از دیگر امکانات این نسخه است.

با وجود این، میزان موفقیت این تدابیر در عمل همچنان مشخص نیست. یکی از چالش‌های اصلی، امکان دور زدن محدودیت‌های اعمال‌شده از سوی نوجوانان است؛ موضوعی که به‌ویژه در زمینه کنترل‌های دیجیتال و محدودیت‌های والدین، همواره یکی از دغدغه‌های اصلی بوده است.

OpenAI اعلام کرده محافظت‌های متناسب با سن در نسخه نوجوانان به‌صورت پیش‌فرض فعال خواهند بود و هدف آن‌ها کاهش مواجهه کاربران با محتوای آسیب‌زا یا نامتناسب با سن است. این سیاست‌ها بر پایه اصول ویژه کاربران زیر ۱۸ سال در چارچوب Model Spec این شرکت و با اتکا به دیدگاه متخصصان و یافته‌های مرتبط با رشد نوجوانان طراحی شده‌اند.

در کنار این اقدامات، والدین می‌توانند از ابزارهای خانوادگی و کنترل‌های والدین OpenAI برای مدیریت برخی تنظیمات، دریافت هش

دارهای ایمنی و تعیین ساعات سکوت استفاده کنند. OpenAI همچنین از همکاری با CodeAI برای آموزش نوجوانان درباره نحوه عملکرد هوش مصنوعی، شیوه هدایت و ارزیابی پاسخ‌های آن و استفاده مسوولانه از این فناوری خبر داده است.

این تغییرات در شرایطی انجام می‌شود که ChatGPT از زمان عرضه در سال ۲۰۲۲ با سرعت زیادی در میان کاربران گسترش …

گروه علمی و فناوری برنا: شرکت OpenAI روز سه‌شنبه از راه‌اندازی حالت جدید ChatGPT برای نوجوانان خبر داد. این نسخه با هدف ایجاد محیطی امن‌تر برای کاربران کم‌سن‌وسال، کنترل‌های والدین و قابلیت‌های امنیتی تقویت‌شده را در اختیار خانواده‌ها قرار می‌دهد.

به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، بر اساس اعلام OpenAI حالت جدید برای نوجوانان طراحی شده و گفت‌و‌گو درباره موضوعات پرخطر از جمله خودآزاری، خشونت و اختلالات خوردن را محدود می‌کند. این شرکت همچنین اعلام کرده است که ابزار‌های آموزشی جدیدی در این نسخه قرار گرفته تا ChatGPT به جای ارائه مستقیم پاسخ تکالیف به دانش‌آموزان در فرایند یادگیری کمک کند. فعال شدن خودکار حالت نوجوانان

OpenAI می‌گوید حالت ChatGPT برای نوجوانان زمانی که سیستم احتمال دهد کاربر کمتر از ۱۸ سال دارد به‌صورت خودکار فعال خواهد شد. همچنین کاربرانی که سن خود را بین ۱۳ تا ۱۷ سال اعلام کنند در این حالت قرار می‌گیرند.

این شرکت برای تخمین سن کاربران از ترکیبی از اطلاعات اعلام‌شده توسط خود کاربر، الگو‌های رفتاری، سیگنال‌های مربوط به حساب کاربری و روش‌های احراز سن استفاده خواهد کرد. OpenAI تأکید کرده است هر زمان سیستم درباره سن کاربر اطمینان نداشته باشد تنظیمات ایمن‌تر را به‌صورت پیش‌فرض فعال می‌کند.

بر اساس سیاست فعلی OpenAI استفاده از ChatGPT برای افراد حداقل ۱۳ ساله یا حداقل سن قانونی تعیین‌شده در کشور محل زندگی کاربر مجاز است.

بیشتر بخوانید شکست GPT-۵ در آزمون تمرکز انسان/ یک تست روان‌شناسی قدیمی نقطه‌ضعف هوش مصنوعی را آشکار کرد چت جی پی تی با فرمان صوتی کار‌های پیچیده را روی کامپیوتر انجام می‌دهد گفت‌و‌گو با هوش مصنوعی چت جی پی تی طبیعی‌تر از همیشه شد؛ GPT-Live چگونه فعال می‌شود؟ …

به گزارش سیتنا، شرکت سازنده ChatGPT مجموعه‌ای از قابلیت‌های ایمنی جدید را برای کاربران زیر ۱۸ سال این چت‌بات ارائه می‌کند. OpenAI برای حساب‌های جدید نوجوانان، امکان پاسخ‌گویی ChatGPT با صدای انسانی را حذف می‌کند تا توانایی این فناوری برای شبیه‌شدن به یک انسان و ایجاد چنین تصوری در کاربران کاهش یابد. این شرکت همچنین قصد دارد به نوجوانان به‌طور منظم یادآوری کند که هنگام استفاده از این ابزار استراحت کنند و به آنها یادآوری شود که ChatGPT یک هوش مصنوعی است و «می‌تواند صبر کند».

OpenAI تأکید کرده است که این تغییرات در واکنش به یک مورد خاص از باور کودکان به زنده یا آگاه بودن ChatGPT انجام نشده، اما نگرانی‌ها درباره افرادی که تصور می‌کنند ابزارهای هوش مصنوعی مورد استفاده آنها دارای آگاهی هستند، رو به افزایش است.

مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، سال گذشته گفته بود محصولات هوش مصنوعی که «ظاهراً آگاه» به نظر می‌رسند، او را شب‌ها بیدار نگه می‌دارند؛ زیرا درباره تأثیر آنها بر جامعه نگران است.

OpenAI در برخی بخش‌های دیگر نیز ظاهراً تا حدی از الگوی حساب‌های نوجوانان که توسط شبکه‌های اجتماعی بزرگ ایجاد شده، پیروی می‌کند.

این شرکت در مطلبی که هنگام معرفی ChatGPT برای نوجوانان منتشر کرد، اعلام کرد استفاده نوجوانان از هوش مصنوعی باید با سازوکارهای حفاظتی متناسب با مرحله رشد آنها همراه باشد، روابط آنها در دنیای واقعی را تقویت کند و استفاده سالم از این فناوری را در طول زمان پشتیبانی کند.

بر اساس اعلام OpenAI، حساب نوجوانان برای کاربرانی که هنگام ثبت‌نام خود را نوجوان معرفی می‌کنند و همچنین افرادی که این شرکت آنها را زیر ۱۸ سال تشخیص دهد، به‌صورت پیش‌فرض فعال خواهد شد.

با این حال، OpenAI توضیح دقیقی درباره نحوه شناسایی کاربران زیر ۱۸ سال ارائه نکرده است. کودکان زیر ۱۳ سال نیز اجازه استفاده از این محصول را ندارند. حالت مطالعه و زمان استراحت

ChatGPT سال گذشته قابلیت Study Mode یا «حالت مطالعه» را برای دانش‌آموزان راه‌اندازی کرد. این قابلیت به جای ارائه مستقیم پاسخ، دانش‌آموز را در روند حل تکالیف و مسائل درسی همراهی می‌کند.

اکنون نوجوانان می‌توانند ساعات مشخصی را برای فعال بودن …

به گزارش سیتنا، دانش‌آموزان امروز نخستین نسلی هستند که از کودکی با هوش مصنوعی به‌عنوان بخشی از زندگی روزمره رشد می‌کنند. برای والدین و مربیان، مسئله فقط این نیست که آیا نوجوانان از هوش مصنوعی استفاده خواهند کرد یا نه؛ بلکه مهم‌تر این است که آیا یاد می‌گیرند خروجی‌های هوش مصنوعی را به‌صورت انتقادی ارزیابی کنند، محدودیت‌های آن را بشناسند و به شکلی مسئولانه از این فناوری استفاده کنند.

در حال حاضر میان «استفاده از هوش مصنوعی» و «درک آن» فاصله وجود دارد. بیشتر دانش‌آموزان امروز از هوش مصنوعی استفاده می‌کنند، اما تنها ۱۶ درصد از مدیران دبیرستان‌ها می‌گویند همه دانش‌آموزانشان در کلاس‌های درس، دانش فنی لازم برای درک هوش مصنوعی را یاد می‌گیرند. خود دانش‌آموزان نیز این شکاف را احساس می‌کنند؛ در نظرسنجی CodeAI، ۷۵ درصد از دانش‌آموزان دبیرستانی گفته‌اند درک هوش مصنوعی برای آینده آنها اهمیت بیشتری از امروز خواهد داشت.

نوجوانان باید بدانند هوش مصنوعی چگونه کار می‌کند، بتوانند خروجی‌های آن را با نگاه انتقادی بررسی کنند و مهارت‌هایی به دست آورند که به آنها امکان دهد در آینده این فناوری را شکل دهند؛ آن هم با دسترسی به ابزارهایی که ایمنی و رشد آنها را در اولویت قرار می‌دهند.

به همین دلیل، OpenAI و CodeAI از آغاز یک همکاری مشترک خبر داده‌اند تا ابزارها و منابعی را در اختیار دانش‌آموزان و مربیان قرار دهند که به آنها در یادگیری نحوه استفاده از هوش مصنوعی و بهره‌گیری از مزایای آن کمک کند.

این همکاری همزمان با راه‌اندازی ChatGPT برای نوجوانان انجام شده است؛ تجربه‌ای اختصاصی که یادگیری را در مرکز توجه قرار می‌دهد و به نوجوانان کمک می‌کند تفکر انتقادی خود را تقویت کنند، درک عمیق‌تری از موضوعات داشته باشند و با اطمینان بیشتری از هوش مصنوعی استفاده کنند.

این سرویس شامل سازوکارهای حفاظتی ویژه برای نوجوانان، از جمله قابلیت‌هایی برای ترویج استفاده سالم از هوش مصنوعی و کنترل‌های بیشتر برای والدین است. این برنامه همچنین ادامه تلاش‌های OpenAI در قالب ChatGPT برای معلمان است که با هدف توانمندسازی معلمان و مناطق آموزشی برای هدایت استفاده از هوش مصنوعی انجام می‌شود. OpenAI همچنین همکاری‌های خود با فدراسیون معلمان آمریکا را برای توسعه مهارت‌های …