شبکه‌های اجتماعی برای کودکان انگلیسی فیلتر شد؛ اقدام علیه پلتفرم‌ها

در اعماق دره‌ای در استان یوننان چین، آسانسور شیشه‌ای بزرگی به تازگی افتتاح شده است. این آسانسور که ارتفاعش به ۲۸۸ متر می‌رسد، مسیری را که دانش‌آموزان روستایی برای رفتن به مدرسه می‌پیمودند، از یک ماجراجویی شش‌ساعته و خطرناک به سفری راحت در عرض فقط ۳۰ دقیقه تبدیل کرده است.

به گزارش زومیت، این سازه‌ی خارق‌العاده که «نردبان فویائو» نام دارد، در کنار آسانسور دیگری که در سال ۲۰۲۲ ساخته شده بود، قرار گرفته است تا زندگی کودکان روستای «نیژوه» را که در کف دره زندگی می‌کنند، متحول کند. پیش از این، کودکان این روستا مجبور بودند هر ده روز یک بار، مسیری سه‌ساعته را از صخره‌های عمودی و خطرناک بالا بروند تا به مدرسه‌ی شبانه‌روزی خود در بالای کوه برسند.

روستای نیژوه در ارتفاع حدود ۱۱۰۰ متری از سطح دریا قرار گرفته است، اما مدرسه‌ی ابتدایی گوانژای که دانش‌آموزان به آنجا می‌روند، بر فراز قله‌ای به ارتفاع ۱۶۵۰ متر واقع شده است. این اختلاف ارتفاع ۵۵۰ متری، سال‌ها بود که این سفر را به چالشی طاقت‌فرسا و پرخطر برای کودکان ۶ تا ۱۵ سال تبدیل کرده بود.

اما حالا با افتتاح آسانسور جدید، ماجرا کاملاً متفاوت شده است. دانش‌آموزان با اتوبوس، مسیر کوتاهی را تا پای آسانسور طی می‌کنند و سپس با سوارشدن بر این «اتوبوس مدرسه‌ی هوایی»، در عرض چند دقیقه به نزدیکی قله‌ی کوه می‌رسند. در مرحله‌ی آخر، آنها سوار تله‌کابین هوایی می‌شوند تا در کمتر از پنج دقیقه، خود را به درب مدرسه برسانند.

به گزارش نیواطلس، آسانسور جدید، که ۲۰ متر از آسانسور قبلی بلندتر است، با سرعت ۵ متر در ثانیه حرکت می‌کند و دارای دیواره‌های شیشه‌ای تمام‌شفاف است که به مسافران امکان می‌دهد از منظره‌ی ۳۶۰ درجه‌ی دره لذت ببرند. اما فراتر از جذابیت‌های گردشگری، این سازه نقشی حیاتی در حمل‌ونقل روزانه ایفا می‌کند.

ظرفیت ترکیبی دو آسانسور به ۱۲۰۰ نفر در ساعت می‌رسد که باعث شده ظرفیت پذیرش روزانه‌ی منطقه‌ی دیدنی از چهارهزار به ۱۵هزار نفر افزایش یابد و مشکل ازدحام و صف‌های طولانی را حل کند.

با‌این‌حال، مهم‌ترین دستاورد این پروژه، تغییر زندگی دانش‌آموزانی است که اکنون می‌توانند بدون نیاز به بالا رفتن از صخره‌های خطرناک، سر وقت در کلاس درس حاضر شوند. این که چین برای راحتی و آموزش تعداد انگشت‌شماری از کودکان، چنین پروژه‌ی عظیم و هزینه‌بری را به انجام رسانده است، شاید تحسین‌برانگیزترین جنبه‌ی این داستان باشد. پربیننده ترین پست همین یک ساعت اخیر تاج السلطنه، دختر ناصرالدین شاه در 10 سالگی و در روز نامزدی اش؛ سال 1273(عکس) خبر بعد نظرات کاربران خبر قبل اشتراک گذاری : اعلام مخالفت دولت با «طرح مقابله با نفوذ» بیشتر بخوانید: ازجسورانه ترین و ساختارشکنانه ترین نمونه های معماری بروتالیسم در نیمه دوم قرن بیستم (+تصاویر) تماشاخانه چیتگر؛ رد یک جنایت عجیب میان درختان / درخت‌ها قبل از مرگ زخمی شده بودند حریق مرموز در قلب گرگان؛ از سیم‌کشی فرسوده تا شایعات داغ / ببینید گرگان چه چیزی را از دست داد؟ فیلم های دیگر عضویت در اینستاگرام عصر ایران ۱۵ سال پیش در چنین روزی این لحظه با حافظ گلستان سعدی آموزش زبان انگلیسی آپارات عصر ایران اپلیکیشن عصر ایران

به گزارش خبرنگار اقتصاد معاصر؛ شرکت OpenAI در تازه‌ترین اقدام خود برای افزایش ایمنی کاربران نوجوان، نسخه‌ای از ChatGPT با محافظت‌های متناسب با سن را معرفی کرده است؛ اقدامی که پس از افزایش نگرانی‌ها درباره تاثیر چت‌بات‌های هوش مصنوعی بر سلامت روان نوجوانان و طرح چندین دعوا علیه شرکت انجام می‌شود.

نسخه جدید ChatGPT علاوه بر سازوکارهای ایمنی بیشتر، امکانات آموزشی تازه‌ای را نیز در اختیار نوجوانان قرار می‌دهد. یکی از مهم‌ترین این قابلیت‌ها حالت مطالعه است که به جای ارائه مستقیم پاسخ، با طرح پرسش‌های راهنما و ارائه توضیحات مرحله‌به‌مرحله، کاربر را به درک بهتر مطالب و حل مساله هدایت می‌کند.

OpenAI همچنین قابلیتی برای یادآوری تکالیف در نظر گرفته است که در صورت تشخیص تلاش کاربر برای دریافت پاسخ آماده و تقلب، وی را به استفاده از حالت مطالعه هدایت می‌کند. پشتیبانی از آزمون‌ها و تصاویر آموزشی و همچنین امکان تعیین شرایط فعال شدن پیش‌فرض حالت مطالعه از سوی والدین یا سرپرستان، از دیگر امکانات این نسخه است.

با وجود این، میزان موفقیت این تدابیر در عمل همچنان مشخص نیست. یکی از چالش‌های اصلی، امکان دور زدن محدودیت‌های اعمال‌شده از سوی نوجوانان است؛ موضوعی که به‌ویژه در زمینه کنترل‌های دیجیتال و محدودیت‌های والدین، همواره یکی از دغدغه‌های اصلی بوده است.

OpenAI اعلام کرده محافظت‌های متناسب با سن در نسخه نوجوانان به‌صورت پیش‌فرض فعال خواهند بود و هدف آن‌ها کاهش مواجهه کاربران با محتوای آسیب‌زا یا نامتناسب با سن است. این سیاست‌ها بر پایه اصول ویژه کاربران زیر ۱۸ سال در چارچوب Model Spec این شرکت و با اتکا به دیدگاه متخصصان و یافته‌های مرتبط با رشد نوجوانان طراحی شده‌اند.

در کنار این اقدامات، والدین می‌توانند از ابزارهای خانوادگی و کنترل‌های والدین OpenAI برای مدیریت برخی تنظیمات، دریافت هش

دارهای ایمنی و تعیین ساعات سکوت استفاده کنند. OpenAI همچنین از همکاری با CodeAI برای آموزش نوجوانان درباره نحوه عملکرد هوش مصنوعی، شیوه هدایت و ارزیابی پاسخ‌های آن و استفاده مسوولانه از این فناوری خبر داده است.

این تغییرات در شرایطی انجام می‌شود که ChatGPT از زمان عرضه در سال ۲۰۲۲ با سرعت زیادی در میان کاربران گسترش یافته و پیش از اضافه شدن مجموعه‌ای از تدابیر ویژه نوجوانان، به صدها میلیون کاربر هفتگی رسیده بود. همین موضوع باعث شده است پرسش‌هایی درباره زمان‌بندی اجرای این محافظت‌ها و اینکه چرا بخش قابل توجهی از این سازوکارها از ابتدا در ChatGPT وجود نداشته‌اند، مطرح شود.

در همین حال، OpenAI هم‌زمان از مجموعه دیگری از اقدامات امنیتی برای توسعه و آزمایش مدل‌های هوش مصنوعی خبر داده است. این اقدامات پس از حادثه امنیتی و با هدف تقویت نظارت، جداسازی شبکه و کنترل رفتار مدل‌ها در مراحل توسعه و پساآموزش طراحی شده‌اند.

این شرکت اعلام کرده است با افزایش توانایی مدل‌های هوش مصنوعی، سطح نظارت و الزامات امنیتی نیز افزایش خواهد یافت. بر اساس سیاست جدید، به خطر افتادن یک ابزار یا سرویس پشتیبان نباید به‌تنهایی امکان دسترسی غیرمجاز به اینترنت یا سایر شبکه‌های داخلی را فراهم کند.

یکی دیگر از تدابیر اعلام‌شده، ایجاد سامانه نظارتی برای بررسی فعالیت ابزارها، شواهد موجود از فرایند استدلال و گزارش‌های فعالیت مدل‌هاست. OpenAI می‌گوید این سامانه می‌تواند در صورت شناسایی رفتارهای غیرمجاز، هشدارهایی را در مدت کوتاهی صادر کند. این شرکت همچنین برآورد کرده است که اجرای چنین نظارتی حدود ۲۰ درصد از توان محاسباتی فرایندهای تحت نظارت را مصرف خواهد کرد.

OpenAI تاکید کرده است که بخش قابل توجهی از فعالیت‌های بزرگ‌تر یادگیری تقویتی همچنان متوقف است و این شرکت پیش از ادامه آن‌ها، در حال انجام آموزش‌ها و ارزیابی‌های کوچک‌تر برای بررسی رفتار مدل‌ها، اعتبارسنجی سازوکارهای حفاظتی و اطمینان بیشتر از هم‌راستایی مدل‌هاست.

در مجموع، اقدامات جدید OpenAI نشان‌دهنده تلاش این شرکت برای افزایش کنترل بر دو حوزه مهم در توسعه هوش مصنوعی است. ایمنی کاربران نوجوان و امنیت فرایند توسعه مدل‌های پیشرفته؛ با این حال، میزان اثربخشی واقعی این تدابیر و توانایی آن‌ها در برابر دور زدن محدودیت‌ها و تهدیدهای امنیتی، تنها پس از استفاده گسترده و ارزیابی‌های مستقل مشخص خواهد شد.

گروه علمی و فناوری برنا: شرکت OpenAI روز سه‌شنبه از راه‌اندازی حالت جدید ChatGPT برای نوجوانان خبر داد. این نسخه با هدف ایجاد محیطی امن‌تر برای کاربران کم‌سن‌وسال، کنترل‌های والدین و قابلیت‌های امنیتی تقویت‌شده را در اختیار خانواده‌ها قرار می‌دهد.

به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، بر اساس اعلام OpenAI حالت جدید برای نوجوانان طراحی شده و گفت‌و‌گو درباره موضوعات پرخطر از جمله خودآزاری، خشونت و اختلالات خوردن را محدود می‌کند. این شرکت همچنین اعلام کرده است که ابزار‌های آموزشی جدیدی در این نسخه قرار گرفته تا ChatGPT به جای ارائه مستقیم پاسخ تکالیف به دانش‌آموزان در فرایند یادگیری کمک کند. فعال شدن خودکار حالت نوجوانان

OpenAI می‌گوید حالت ChatGPT برای نوجوانان زمانی که سیستم احتمال دهد کاربر کمتر از ۱۸ سال دارد به‌صورت خودکار فعال خواهد شد. همچنین کاربرانی که سن خود را بین ۱۳ تا ۱۷ سال اعلام کنند در این حالت قرار می‌گیرند.

این شرکت برای تخمین سن کاربران از ترکیبی از اطلاعات اعلام‌شده توسط خود کاربر، الگو‌های رفتاری، سیگنال‌های مربوط به حساب کاربری و روش‌های احراز سن استفاده خواهد کرد. OpenAI تأکید کرده است هر زمان سیستم درباره سن کاربر اطمینان نداشته باشد تنظیمات ایمن‌تر را به‌صورت پیش‌فرض فعال می‌کند.

بر اساس سیاست فعلی OpenAI استفاده از ChatGPT برای افراد حداقل ۱۳ ساله یا حداقل سن قانونی تعیین‌شده در کشور محل زندگی کاربر مجاز است.

بیشتر بخوانید شکست GPT-۵ در آزمون تمرکز انسان/ یک تست روان‌شناسی قدیمی نقطه‌ضعف هوش مصنوعی را آشکار کرد چت جی پی تی با فرمان صوتی کار‌های پیچیده را روی کامپیوتر انجام می‌دهد گفت‌و‌گو با هوش مصنوعی چت جی پی تی طبیعی‌تر از همیشه شد؛ GPT-Live چگونه فعال می‌شود؟ کنترل بیشتر والدین بر استفاده نوجوانان

یکی از بخش‌های اصلی نسخه جدید ابزار‌های کنترل والدین است. والدین می‌توانند برخی تنظیمات حساب نوجوان را مدیریت کنند و برای استفاده از ChatGPT بازه‌های زمانی مشخصی تحت عنوان ساعات سکوت یا Quiet Hours تعیین کنند.

همچنین در شرایطی که نوجوان درباره موضوعات حساس با ChatGPT گفت‌و‌گو کند والدین امکان دریافت اعلان خواهند داشت. این قابلیت با هدف افزایش آگاهی والدین از وضعیت استفاده فرزندانشان از چت‌بات طراحی شده است. تمرکز بر یادگیری به جای ارائه مستقیم پاسخ

OpenAI در نسخه مخصوص نوجوانان قابلیت‌های آموزشی متعددی نیز در نظر گرفته است. از جمله این ابزار‌ها می‌توان به حالت مطالعه (Study Mode) یادآوری انجام تکالیف آزمون‌های آموزشی و قابلیت‌های تصویری برای کمک به درک بهتر مطالب اشاره کرد.

شرکت می‌گوید هدف از این امکانات آن است که هوش مصنوعی بیشتر نقش یک همراه آموزشی را ایفا کند و دانش‌آموز را در مسیر رسیدن به پاسخ راهنمایی کند نه اینکه صرفا پاسخ نهایی تکالیف را در اختیار او قرار دهد.

OpenAI در توضیح این رویکرد اعلام کرده است که هوش مصنوعی باید فرصت‌های آموزشی را گسترش دهد و به همین دلیل ChatGPT برای نوجوانان برای کمک به دانش‌آموزان در زمان‌هایی طراحی شده است که دسترسی آنها به کمک آموزشی همیشه امکان‌پذیر نیست. افزایش نگرانی‌ها درباره تاثیر چت‌بات‌ها بر نوجوانان

راه‌اندازی نسخه ویژه نوجوانان در شرایطی انجام شده که شرکت‌های فناوری در سال‌های اخیر با فشار فزاینده‌ای برای افزایش ایمنی کاربران کم‌سن‌وسال مواجه شده‌اند.

پلتفرم‌هایی مانند متا نیز اقدامات امنیتی بیشتری برای نوجوانان در سرویس‌های خود اعمال کرده‌اند و همزمان نگرانی‌ها درباره آثار استفاده از شبکه‌های اجتماعی و ابزار‌های هوش مصنوعی بر سلامت روان کودکان و نوجوانان افزایش یافته است.

در کشور‌های مختلف نیز بحث درباره محدود کردن دسترسی نوجوانان به شبکه‌های اجتماعی شدت گرفته و برخی دولت‌ها به دنبال وضع قوانین سختگیرانه‌تر برای محافظت از کاربران کم‌سن‌وسال در فضای آنلاین هستند. پرونده‌های قضایی علیه OpenAI

برای OpenAI این موضوع اهمیت بیشتری دارد؛ زیرا این شرکت با چندین پرونده قضایی مواجه است که در آنها ادعا شده تعامل نوجوانان با ChatGPT در برخی موارد به آسیب‌های جدی منجر شده است.

نگرانی اصلی کارشناسان این است که چت‌بات‌های امروزی به دلیل توانایی در برقراری گفت‌و‌گو‌های شبیه به تعامل انسانی ممکن است از سوی کاربران به‌عنوان محرم راز یا منبع حمایت عاطفی مورد استفاده قرار گیرند.

کارشناسان پیش‌تر هشدار داده‌اند که اتکا به سیستم‌های خودکار برای دریافت توصیه‌های مربوط به سلامت روان می‌تواند خطراتی به همراه داشته باشد. خانواده‌هایی نیز در برخی پرونده‌ها پس از مرگ نزدیکان خود، درباره تعامل آنها با چت‌بات‌های هوش مصنوعی انتقاد‌هایی مطرح کرده و خواستار تقویت سازوکار‌های ایمنی شده‌اند. نگرانی درباره استفاده دانش‌آموزان از هوش مصنوعی

گسترش استفاده نوجوانان از هوش مصنوعی برای انجام تکالیف مدرسه نیز به یکی دیگر از نگرانی‌های مهم تبدیل شده است. منتقدان معتقدند استفاده نادرست از چت‌بات‌ها می‌تواند باعث شود دانش‌آموزان به جای یادگیری و حل مسئله، پاسخ آماده دریافت کنند.

در مقابل، OpenAI تلاش دارد با ابزار‌هایی مانند حالت مطالعه استفاده آموزشی از ChatGPT را به سمت یادگیری هدایت کند.

بر اساس یافته‌های مرکز پژوهشی Pew Research Center که در اوایل سال جاری منتشر شد، جست‌وجوی اطلاعات و کمک گرفتن برای انجام تکالیف از رایج‌ترین کاربرد‌های هوش مصنوعی در میان نوجوانان آمریکایی بوده است. سرگرمی و تفریح نیز در رتبه‌های بعدی قرار داشته‌اند.

در مجموع OpenAI با عرضه ChatGPT برای نوجوانان تلاش کرده است میان استفاده گسترده نسل کم‌سن‌وسال از ابزار‌های هوش مصنوعی و نگرانی‌های مربوط به ایمنی، سلامت روان و آموزش تعادل ایجاد کند، رویکردی که در آن تشخیص سن، کنترل والدین، محدودیت برای موضوعات پرخطر و ابزار‌های آموزشی نقش محوری دارند.

انتهای پیام/

به گزارش تابناک به نقل از مهر؛ اوپن‌ای آی نسخه‌ای از چت جی پی تی که برای افراد زیر سن قانونی ساخته شده را همراه قابلیت‌های کنترل آن توسط والدین و ویژگی‌های امنیتی افزوده، ارائه کرد.

به نقل از رویترز، این درحالی است که پلتفرم آنلاین مذکور به دلیل ریسک چت بات‌های هوش مصنوعی با سختگیری‌هایی رو‌به‌رو است.

اوپن‌ای آی در بیانیه‌ای اعلام کرد حالت جدید «چت جی پی تی برای نوجوانان» گفت‌و‌گو‌ها درباره موضوعات با ریسک بالا مانند خودآزاری، خشونت و اختلالات غذا خوردن را محدود می‌کندو از سوی دیگر ابزار‌های آموزشی برای کمک به یادگیری دانش آموزان به جای به اشتراک گذاری پاسخ ها، ارائه می‌کند.

هنگامیکه تخمین زده می‌شود یک کاربر کمتر از ۱۸ سال داشته باشد، یا سن خود را بین ۱۳تا ۱۷ سال اعلام کند، این حالت به طور خودکار فعال می‌شود و به والدین امکان می‌دهد «ساعات سکون» تعیین، برخی تنظیمات را مدیریت و هنگامیکه نوجوانان درباره موضوعات حساس گفت‌و‌گو می‌کنند، نوتیفیکیشن دریافت کنند.

چنین اقدامی سازنده چت جی پی تی را همسو با غول‌های فناوری مانند متا که اقدمات حفاظتی برای نوجوانان در پلتفرم هایشان را در میانه تهدید‌های قانونی و شواهدی از آسیب به سلامتی روحی آنان، پر رنگتر کرده‌اند، قرار می‌دهد. تعداد روز افزونی از کشور‌های سراسر جهان شبکه‌های اجتماعی را برای نوجوانان منع کرده‌اند.

از سوی دیگر اوپن‌ای آی نیز با چند شکایت رو‌به‌رو است که در آنها به آسیب رساندن به کودکان متهم شده است.

جهان صنعت نیوز ، شرکت «اوپن‌ای‌آی» (OpenAI) سازنده «چت‌جی‌پی‌تی»(ChatGPT) مجموعه‌ای از ویژگی‌های ایمنی جدید را برای کاربران زیر ۱۸ سال این چت‌بات هوش مصنوعی ارائه می‌دهد.

به نقل از بی‌بی‌سی، اوپن‌ای‌آی برای کسانی که حساب‌های کاربری جدید نوجوانان دارند، قابلیت پاسخ‌گویی چت‌بات با استفاده از صدای انسان را حذف می‌کند تا توانایی این فناوری در ظاهر شدن مانند یک انسان را به حداقل برساند.

این نسخه ویژه به نوجوانان می‌گوید که از به کار بردن چت‌بات دست بکشند، به آنها یادآوری می‌کند که چت‌جی‌پی‌تی هوش مصنوعی است و می‌تواند صبر کند.

اوپن‌ای‌آی تأکید کرد که این اقدام در پاسخ به مشکل خاصی که کودکان درباره زنده بودن چت‌جی‌پی‌تی دارند، صورت نگرفته است، اما نگرانی‌های فزاینده‌ای درباره متقاعد شدن مردم به این موضوع وجود دارد که ابزارهای هوش مصنوعی دارای شعور هستند.

سال گذشته «مصطفی سلیمان»، رئیس هوش مصنوعی «مایکروسافت»(Microsoft) شرکت رقیب اوپن‌ای‌آی گفت که محصولات هوش مصنوعی به ظاهر هوشیار، او را شب‌ها بیدار نگه می‌دارند، زیرا او بسیار نگران تأثیر آنها بر جامعه است.

به نظر می‌رسد اوپن‌ای‌آی در سایر زمینه‌ها به طور نامحسوسی از مدل حساب کاربری نوجوانان که توسط شبکه‌های اجتماعی بزرگ توسعه داده شده است، پیروی می‌کند.

این شرکت در یک پست معرفی چت‌جی‌پی‌تی برای نوجوانان نوشت که استفاده نوجوانان از هوش مصنوعی باید با حمایت‌های منعکس‌کننده مرحله رشد آنها همراه باشد، روابط دنیای واقعی را تقویت کند و از استفاده سالم در طول زمان پشتیبانی کند.

در این پست آمده است که حساب‌های کاربری نوجوانان به صورت پیش‌فرض برای کسانی که هنگام ثبت‌نام خود را نوجوان معرفی کرده‌اند و دیگرانی که خود شرکت آنها را زیر ۱۸ سال معرفی کرده است، فعال خواهد شد؛ اما اوپن‌ای‌آی توضیح بیشتری را درباره چگونگی شناسایی این نوجوانان ارائه نداد.

افراد زیر ۱۳ سال مجاز به استفاده از این محصول نیستند.

منبع: ایسنا دانش و فناوری برچسب هاچت‌جی‌پی‌تی دنیای هوش مصنوعی نوجوان

شناسه : 606353

لینک کوتاه : لینک کپی شد