ChatGPT حالت ویژه نوجوانان را معرفی کرد

به گزارش خبرنگار اقتصاد معاصر؛ شرکت OpenAI در تازه‌ترین اقدام خود برای افزایش ایمنی کاربران نوجوان، نسخه‌ای از ChatGPT با محافظت‌های متناسب با سن را معرفی کرده است؛ اقدامی که پس از افزایش نگرانی‌ها درباره تاثیر چت‌بات‌های هوش مصنوعی بر سلامت روان نوجوانان و طرح چندین دعوا علیه شرکت انجام می‌شود.

نسخه جدید ChatGPT علاوه بر سازوکارهای ایمنی بیشتر، امکانات آموزشی تازه‌ای را نیز در اختیار نوجوانان قرار می‌دهد. یکی از مهم‌ترین این قابلیت‌ها حالت مطالعه است که به جای ارائه مستقیم پاسخ، با طرح پرسش‌های راهنما و ارائه توضیحات مرحله‌به‌مرحله، کاربر را به درک بهتر مطالب و حل مساله هدایت می‌کند.

OpenAI همچنین قابلیتی برای یادآوری تکالیف در نظر گرفته است که در صورت تشخیص تلاش کاربر برای دریافت پاسخ آماده و تقلب، وی را به استفاده از حالت مطالعه هدایت می‌کند. پشتیبانی از آزمون‌ها و تصاویر آموزشی و همچنین امکان تعیین شرایط فعال شدن پیش‌فرض حالت مطالعه از سوی والدین یا سرپرستان، از دیگر امکانات این نسخه است.

با وجود این، میزان موفقیت این تدابیر در عمل همچنان مشخص نیست. یکی از چالش‌های اصلی، امکان دور زدن محدودیت‌های اعمال‌شده از سوی نوجوانان است؛ موضوعی که به‌ویژه در زمینه کنترل‌های دیجیتال و محدودیت‌های والدین، همواره یکی از دغدغه‌های اصلی بوده است.

OpenAI اعلام کرده محافظت‌های متناسب با سن در نسخه نوجوانان به‌صورت پیش‌فرض فعال خواهند بود و هدف آن‌ها کاهش مواجهه کاربران با محتوای آسیب‌زا یا نامتناسب با سن است. این سیاست‌ها بر پایه اصول ویژه کاربران زیر ۱۸ سال در چارچوب Model Spec این شرکت و با اتکا به دیدگاه متخصصان و یافته‌های مرتبط با رشد نوجوانان طراحی شده‌اند.

در کنار این اقدامات، والدین می‌توانند از ابزارهای خانوادگی و کنترل‌های والدین OpenAI برای مدیریت برخی تنظیمات، دریافت هش

دارهای ایمنی و تعیین ساعات سکوت استفاده کنند. OpenAI همچنین از همکاری با CodeAI برای آموزش نوجوانان درباره نحوه عملکرد هوش مصنوعی، شیوه هدایت و ارزیابی پاسخ‌های آن و استفاده مسوولانه از این فناوری خبر داده است.

این تغییرات در شرایطی انجام می‌شود که ChatGPT از زمان عرضه در سال ۲۰۲۲ با سرعت زیادی در میان کاربران گسترش یافته و پیش از اضافه شدن مجموعه‌ای از تدابیر ویژه نوجوانان، به صدها میلیون کاربر هفتگی رسیده بود. همین موضوع باعث شده است پرسش‌هایی درباره زمان‌بندی اجرای این محافظت‌ها و اینکه چرا بخش قابل توجهی از این سازوکارها از ابتدا در ChatGPT وجود نداشته‌اند، مطرح شود.

در همین حال، OpenAI هم‌زمان از مجموعه دیگری از اقدامات امنیتی برای توسعه و آزمایش مدل‌های هوش مصنوعی خبر داده است. این اقدامات پس از حادثه امنیتی و با هدف تقویت نظارت، جداسازی شبکه و کنترل رفتار مدل‌ها در مراحل توسعه و پساآموزش طراحی شده‌اند.

این شرکت اعلام کرده است با افزایش توانایی مدل‌های هوش مصنوعی، سطح نظارت و الزامات امنیتی نیز افزایش خواهد یافت. بر اساس سیاست جدید، به خطر افتادن یک ابزار یا سرویس پشتیبان نباید به‌تنهایی امکان دسترسی غیرمجاز به اینترنت یا سایر شبکه‌های داخلی را فراهم کند.

یکی دیگر از تدابیر اعلام‌شده، ایجاد سامانه نظارتی برای بررسی فعالیت ابزارها، شواهد موجود از فرایند استدلال و گزارش‌های فعالیت مدل‌هاست. OpenAI می‌گوید این سامانه می‌تواند در صورت شناسایی رفتارهای غیرمجاز، هشدارهایی را در مدت کوتاهی صادر کند. این شرکت همچنین برآورد کرده است که اجرای چنین نظارتی حدود ۲۰ درصد از توان محاسباتی فرایندهای تحت نظارت را مصرف خواهد کرد.

OpenAI تاکید کرده است که بخش قابل توجهی از فعالیت‌های بزرگ‌تر یادگیری تقویتی همچنان متوقف است و این شرکت پیش از ادامه آن‌ها، در حال انجام آموزش‌ها و ارزیابی‌های کوچک‌تر برای بررسی رفتار مدل‌ها، اعتبارسنجی سازوکارهای حفاظتی و اطمینان بیشتر از هم‌راستایی مدل‌هاست.

در مجموع، اقدامات جدید OpenAI نشان‌دهنده تلاش این شرکت برای افزایش کنترل بر دو حوزه مهم در توسعه هوش مصنوعی است. ایمنی کاربران نوجوان و امنیت فرایند توسعه مدل‌های پیشرفته؛ با این حال، میزان اثربخشی واقعی این تدابیر و توانایی آن‌ها در برابر دور زدن محدودیت‌ها و تهدیدهای امنیتی، تنها پس از استفاده گسترده و ارزیابی‌های مستقل مشخص خواهد شد.

گروه علمی و فناوری برنا: شرکت OpenAI روز سه‌شنبه از راه‌اندازی حالت جدید ChatGPT برای نوجوانان خبر داد. این نسخه با هدف ایجاد محیطی امن‌تر برای کاربران کم‌سن‌وسال، کنترل‌های والدین و قابلیت‌های امنیتی تقویت‌شده را در اختیار خانواده‌ها قرار می‌دهد.

به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، بر اساس اعلام OpenAI حالت جدید برای نوجوانان طراحی شده و گفت‌و‌گو درباره موضوعات پرخطر از جمله خودآزاری، خشونت و اختلالات خوردن را محدود می‌کند. این شرکت همچنین اعلام کرده است که ابزار‌های آموزشی جدیدی در این نسخه قرار گرفته تا ChatGPT به جای ارائه مستقیم پاسخ تکالیف به دانش‌آموزان در فرایند یادگیری کمک کند. فعال شدن خودکار حالت نوجوانان

OpenAI می‌گوید حالت ChatGPT برای نوجوانان زمانی که سیستم احتمال دهد کاربر کمتر از ۱۸ سال دارد به‌صورت خودکار فعال خواهد شد. همچنین کاربرانی که سن خود را بین ۱۳ تا ۱۷ سال اعلام کنند در این حالت قرار می‌گیرند.

این شرکت برای تخمین سن کاربران از ترکیبی از اطلاعات اعلام‌شده توسط خود کاربر، الگو‌های رفتاری، سیگنال‌های مربوط به حساب کاربری و روش‌های احراز سن استفاده خواهد کرد. OpenAI تأکید کرده است هر زمان سیستم درباره سن کاربر اطمینان نداشته باشد تنظیمات ایمن‌تر را به‌صورت پیش‌فرض فعال می‌کند.

بر اساس سیاست فعلی OpenAI استفاده از ChatGPT برای افراد حداقل ۱۳ ساله یا حداقل سن قانونی تعیین‌شده در کشور محل زندگی کاربر مجاز است.

بیشتر بخوانید شکست GPT-۵ در آزمون تمرکز انسان/ یک تست روان‌شناسی قدیمی نقطه‌ضعف هوش مصنوعی را آشکار کرد چت جی پی تی با فرمان صوتی کار‌های پیچیده را روی کامپیوتر انجام می‌دهد گفت‌و‌گو با هوش مصنوعی چت جی پی تی طبیعی‌تر از همیشه شد؛ GPT-Live چگونه فعال می‌شود؟ کنترل بیشتر والدین بر استفاده نوجوانان

یکی از بخش‌های اصلی نسخه جدید ابزار‌های کنترل والدین است. والدین می‌توانند برخی تنظیمات حساب نوجوان را مدیریت کنند و برای استفاده از ChatGPT بازه‌های زمانی مشخصی تحت عنوان ساعات سکوت یا Quiet Hours تعیین کنند.

همچنین در شرایطی که نوجوان درباره موضوعات حساس با ChatGPT گفت‌و‌گو کند والدین امکان دریافت اعلان خواهند داشت. این قابلیت با هدف افزایش آگاهی والدین از وضعیت استفاده فرزندانشان از چت‌بات طراحی شده است. تمرکز بر یادگیری به جای ارائه مستقیم پاسخ

OpenAI در نسخه مخصوص نوجوانان قابلیت‌های آموزشی متعددی نیز در نظر گرفته است. از جمله این ابزار‌ها می‌توان به حالت مطالعه (Study Mode) یادآوری انجام تکالیف آزمون‌های آموزشی و قابلیت‌های تصویری برای کمک به درک بهتر مطالب اشاره کرد.

شرکت می‌گوید هدف از این امکانات آن است که هوش مصنوعی بیشتر نقش یک همراه آموزشی را ایفا کند و دانش‌آموز را در مسیر رسیدن به پاسخ راهنمایی کند نه اینکه صرفا پاسخ نهایی تکالیف را در اختیار او قرار دهد.

OpenAI در توضیح این رویکرد اعلام کرده است که هوش مصنوعی باید فرصت‌های آموزشی را گسترش دهد و به همین دلیل ChatGPT برای نوجوانان برای کمک به دانش‌آموزان در زمان‌هایی طراحی شده است که دسترسی آنها به کمک آموزشی همیشه امکان‌پذیر نیست. افزایش نگرانی‌ها درباره تاثیر چت‌بات‌ها بر نوجوانان

راه‌اندازی نسخه ویژه نوجوانان در شرایطی انجام شده که شرکت‌های فناوری در سال‌های اخیر با فشار فزاینده‌ای برای افزایش ایمنی کاربران کم‌سن‌وسال مواجه شده‌اند.

پلتفرم‌هایی مانند متا نیز اقدامات امنیتی بیشتری برای نوجوانان در سرویس‌های خود اعمال کرده‌اند و همزمان نگرانی‌ها درباره آثار استفاده از شبکه‌های اجتماعی و ابزار‌های هوش مصنوعی بر سلامت روان کودکان و نوجوانان افزایش یافته است.

در کشور‌های مختلف نیز بحث درباره محدود کردن دسترسی نوجوانان به شبکه‌های اجتماعی شدت گرفته و برخی دولت‌ها به دنبال وضع قوانین سختگیرانه‌تر برای محافظت از کاربران کم‌سن‌وسال در فضای آنلاین هستند. پرونده‌های قضایی علیه OpenAI

برای OpenAI این موضوع اهمیت بیشتری دارد؛ زیرا این شرکت با چندین پرونده قضایی مواجه است که در آنها ادعا شده تعامل نوجوانان با ChatGPT در برخی موارد به آسیب‌های جدی منجر شده است.

نگرانی اصلی کارشناسان این است که چت‌بات‌های امروزی به دلیل توانایی در برقراری گفت‌و‌گو‌های شبیه به تعامل انسانی ممکن است از سوی کاربران به‌عنوان محرم راز یا منبع حمایت عاطفی مورد استفاده قرار گیرند.

کارشناسان پیش‌تر هشدار داده‌اند که اتکا به سیستم‌های خودکار برای دریافت توصیه‌های مربوط به سلامت روان می‌تواند خطراتی به همراه داشته باشد. خانواده‌هایی نیز در برخی پرونده‌ها پس از مرگ نزدیکان خود، درباره تعامل آنها با چت‌بات‌های هوش مصنوعی انتقاد‌هایی مطرح کرده و خواستار تقویت سازوکار‌های ایمنی شده‌اند. نگرانی درباره استفاده دانش‌آموزان از هوش مصنوعی

گسترش استفاده نوجوانان از هوش مصنوعی برای انجام تکالیف مدرسه نیز به یکی دیگر از نگرانی‌های مهم تبدیل شده است. منتقدان معتقدند استفاده نادرست از چت‌بات‌ها می‌تواند باعث شود دانش‌آموزان به جای یادگیری و حل مسئله، پاسخ آماده دریافت کنند.

در مقابل، OpenAI تلاش دارد با ابزار‌هایی مانند حالت مطالعه استفاده آموزشی از ChatGPT را به سمت یادگیری هدایت کند.

بر اساس یافته‌های مرکز پژوهشی Pew Research Center که در اوایل سال جاری منتشر شد، جست‌وجوی اطلاعات و کمک گرفتن برای انجام تکالیف از رایج‌ترین کاربرد‌های هوش مصنوعی در میان نوجوانان آمریکایی بوده است. سرگرمی و تفریح نیز در رتبه‌های بعدی قرار داشته‌اند.

در مجموع OpenAI با عرضه ChatGPT برای نوجوانان تلاش کرده است میان استفاده گسترده نسل کم‌سن‌وسال از ابزار‌های هوش مصنوعی و نگرانی‌های مربوط به ایمنی، سلامت روان و آموزش تعادل ایجاد کند، رویکردی که در آن تشخیص سن، کنترل والدین، محدودیت برای موضوعات پرخطر و ابزار‌های آموزشی نقش محوری دارند.

انتهای پیام/

شرکت OpenAI یک افزونه جدید برای اپلیکیشن Messages اپل در مک منتشر کرده است که به کاربران امکان می‌دهد پیام‌های خود را از طریق چت‌جی‌پی‌تی جست‌و‌جو کنند و حتی پاسخ‌های خود را با کمک این چت‌بات بنویسند و ارسال کنند، قابلیتی که در کنار کاربردهایش نگرانی‌هایی درباره حریم خصوصی و امنیت اطلاعات کاربران ایجاد کرده است.

به گزارش گروه ترجمه خبرگزاری برنا به نقل از The Verge، این قابلیت فعلا تنها برای کاربران ChatGPT Work و Codex روی رایانه‌های مک در دسترس قرار گرفته است. کاربران می‌توانند با استفاده از این افزونه پیام‌های موجود در اپلیکیشن Messages را جست‌و‌جو کرده و محتوای گفت‌و‌گو‌های خود را در اختیار چت‌جی‌پی‌تی قرار دهند تا این ابزار هوش مصنوعی بر اساس آنها پاسخ مناسب تهیه کند. اوپن‌ای‌آی در نمونه‌ای که از عملکرد این قابلیت منتشر کرده نشان داده است که کاربر از ChatGPT می‌خواهد گفت‌و‌گو‌هایی را که روز قبل در اپلیکیشن Messages از دست داده است پیدا کند. چت‌جی‌پی‌تی پس از یافتن پیام‌ها می‌تواند پاسخ پیشنهادی برای آنها تهیه کند و در ادامه، همان پاسخ را از طریق Messages ارسال کند. دسترسی به پیام‌ها کاملا اختیاری است

این قابلیت دست‌کم به‌صورت پیش‌فرض فعال نیست و استفاده از آن به تایید و اعطای دسترسی‌های مختلف از سوی کاربر نیاز دارد. بلومبرگ گزارش داده است که کاربران برای فعال‌سازی افزونه باید در جریان فرایند راه‌اندازی اجازه دسترسی ChatGPT به تاریخچه پیام‌های ذخیره‌شده روی مک خود را صادر کنند.

علاوه بر این کاربران باید در بخش تنظیمات سیستم‌عامل مک گزینه Full Disk Access یا دسترسی کامل به دیسک را برای ChatGPT فعال کنند. این سطح از دسترسی به برنامه اجازه می‌دهد به بخش گسترده‌ای از داده‌های ذخیره‌شده روی دستگاه دسترسی داشته باشد.

ChatGPT همچنین برای عملکرد این افزونه به دسترسی به نام مخاطبان کاربر و ابزار‌های اتوماسیون مک نیاز دارد؛ بنابراین فعال‌سازی این قابلیت مستلزم مجموعه‌ای از مجوز‌های مشخص است و بعید است کاربری بتواند آن را به‌طور تصادفی فعال کند.

بیشتر بخوانید OpenAI نسخه ویژه ChatGPT برای نوجوانان را با محدودیت‌های امنیتی بیشتر عرضه کرد اوپن‌ای‌آی از GPT-۵.۶ رونمایی کرد شکست GPT-۵ در آزمون تمرکز انسان/ یک تست روان‌شناسی قدیمی نقطه‌ضعف هوش مصنوعی را آشکار کرد نگرانی‌های حریم خصوصی

با وجود اختیاری بودن این قابلیت دسترسی یک چت‌بات هوش مصنوعی به تاریخچه پیام‌های شخصی و امکان ارسال پیام از طرف کاربر پرسش‌هایی را درباره حریم خصوصی و امنیت مطرح کرده است.

فعال شدن قابلیت جست‌و‌جو و پاسخ‌گویی در Messages به این معناست که ChatGPT می‌تواند برای انجام وظایفی که کاربر درخواست می‌کند به محتوای پیام‌های ذخیره‌شده روی دستگاه دسترسی داشته باشد. همچنین امکان ارسال پاسخ از طریق این سرویس سطح تعامل هوش مصنوعی با پیام‌رسان اپل را فراتر از صرفا خواندن پیام‌ها می‌برد. آیا اپل در توسعه این افزونه همکاری داشته است؟

هنوز مشخص نیست که OpenAI این افزونه را با همکاری مستقیم اپل توسعه داده است یا خیر. این موضوع از آن جهت اهمیت دارد که اپل در گذشته نشان داده است در صورت استفاده شرکت‌های ثالث از زیرساخت‌های مرتبط با خدمات خود بدون مجوز می‌تواند دسترسی آنها را محدود یا مسدود کند.

برای نمونه اپل در سال ۲۰۲۴ چندین بار دسترسی Beeper Mini، اپلیکیشن شخص ثالثی که امکان استفاده از iMessage را برای کاربران فراهم می‌کرد مسدود کرد. Beeper نیز با انتشار به‌روزرسانی‌هایی تلاش کرد این دسترسی را دوباره برقرار کند اما در نهایت از ادامه این تلاش‌ها برای بازگرداندن یکپارچگی مذکور دست کشید. روابط اپل و اوپن‌ای‌آی نیز اخیرا پرتنش شده است

این قابلیت در شرایطی معرفی شده که روابط اپل و اوپن‌ای‌آی نیز اخیرا چندان مطلوب نبوده است. اپل در ماه ژوئیه از اوپن‌ای‌آی شکایت کرد و این شرکت را به سرقت اسرار تجاری متهم کرد.

اپل در شکایت خود مدعی شده بود که اوپن‌ای‌آی برخی از کارکنان این شرکت را با هدف دستیابی به اطلاعات محرمانه و اسرار تجاری اپل جذب کرده است.

با این حال عرضه افزونه جدید نشان می‌دهد که ChatGPT اکنون می‌تواند در مک تعامل بسیار عمیق‌تری با اپلیکیشن Messages داشته باشد؛ قابلیتی که از یک سو می‌تواند مدیریت پیام‌ها و پاسخ‌گویی به آنها را برای کاربران ساده‌تر کند و از سوی دیگر به دلیل سطح دسترسی مورد نیاز اهمیت موضوع حریم خصوصی و امنیت داده‌ها را بیش از گذشته برجسته می‌کند.

انتهای پیام/