هشدار مرکز پژوهش‌های مجلس درباره پیامدهای جنسیتی هوش مصنوعی؛ از تهدید اشتغال زنان تا گسترش دیپ‌فیک

مقاله مشترک محمدجواد شایگان‌فرد عضو هیئت علمی دانشکده هوش مصنوعی و کامپیوتر دانشگاه علم و فرهنگ و سپهر سماواتی دانش‌آموخته رشته کارشناسی ارشد مهندسی کامپیوتر ـ نرم‌افزار که برآمده از پایان‌نامه کارشناسی ارشد این دانش‌آموخته است، با عنوان «A lightweight transfer learning framework with dynamic data augmentation for few-shot remote sensing image classification» در مجله Geomatica از انتشارات Elsevier منتشر شد.

به گزارش دانشگاه علم و فرهنگ، این پژوهش به ارائه یک چارچوب سبک و کارآمد مبتنی بر هوش مصنوعی برای طبقه‌بندی تصاویر سنجش از دور در شرایط کمبود داده‌های آموزشی می‌پردازد.

پژوهشگران در این مطالعه با ترکیب روش‌های یادگیری انتقالی و افزایش پویای داده‌ها، روشی را ارائه کرده‌اند که امکان آموزش مدل‌های یادگیری عمیق را با حجم محدودی از تصاویر برچسب‌گذاری‌شده فراهم می‌کند.

کمبود داده‌های برچسب‌گذاری‌شده یکی از چالش‌های مهم در توسعه مدل‌های هوش مصنوعی برای تحلیل تصاویر ماهواره‌ای است؛ چراکه تهیه و برچسب‌گذاری این داده‌ها به زمان و منابع قابل‌توجهی نیاز دارد.

چارچوب پیشنهادی این پژوهش با هدف کاهش وابستگی مدل به حجم بالای داده‌های آموزشی طراحی شده است.

نتایج آزمایش‌ها روی تصاویر ماهواره‌ای نشان داد که روش پیشنهادی، ضمن حفظ کارایی محاسباتی و سبک‌بودن مدل، موجب کاهش خطای طبقه‌بندی و بهبود عملکرد آن می‌شود.

این ویژگی می‌تواند استفاده از مدل‌های هوش مصنوعی را در شرایطی که داده‌های آموزشی محدود یا منابع محاسباتی در دسترس کم است، امکان‌پذیرتر کند.

یافته‌های این پژوهش می‌تواند در حوزه‌هایی همچون پایش محیط‌زیست، نقشه‌برداری کاربری و پوشش اراضی، کشاورزی هوشمند، مدیریت بحران، پایش منابع طبیعی و تحلیل تصاویر ماهواره‌ای کاربرد داشته باشد.

این مقاله در مجله Geomatica از انتشارات Elsevier منتشر شده، در پایگاه Scopus نمایه می‌شود و در چارک Q۲ قرار دارد.

انتهای پیام/

در جلسه ستاد توسعه فناوری و کاربرد هوش مصنوعی مقرر شد وزارت آموزش و پرورش گزارش ماهانه اقدامات خود در حوزه هوش مصنوعی را به دبیرخانه ستاد ارائه کند تا روند اجرای برنامه‌ها به‌صورت مستمر مورد ارزیابی و نظارت قرار گیرد.

به گزارش معاونت علمی ریاست‌جمهوری، یکی دیگر از موضوعات مطرح‌شده، حضور ایران در همکاری‌های بین‌المللی حوزه هوش مصنوعی بود. بر اساس تصمیم اتخاذشده، معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری به‌عنوان نماینده جمهوری اسلامی ایران در سازمان همکاری جهانی هوش مصنوعی (WAICO) انتخاب شد. ایران پیش‌تر نیز با امضای سند تأسیس این سازمان، به جمع اعضای مؤسس آن پیوسته بود. تصویب کلیات برنامه اقدام دو وزارتخانه

در ادامه، کلیات برنامه اقدام وزارت جهاد کشاورزی با حضور سید غلامرضا نوری وزیر جهاد کشاورزی، و وزارت ورزش و جوانان با حضور احمد دنیامالی وزیر ورزش و جوانان، در چارچوب «برنامه تقسیم کار ملی هوش مصنوعی» بررسی و به تصویب رسید.

بر اساس تصمیم ستاد، اعضا تا روز چهارشنبه چهارم شهریورماه فرصت دارند پیشنهاد‌های اصلاحی خود درباره این برنامه‌ها را به دبیرخانه ستاد ارسال کنند.

بیشتر بخوانید ایران دیجیتال ۴ میلیونی شد؛ آموزش رایگان هوش مصنوعی به دانش‌آموزان مانوین نماد تغییر پارادایم و ریل‌گذاری حکمرانی نوین در مسیر توسعه اقتصاد خلاق ایران است پیگیری طرح‌های منتخب در حوزه آب و انرژی

گزارش اقدامات ستاد در فاصله میان دو جلسه نیز ارائه شد. بر اساس این گزارش، تفاهم‌نامه‌های همکاری مربوط به طرح‌های منتخب دریافت و بررسی شده و جلسات نظارت با تیم‌های منتخب فعال در حوزه‌های آب و انرژی برگزار شده است.

همچنین دریافت گزارش‌های مرتبط با طرح‌ها و آغاز فرآیند تعامل با بهره‌برداران، از دیگر اقدامات انجام‌شده در این بازه زمانی عنوان شد. پیگیری فراخوان‌های حمل‌ونقل و پولی و بانکی

در بخش دیگری از جلسه، آخرین اقدامات مرتبط با فراخوان‌های حوزه حمل‌ونقل و پولی و بانکی مورد بررسی قرار گرفت. در همین چارچوب، نشست هم‌اندیشی با شرکت‌های فعال در حوزه هوش مصنوعی و حوزه‌های موضوعی این فراخوان‌ها برگزار شده است.

اعضای ستاد همچنین آخرین وضعیت برنامه دستگاه‌های اجرایی در چارچوب «برنامه تقسیم کار ملی هوش مصنوعی» را بررسی کردند و گزارشی از نشست‌های کمیته‌های تخصصی ستاد ارائه شد.

این روند نشان می‌دهد پیگیری اجرای برنامه تقسیم کار ملی هوش مصنوعی در کنار توسعه همکاری با دستگاه‌های اجرایی، شرکت‌های فناور و بهره‌برداران طرح‌ها، از محور‌های اصلی فعالیت ستاد در هفته‌های اخیر بوده است.

انتهای پیام/

به گزارش خبرنگار اقتصاد معاصر؛ شرکت OpenAI در تازه‌ترین اقدام خود برای افزایش ایمنی کاربران نوجوان، نسخه‌ای از ChatGPT با محافظت‌های متناسب با سن را معرفی کرده است؛ اقدامی که پس از افزایش نگرانی‌ها درباره تاثیر چت‌بات‌های هوش مصنوعی بر سلامت روان نوجوانان و طرح چندین دعوا علیه شرکت انجام می‌شود.

نسخه جدید ChatGPT علاوه بر سازوکارهای ایمنی بیشتر، امکانات آموزشی تازه‌ای را نیز در اختیار نوجوانان قرار می‌دهد. یکی از مهم‌ترین این قابلیت‌ها حالت مطالعه است که به جای ارائه مستقیم پاسخ، با طرح پرسش‌های راهنما و ارائه توضیحات مرحله‌به‌مرحله، کاربر را به درک بهتر مطالب و حل مساله هدایت می‌کند.

OpenAI همچنین قابلیتی برای یادآوری تکالیف در نظر گرفته است که در صورت تشخیص تلاش کاربر برای دریافت پاسخ آماده و تقلب، وی را به استفاده از حالت مطالعه هدایت می‌کند. پشتیبانی از آزمون‌ها و تصاویر آموزشی و همچنین امکان تعیین شرایط فعال شدن پیش‌فرض حالت مطالعه از سوی والدین یا سرپرستان، از دیگر امکانات این نسخه است.

با وجود این، میزان موفقیت این تدابیر در عمل همچنان مشخص نیست. یکی از چالش‌های اصلی، امکان دور زدن محدودیت‌های اعمال‌شده از سوی نوجوانان است؛ موضوعی که به‌ویژه در زمینه کنترل‌های دیجیتال و محدودیت‌های والدین، همواره یکی از دغدغه‌های اصلی بوده است.

OpenAI اعلام کرده محافظت‌های متناسب با سن در نسخه نوجوانان به‌صورت پیش‌فرض فعال خواهند بود و هدف آن‌ها کاهش مواجهه کاربران با محتوای آسیب‌زا یا نامتناسب با سن است. این سیاست‌ها بر پایه اصول ویژه کاربران زیر ۱۸ سال در چارچوب Model Spec این شرکت و با اتکا به دیدگاه متخصصان و یافته‌های مرتبط با رشد نوجوانان طراحی شده‌اند.

در کنار این اقدامات، والدین می‌توانند از ابزارهای خانوادگی و کنترل‌های والدین OpenAI برای مدیریت برخی تنظیمات، دریافت هش

دارهای ایمنی و تعیین ساعات سکوت استفاده کنند. OpenAI همچنین از همکاری با CodeAI برای آموزش نوجوانان درباره نحوه عملکرد هوش مصنوعی، شیوه هدایت و ارزیابی پاسخ‌های آن و استفاده مسوولانه از این فناوری خبر داده است.

این تغییرات در شرایطی انجام می‌شود که ChatGPT از زمان عرضه در سال ۲۰۲۲ با سرعت زیادی در میان کاربران گسترش یافته و پیش از اضافه شدن مجموعه‌ای از تدابیر ویژه نوجوانان، به صدها میلیون کاربر هفتگی رسیده بود. همین موضوع باعث شده است پرسش‌هایی درباره زمان‌بندی اجرای این محافظت‌ها و اینکه چرا بخش قابل توجهی از این سازوکارها از ابتدا در ChatGPT وجود نداشته‌اند، مطرح شود.

در همین حال، OpenAI هم‌زمان از مجموعه دیگری از اقدامات امنیتی برای توسعه و آزمایش مدل‌های هوش مصنوعی خبر داده است. این اقدامات پس از حادثه امنیتی و با هدف تقویت نظارت، جداسازی شبکه و کنترل رفتار مدل‌ها در مراحل توسعه و پساآموزش طراحی شده‌اند.

این شرکت اعلام کرده است با افزایش توانایی مدل‌های هوش مصنوعی، سطح نظارت و الزامات امنیتی نیز افزایش خواهد یافت. بر اساس سیاست جدید، به خطر افتادن یک ابزار یا سرویس پشتیبان نباید به‌تنهایی امکان دسترسی غیرمجاز به اینترنت یا سایر شبکه‌های داخلی را فراهم کند.

یکی دیگر از تدابیر اعلام‌شده، ایجاد سامانه نظارتی برای بررسی فعالیت ابزارها، شواهد موجود از فرایند استدلال و گزارش‌های فعالیت مدل‌هاست. OpenAI می‌گوید این سامانه می‌تواند در صورت شناسایی رفتارهای غیرمجاز، هشدارهایی را در مدت کوتاهی صادر کند. این شرکت همچنین برآورد کرده است که اجرای چنین نظارتی حدود ۲۰ درصد از توان محاسباتی فرایندهای تحت نظارت را مصرف خواهد کرد.

OpenAI تاکید کرده است که بخش قابل توجهی از فعالیت‌های بزرگ‌تر یادگیری تقویتی همچنان متوقف است و این شرکت پیش از ادامه آن‌ها، در حال انجام آموزش‌ها و ارزیابی‌های کوچک‌تر برای بررسی رفتار مدل‌ها، اعتبارسنجی سازوکارهای حفاظتی و اطمینان بیشتر از هم‌راستایی مدل‌هاست.

در مجموع، اقدامات جدید OpenAI نشان‌دهنده تلاش این شرکت برای افزایش کنترل بر دو حوزه مهم در توسعه هوش مصنوعی است. ایمنی کاربران نوجوان و امنیت فرایند توسعه مدل‌های پیشرفته؛ با این حال، میزان اثربخشی واقعی این تدابیر و توانایی آن‌ها در برابر دور زدن محدودیت‌ها و تهدیدهای امنیتی، تنها پس از استفاده گسترده و ارزیابی‌های مستقل مشخص خواهد شد.