مرکز پژوهش‌های مجلس: هوش مصنوعی به کلیشه‌های جنسیتی دامن می‌زند - پیوست

به‌گزارش پیوست، یکی از محورهای اصلی گزارش « فرصت‌ها و تهدیدهای هوش مصنوعی برای زنان و خانواده» بررسی ابعاد اخلاقی و جنسیتی هوش مصنوعی است. در متن پژوهش اشاره شده که بدون توجه به بعد جنسیتی، فناوری‌های هوش مصنوعی می‌تواند به تقویت و ترویج کلیشه‌های جنسیتی و خدشه‌دار شدن جایگاه و کرامت زنان منجر شود.

در این گزارش، فرصت‌ها و تهدیدهای هوش مصنوعی برای زنان در دو گروه مورد بررسی قرار گرفته است. گروه نخست به فرصت‌ها و تهدیدهای ناشی از ساختار هوش مصنوعی و پردازش داده‌محور مربوط می‌شود و گروه دوم به پیامدهای تحولات فناورانه برای ساختارهای جامعه می‌پردازد. گزارش مرکز پژوهش‌های مجلس کنترل این مخاطرات را نیازمند بهره‌برداری از یافته‌های این بررسی و ارائه پیشنهادهایی برای تقویت حضور زنان در حوزه اخلاق و خط‌مشی‌گذاری این فناوری‌ها عنوان کرده است.

این گزارش مسائل زنان را از چند زاویه بررسی می‌کند. سوگیری و تبعیض، تغییرات بازار کار، خانواده، آموزش و یادگیری، سلامت زنان، نقض کرامت و امنیت زنان و در نهایت نقش هوش مصنوعی در حکمرانی عناورین این بررسی‌هاست.سوگیری و تبعیض علیه زنان

یکی از نخستین نگرانی‌های مطرح‌شده در این گزارش، سوگیری داده‌هاست. مدل‌های هوش مصنوعی الگوهای موجود در داده‌ها را یاد می‌گیرند. از همین رو اگر داده‌های آموزشی دارای سوگیری باشد یا تجربه گروه‌هایی مانند زنان در آنها کمتر نمایندگی شده باشد، خروجی سیستم نیز می‌تواند همان تبعیض را بازتولید کند.

یکی از نمونه‌های شناخته‌شده، سیستم استخدام آمازون است که با استفاده از داده‌های استخدامی گذشته آموزش دیده بود. داده‌هایی که در آنها مردان سهم بیشتری از نیروی کار حوزه فناوری داشتند و سهم زنان کمتر بود. در نتیجه، سیستم به‌صورت ناعادلانه‌ای به متقاضیان مرد امتیاز بیشتری می‌داد و برخی رزومه‌های زنان را رد می‌کرد. این سوگیری تنها به استخدام محدود نمی‌شود. گزارش اشاره می‌کند که مدل‌های زبانی و ابزارهای مولد نیز ممکن است کلیشه‌های جنسیتی را بازتولید کنند. برای مثال، مشاغل مدیریتی را بیشتر به مردان و نقش‌های سنتی را به زنان نسبت دهند. حتی تصاویر تولیدشده توسط هوش مصنوعی نیز می‌تواند منجر به تقویت شدن کلیشه‌های مربوط به جنسیت و ظاهر شود.

راهکار پیشنهادی این گزارش برای کاهش این مشکل فقط اصلاح الگوریتم‌ها نیست. طبق پیشنهاد گزارش، زنان و گروه‌های مختلف اجتماعی باید در فرآیند طراحی و توسعه سیستم‌ها حضور داشته و داده‌های مورد استفاده برای آموزش مدل‌ها نیز بازتابی از تجربه‌ها و دیدگاه‌های متنوع‌تری باشد. همچنین ممیزی مستمر سیستم‌ها برای شناسایی خروجی‌های سوگیرانه ضروری دانسته شده است.بازار کاری که تغییر می‌کند

تغییر و تحولات بازار کار بر اثر هوش مصنوعی از نگرانی‌هایی است که از ابتدای ورود و فراگیر شدن این فناوری بارها مطرح شده است. بر اساس گزارش مجلس، برخی مشاغلی که زنان در آنها حضور قابل‌ توجهی دارند، مانند فعالیت‌های اداری و خدماتی، به دلیل قابلیت بالای خودکارسازی در معرض تغییر یا حذف‌اند. برای نمونه، دستیارهای هوش مصنوعی می‌توانند بخشی از وظایف منشی‌ها را انجام دهند و ابزارهای تبدیل صوت و تصویر به متن نیز می‌تواند برخی وظایف تایپی را خودکار کند.

با این حال، این تغییر لزوما به معنای حذف فرصت‌های شغلی زنان نیست. اتوماسیون برخی وظایف روزمره می‌تواند زنان را به سمت مشاغل تخصصی‌تر سوق دهد. بر اساس این گزارش، حوزه‌هایی مانند تحلیل داده، بازاریابی دیجیتال و توسعه هوش مصنوعی از جمله مسیرهای جدیدی است که با تاکید بر کار از راه دور، ساعات کاری انعطاف‌پذیر و کارآفرینی دیجیتال می‌تواند امکان ایجاد تعادل بیشتری میان مسئولیت‌های خانوادگی و شغلی فراهم کند. اما شرط استفاده از این فرصت، مهارت‌آموزی و بازآموزی اعلام شده است. مرکز پژوهش‌ها با استناد به ماده ۷۹ برنامه هفتم توسعه، بر سرمایه‌گذاری در آموزش حرفه‌ای و یادگیری بلندمدت زنان برای سازگاری با تغییرات بازار کار تاکید کرده است.نمودار گروه‌های عمده شغلی زنان در گروه سنی ۱۵ ساله و بیشتر

ماده(۷۹) قانون برنامه هفتم توسعه، بر افزایش ۲۵ درصدی مهارت‌های شغلی زنان و افزایش ۱۰ درصدی سهم زیرساخت‌های شتاب‌دهی نوآوری در حوزه زنان و خانواده در مقایسه با سایر زیرساخت‌ها تا پایان این برنامه تاکید کرده است.

همچنین طراحی الگوی اشتغال زنان در حوزه فناوری اطلاعات و هوش مصنوعی با در نظر گرفتن مسئولیت‌های خانوادگی، از دیگر پیشنهادهای این گزارش است. یک مشکل دیگر، کمبود داده درباره وضعیت زنان در بازار کار فناوری است. گزارش می‌گوید داده‌های موجود درباره مسیر شغلی، دستمزد، مهارت و جایگاه زنان در حوزه‌های فناوری اطلاعات، علم داده و هوش مصنوعی پراکنده و ناکافی است. از همین رو پیشنهاد کرده است داده‌های تفکیک‌شده درباره زنان در این حوزه‌ها به شکل متمرکز جمع‌آوری و برای پژوهشگران قابل دسترس شود.هوش مصنوعی در خانه

تاثیر هوش مصنوعی به بازار کار محدود نیست و این فناوری وارد ابعاد خانوادگی نیز شده است. ابزارهایی مانند یادآوری دارو، دستیارهای مجازی و پایش سلامت می‌تواند بخشی از بار مراقبتی خانواده را کاهش داده و به مراقبان، که عمدتا زنان هستند، کمک کند.

در مقابل، ورود ربات‌ها و دستیارهای هوشمند به روابط خانوادگی می‌تواند مرز میان تعامل انسانی و تعامل با ماشین را کمرنگ کند. در این گزارش به ربات‌های مراقبتی و حتی ربات‌ها و چت‌بات‌های جنسی اشاره شده است که هشدار می‌دهد نبود چارچوب‌های اخلاقی، فرهنگی و حقوقی برای این فناوری‌ها می‌تواند پیامدهای اجتماعی و خانوادگی به همراه داشته باشد. از سوی دیگر، وابستگی عاطفی به ربات‌های انسان‌نما می‌تواند بر روابط انسانی و زناشویی اثر بگذارد. به همین دلیل، گزارش تاکید می‌کند که ورود این فناوری‌ها به حریم خانواده صرفا یک مسئله فناورانه نیست و نیازمند توجه همزمان به پیامدهای اخلاقی، فرهنگی و اجتماعی آن است.سلامت زنان؛ فرصتی همراه با ریسک

همانطور که هوش مصنوعی می‌تواند در آموزش بهداشت، سلامت روان و مراقبت‌های بارداری به زنان کمک کند، می‌تواند در زمینه بروز خطا در تشخیص یا توصیه، به‌ویژه در بیماری‌های مزمن و مسائل سلامت روان، خطرناک باشد.

داده‌های مربوط به ناباروری، بیماری‌های زنان و سلامت باروری از حساس‌ترین داده‌های شخصی هستند و افشای آنها می‌تواند پیامدهای اجتماعی و روانی داشته باشد. این مسئله با ورود ابزارهای مبتنی بر هوش مصنوعی شدت گرفته و منجر به افزایش نگرانی‌ها شده است. از سوی دیگر، داده‌های ناقص یا مغرضانه و همچنین شکاف دیجیتال ممکن است نابرابری در تشخیص و درمان را تشدید کند.شرط استفاده از فرصت‌ها داشتن سواد است

گزارش مجلس در کنار تهدیدها، بر توانمندسازی زنان از مسیر آموزش تاکید می‌کند. سواد هوش مصنوعی فقط کار با ابزارها نیست و شناخت کاربردها، نحوه عملکرد و استفاده انتقادی از این فناوری را هم شامل می‌شود. نبود این سواد، به‌ویژه برای زنان کم‌برخوردار، می‌تواند هم آنها را در معرض اطلاعات نادرست قرار دهد و هم باعث از دست رفتن فرصت‌های فناورانه شود.

در این گزارش همچنین اشاره شده که هوش مصنوعی می‌تواند با ارائه دستیارهای حقوقی مبتنی بر مدل‌های زبانی، دسترسی زنان به اطلاعات مربوط به حقوق شغلی، آموزشی، بهداشتی و خانوادگی را آسان‌تر کند.از دستیار زن تا کلیشه زنانه

گزارش مرکز پژوهش‌های مجلس نحوه تصویر زنان در محصولات هوش مصنوعی را نیز مورد توجه قرار داده است. بسیاری از دستیارهای دیجیتالی با نام، صدا یا ظاهر زنانه و در نقش‌هایی مانند مراقب، خدمت‌رسان یا همراه طراحی شده‌اند. این الگوها می‌تواند کلیشه‌های سنتی درباره نقش زنان را بازتولید کند.

در مقابل، حضور زنان در طراحی و توسعه هوش مصنوعی می‌تواند به تولید فناوری‌هایی با توجه بیشتر به ملاحظات اخلاقی و انسانی کمک کند. این رویکردی است که در گزارش آن را با مفهوم «اخلاق مراقبت» مرتبط دانست.

یکی از تهدیدهای ملموس گزارش، استفاده مخرب از هوش مصنوعی مولد برای تولید تصاویر، صداها و ویدئوهای جعلی است. این فناوری می‌تواند آزار و تهدید جنسیتی را ساده‌تر کند و برای جعل هویت، تخریب روابط حرفه‌ای یا خصوصی، تهدید و اخاذی زنان به کار رود. یکی از موارد مورد تاکیدگزارش، ایجاد سازوکارهای ساده برای گزارش محتوای جعلی، تدوین قوانین بازدارنده و افزایش سواد رسانه‌ای درباره سوءاستفاده از هوش مصنوعی مولد است.حکمرانی؛ هم راه‌حل، هم محل خطر

گزارش مجلس نشان می‌دهد هوش مصنوعی می‌تواند در حکمرانی نیز به کاهش برخی تبعیض‌ها کمک کند. تحلیل داده‌های اجتماعی و اقتصادی از منظر جنسیتی می‌تواند به دولت در ارزیابی سیاست‌ها و بودجه‌ها و پیش‌بینی پیامدهای آنها کمک کند و در موضوعاتی مانند خشونت علیه زنان نیز کاربرد داشته باشد.

با این حال، استفاده از سیستم‌های هوش مصنوعی بدون شفافیت و کنترل سوگیری می‌تواند بی‌عدالتی‌های موجود را بازتولید کند. از همین رو گزارش بر ممیزی، شفافیت و مسئولیت‌پذیری در استفاده از این فناوری در بخش عمومی تاکید می‌کند.جای خالی زنان در سیاستگذاری هوش مصنوعی

طبق گزارش مجلس، با وجود پیشرفت‌های تقنینی در حوزه هوش مصنوعی در ایران، مسائل اجتماعی، روانی و اخلاقی مرتبط با زنان هنوز جایگاه پررنگی در اسناد موجود ندارند و تاکنون قانون مستقلی در این زمینه تصویب نشده است.

گزارش در پایان، مجموعه‌ای از راهکارها را برای ارتقای سواد هوش مصنوعی، افزایش مشارکت زنان در طراحی و سیاستگذاری، توسعه داده‌های فراگیر، نظارت بر الگوریتم‌ها، تدوین چارچوب‌های اخلاقی و فراهم کردن دسترسی برابر به زیرساخت‌های دیجیتال مطرح می‌کند.

مسئله فقط تأثیر هوش مصنوعی بر زنان نیست؛ بلکه میزان حضور زنان در تولید داده، طراحی الگوریتم‌ها و تصمیم‌گیری درباره حکمرانی این فناوری نیز اهمیت دارد. اگر این حضور نادیده گرفته شود، هوش مصنوعی می‌تواند به جای کاهش نابرابری‌ها، آنها را در مقیاسی بزرگ‌تر بازتولید کند.

از نگاه این گزارش، فناوری هوش مصنوعی در ارتباط با زندگی شخصی، سلامت، جایگاه شغلی و طرز فکر و آینده نقش زنان لزوما و صد در صد منفی نیست. عاملی که این فناوری را برای این مخاطبان خطرناک می‌کند، سوءگیری داده‌ها و در نظر نگرفتن نقش زنان در سیاست‌گذاری و تدوین قوانین است.فایل کامل گزارش «حکمرانی هوش مصنوعی (۱۳): فرصت‌ها و تهدیدهای هوش مصنوعی برای زنان و خانواده»