به گزارش خبرنگار مهر؛ ورود هوش مصنوعی به زندگی روزمره، مسئله سیاستگذاری این فناوری را به حوزههایی کشانده است که در ادبیات اولیه توسعه هوش مصنوعی ایران کمتر دیده میشدند. گزارش تازه مرکز پژوهشهای مجلس با عنوان «حکمرانی هوش مصنوعی ۱۳: فرصتها و تهدیدهای هوش مصنوعی برای زنان و خانواده» که در روزهای اخیر منتشر شده، تلاشی برای پرکردن بخشی از همین خلأ است. گزارش با مرورپژوهی و رویکرد توصیفی تحلیلی، پیامدهای هوش مصنوعی را در حوزههایی چون سوگیری الگوریتمی، اشتغال، خانواده، آموزش، سلامت، هویت و حکمرانی بررسی میکند و نقطه عزیمت خود را بر این فرض قرار میدهد که پیامدهای اجتماعی هوش مصنوعی برای گروههای مختلف جامعه یکسان نخواهد بود.
اهمیت این گزارش بیش از هر چیز در تغییر واحد تحلیل نهفته است. هوش مصنوعی در این گزارش یک فناوری مستقل نیست که آثار اجتماعی آن پس از توسعه بررسی شود. کیفیت داده، طراحی الگوریتم، ترکیب نیروی انسانی توسعهدهنده و نحوه استقرار سامانه از همان ابتدا در شکلدادن به پیامدهای اجتماعی دخالت دارند. مرکز پژوهشها بر همین مبنا مجموعهای گسترده از مسائل، شامل سوگیری داده، دگرگونی مشاغل زنان، سلامت جسمی و روانی، جعل عمیق و تحول حکمرانی را در یک چارچوب واحد قرار داده است.
سوگیری الگوریتمی تداوم چالش تبعیض
یکی از فنیترین محورهای گزارش به مسئله سوگیری اختصاص دارد. مدلهای یادگیری ماشین روابط آماری را از دادههای آموزشی استخراج میکنند و همین سازوکار باعث میشود عدم توازن یا تبعیض موجود در دادههای تاریخی در خروجی الگوریتم بازتولید شود. نمونه مشهور سامانه استخدامی آمازون در گزارش مورد توجه قرار گرفته است. این سامانه با دادههای استخدامی ده ساله آموزش دیده بود که حضور مردان در مشاغل فناوری در آن بیشتر بود و در نتیجه، مدل به سمت ترجیح متقاضیان مرد سوق پیدا کرد.
مسئله در عصر هوش مصنوعی مولد دامنه گستردهتری پیدا میکند. مدلهای زبانی و مولد تصویر میتوانند کلیشههای تاریخی درباره زنان و مردان را در مقیاسی بسیار بزرگ بازتولید کنند. گزارش از این نقطه به یک نتیجه سیاستی مهم میرسد. بر همین اساس کیفیت حکمرانی هوش مصنوعی به کیفیت حکمرانی داده وابسته است. مجموعهدادههای فراگیر، مشارکت گروههای متنوع در فرایند توسعه و ممیزی مستمر …
