به گزارش پیوست، پنل «اخلاق و عاملیت هوش مصنوعی در سازمانها» که در کارخانه نوآوری آزادی، مرکز نوآوری پلنت برگزار شد، از سه زاویه علمی، سازمانی و شناختی درباره این پرسش صحبت کردند که در مواجهه با هوش مصنوعی چه تصمیمهایی باید به ماشین سپرده شود و چه تصمیمهایی همچنان نیازمند قضاوت انسانی است.
شاهین روحانی، استاد تمام فیزیک دانشگاه صنعتی شریف و برنده جایزه خوارزمی، در این نشست با اشاره به برداشتهای اغراقآمیز درباره تواناییهای هوش مصنوعی، گفت بخشی از توانایی این فناوری در حوزه تخیل و تصور بیش از اندازه بزرگ شده است.
او تاکید کرد که هوش مصنوعی نمیتواند چیزی را تصور کند که بشر پیش از آن انجام نداده باشد و از این منظر نمیتوان انتظار داشت که این فناوری به معنای واقعی دست به کشف بزند.
روحانی توضیح داد: هوش مصنوعی بر اساس دادهها، آموزشها و تجربههای موجود کار میکند و نمیتواند از چارچوب چیزهایی که تاکنون به آن ارائه شده، به سادگی عبور کند.
به گفته او، تفاوت اصلی هوش مصنوعی در این نیست که مانند انسان یک ایده کاملا جدید خلق کند، بلکه در این است که انجام بسیاری از کارها را امکانپذیر یا سریعتر میکند.
او با اشاره به تجربه استفاده از هوش مصنوعی در فعالیتهای علمی و روزمره خود گفت: زمانی که از این ابزار برای آمادهسازی محتوا یا انجام برخی کارها استفاده میکند، بخش زیادی از توان آن مربوط به سرعت بخشیدن به فرایندهایی است که پیشتر توسط انسان انجام میشدند.
روحانی تاکید کرد که نباید توانایی هوش مصنوعی در ایجاد خروجیهای سریع و قابل قبول را با فرآیند کشف و خلاقیت انسانی یکسان دانست.عاملیت هوش مصنوعی؛ تفاوت اصلی با فناوریهای گذشته
در بخش دیگری از نشست، روحانی درباره تفاوت هوش مصنوعی با فناوریهای پیشین گفت: یکی از ویژگیهایی که این فناوری را از ابزارهای گذشته جدا میکند، مفهوم «عاملیت» است.
او توضیح داد: بسیاری از فناوریهای پیشین مانند موشک، اینترنت یا ابزارهای محاسباتی، بدون تصمیم مستقیم انسان اقدامی انجام نمیدهند، اما سیستمهای هوش مصنوعی میتوانند بر اساس دادهها و شرایط موجود تصمیم بگیرند و اقدام کنند.
او با اشاره به مفهوم Agent یا عامل هوشمند گفت: همین توانایی تصمیمگیری و اقدام مستقل، باعث شده هوش مصنوعی با فناوریهای گذشته تفاوت جدی داشته باشد.
روحانی تاکید کرد: مدلهای هوش مصنوعی مانند یک نرمافزار سنتی نیستند که برنامهنویس دقیقا بداند در هر لحظه چه اتفاقی درون آن رخ میدهد. در بسیاری از مدلهای جدید، برنامهنویس تنها ساختار آموزش را طراحی میکند و پس از آموزش، رفتار سیستم همیشه قابل پیشبینی به شکل کامل نیست.
در ادامه صادق برادران، مدیر استراتژی گروه بیمه سامان و دکترای فنآفرینی دانشگاه تهران، در این نشست با اشاره به تجربه سازمانی استفاده از هوش مصنوعی گفت: سازمانها باید به جای تمرکز صرف بر ریسکها، درباره چگونگی استفاده از این فناوری برای حل مسائل واقعی فکر کنند.
او گفت: در گروه مالی سامان، به دلیل گستردگی فعالیتها و حضور شرکتهای مختلف، استفاده از فناوریهای جدید همواره یکی از موضوعات مطرح در جلسات استراتژی بوده است.
برادران تاکید کرد که اگر یک شرکت نتواند با کمک هوش مصنوعی هزینههای خود را کاهش دهد یا تجربه مشتری را بهبود دهد، احتمالا فرصت بزرگی را از دست داده است.
او نمونهای از تجربه شخصی خود در توسعه یک ایده با استفاده از ابزارهای هوش مصنوعی را مطرح کرد و گفت: کاری در گذشته ممکن بود به چند ماه زمان و میلیاردها تومان هزینه نیاز داشته باشد، با کمک این ابزارها در مدت کوتاهتر انجام شده است.
به گفته او، در یک تجربه عملی، ایدهای که برای طراحی آن نیاز به تیم توسعه، هزینه چند میلیارد تومانی و چند ماه زمان وجود داشت، با کمک ابزارهای هوش مصنوعی در مدت کوتاهتر و با هزینه بسیار پایینتر به بخش بزرگی از نیاز مورد نظر رسید.هوش مصنوعی نباید باعث از دست دادن فرصتها شود
برادران در ادامه با اشاره به نگرانیهای موجود درباره ریسکهای هوش مصنوعی گفت: نباید ترس از خطرهای احتمالی باعث شود سازمانها فرصتهای این فناوری را از دست بدهند.
او گفت: بسیاری از مسائل اجتماعی، محیطزیستی و اقتصادی که در گذشته اجرای راهحل برای آنها دشوار بود، امروز با کمک هوش مصنوعی دوباره قابل بررسی شدهاند.
او مثالی درباره استفاده از هوش مصنوعی برای مسائل محیطزیستی مطرح کرد و گفت: ایدههایی که پیش از این فقط در حد تصور باقی میماندند، امروز امکان تبدیل شدن به پروژههای عملی دارند.
برادران تاکید کرد: سازمانها باید دوباره بسیاری از مسائل را بررسی کنند، زیرا ممکن است راهکارهایی که در گذشته غیرممکن به نظر میرسیدند، اکنون امکان اجرا پیدا کرده باشند.کارهای روتین نباید همچنان توسط انسان انجام شود
مدیر استراتژی گروه بیمه سامان در بخش دیگری از صحبتهای خود درباره آینده اشتغال گفت: هدف استفاده از هوش مصنوعی نباید حذف انسانها باشد. کارهای تکراری و روتین نباید همچنان توسط نیروی انسانی انجام شوند و انسان باید از انجام فعالیتهای تکرارشونده به سمت کارهای خلاقانهتر و ارزشآفرینتر حرکت کند.
برادران مثال زد که بسیاری از کارکنان ساعتها صرف بررسی فایلهای اکسل، کنترل دادهها یا انجام کارهای تکراری میکنند؛ در حالی که این فعالیتها میتواند توسط سیستمهای هوشمند انجام شود و نیروی انسانی برای تصمیمگیریهای مهمتر وقت داشته باشد.
او گفت: در سازمانها نگاه اصلی نباید اخراج کارکنان باشد، بلکه باید آموزش مجدد، تغییر مهارتها و انتقال افراد به نقشهای جدید دنبال شود.
در ادامه آسو شجاعی، دکترای علوم اعصاب شناختی از دانشگاه تربیت مدرس، در بخش دیگری از پنل به موضوع سوگیریهای شناختی در سیستمهای هوش مصنوعی پرداخت.
او با اشاره به تجربه کار روی سیستمهای تشخیص چهره گفت: یکی از مشکلات اصلی این سیستمها این است که دادههای آموزشی آنها همیشه خنثی و بدون سوگیری نیست.
شجاعی توضیح داد: انسانها نیز دارای سوگیریهای شناختی هستند؛ برای مثال افراد معمولا چهره افرادی که از نظر فرهنگی یا قومی به آنها نزدیکتر هستند را دقیقتر تشخیص میدهند و چهره گروههای دیگر ممکن است برای آنها شبیهتر به نظر برسد.
به گفته او، همین الگوهای شناختی انسانی میتواند در دادههای آموزشی سیستمهای هوش مصنوعی بازتاب پیدا کند.
او تاکید کرد: مسئله سوگیری فقط به تشخیص چهره محدود نیست و در حوزههایی مانند استخدام، تشخیص مجرم بودن افراد، تعیین صلاحیت اجتماعی و ارائه خدمات نیز میتواند اثرگذار باشد.
شجاعی گفت: اگر سیستمهای هوش مصنوعی بر اساس دادههایی آموزش ببینند که دارای سوگیری هستند، همان الگوها را در تصمیمهای خود بازتولید خواهند کرد.ارزیابی خروجی هوش مصنوعی؛ نقش کنترل انسانی
شجاعی در ادامه تاکید کرد: در تصمیمهایی که با زندگی، حقوق و آینده افراد ارتباط دارد، انسان باید همچنان در حلقه تصمیمگیری باقی بماند.
او گفت: حوزههایی مانند قضاوت حقوقی، تعیین صلاحیت افراد یا تصمیمهایی که درباره دسترسی افراد به فرصتها گرفته میشود، نیازمند حضور قضاوت انسانی هستند.
به گفته او، هوش مصنوعی میتواند ابزار تحلیل و کمک به تصمیمگیری باشد، اما نمیتواند جایگزین کامل تجربه زیسته انسان، درک موقعیت و قضاوت اخلاقی شود.
در بخش پایانی نشست نیز بر ضرورت ارزیابی خروجی سیستمهای هوش مصنوعی تاکید شد.
سخنرانان اشاره کردند که سازمانها نباید صرفا به دلیل تولید خروجی توسط یک مدل هوش مصنوعی، آن خروجی را معتبر فرض کنند.
بر اساس مباحث مطرحشده، استفاده از هوش مصنوعی نیازمند فرآیند ارزیابی مستمر است و در حوزههای حساس باید یک عامل انسانی بتواند خروجی سیستم را بررسی و تایید کند.
در این نشست مطرح شد که هوش مصنوعی میتواند ظرفیت بزرگی برای افزایش بهرهوری، کاهش هزینهها و حل مسائل پیچیده ایجاد کند اما استفاده موثر از آن نیازمند شناخت محدودیتها، کنترل سوگیریها و حفظ نقش انسان در تصمیمهای مهم است.
