هوش مصنوعي چيست؟
هوش مصنوعي به مجموعه اي از فناوري ها و روش هاي محاسباتي گفته مي شود كه به سامانه هاي رايانه اي امكان مي دهند وظايفي را انجام بدهند كه معمولا نيازمند هوش انساني هستند؛ وظايفي مانند يادگيري از داده، تشخيص الگو، استدلال، تصميم گيري، درك زبان طبيعي و توليد محتوا . زيرشاخه هاي اصلي اين حوزه شامل يادگيري ماشين، يادگيري عميق، پردازش زبان طبيعي، بينايي رايانه اي و سامانه هاي مبتني بر قاعده است . در سال هاي اخير، ظهور مدل هاي زباني بزرگ و ابزارهاي هوش مصنوعي مولد، دسترسي عموم مردم به اين فناوري را به طور بي سابقه اي افزايش داده است . اين تحول باعث شده كه موضوع استفاده مسوولانه از هوش مصنوعي ديگر صرفا دغدغه متخصصان فناوري نباشد، بلكه به موضوعي عمومي براي هر كاربر، دانش آموز، معلم، كارمند و مدير تبديل شود . هوش مصنوعي بر خلاف بسياري از فناوري هاي پيشين، مستقيماً در فرآيند تصميم گيري دخالت مي كند . سامانه اي كه تصميم مي گيرد كدام رزومه بررسي شود، كدام بيمار در اولويت درمان قرار گيرد يا كدام محتوا به كاربر پيشنهاد شود؛ به همين دليل رعايت اصول اخلاقي و فني در استفاده از اين فناوري صرفاً يك توصيه اختياري نيست، بلكه پيش نياز بهره برداري امن و پايدار از آن است .
چرا رعايت
اصول فني و اخلاقي ضروري است؟
دليل نخست، كاهش خطر آسيب به افراد و جامعه از طريق جلوگيري از تصميم هاي نادرست يا تبعيض آميز است . دليل دوم حفظ اعتماد عمومي به فناوري كه پيش شرط پذيرش گسترده و پايدار آن است و سومين دليل، انطباق با الزامات قانوني و مقرراتي است كه در بسياري از كشورها به سرعت در حال شكل گيري هستند .
بايدهاي كليدي در استفاده از هوش مصنوعي
از مهم ترين اصولي كه كاربران و سازمان ها بايد هنگام استفاده از هوش مصنوعي رعايت كنند، حفاظت از داده هاي حساس، آموزش مستمر كاربران، راستي آزمايي خروجي، به روز رساني دانش و استفاده هدفمند است .
نبايدهاي كليدي در استفاده از هوش مصنوعي
در مقابل بايدها، مجموعه اي از رفتارها و رويه ها نيز وجود دارند كه بايد از آنها اجتناب كرد و اعتماد كوركورانه، ورود داده محرمانه بدون بررسي، واگذاري كامل تصميم هاي حساس و نقض حقوق مالكيت فكري ازجمله آنهاست . درحال حاضر رويكردهاي قانون گذاري در جهان نسبت به هوش مصنوعي متفاوت بوده و كشورها نسبت به تنظيم گري هوش مصنوعي شيوه هاي متفاوتي را در پيش گرفته اند . به عنوان مثال در اتحاديه اروپا، رويكرد مبتني بر ريسك با طبقه بندي كاربردها به سطوح ريسك مختلف و الزامات متناسب با هر سطح . در ايالات متحده امريكا، تركيبي از دستورالعمل هاي فدرال، استانداردهاي داوطلبانه صنعتي و مقررات ايالتي پراكنده به عنوان رويكرد دنبال مي شود . در چين، رويكرد بر مبناي نظارت متمركز دولتي با تمركز بر محتواي توليدشده و الزامات ثبت الگوريتم است . سازمان هاي بين المللي نيز تدوين اصول راهنما و چارچوب هاي داوطلبانه براي هماهنگي جهاني نظير اصول اخلاقي نهادهاي تخصصي سازمان ملل را در پيش مي گيرند . كارشناسان با اشاره به روند تحول هوش مصنوعي معتقدند اين فناوري در سال هاي آينده نقشي گسترده تر در تصميم گيري هاي فردي و سازماني خواهد داشت . اين موضوع، مسووليت مشتركي را ميان توسعه دهندگان فناوري، سازمان هاي به كارگيرنده، قانونگذاران و كاربران نهايي ايجاد مي كند .
حريم خصوصي و حفاظت از داده ها
بسياري از ابزارهاي هوش مصنوعي براي بهبود عملكرد خود از داده هاي ورودي كاربران استفاده مي كنند . اين موضوع در كنار مزاياي فني، ريسك هاي جدي براي حريم خصوصي ايجاد مي كند، به ويژه اگر كاربران بدون آگاهي كافي، اطلاعات حساس شخصي يا سازماني را وارد اين سامانه ها كنند . در اين بين لازم است اصول كليدي حفاظت از داده ها رعايت شود مثلا پيش از استفاده از هر ابزار، سياست حريم خصوصي و شرايط استفاده از داده را مطالعه كنيد . در صورت امكان از گزينه هاي غيرفعال سازي استفاده از داده براي آموزش مدل بهره ببريد و داده هاي شناسايي كننده افراد را در صورت عدم ضرورت حذف يا ناشناس سازي كنيد . براي داده هاي سازماني حساس از ابزارهاي داراي گواهي هاي امنيتي و انطباق با استانداردهاي شناخته شده استفاده كنيد . نمونه آن خطر ورود اطلاعات حساس است . مثلا كارمندي كه براي تسريع در نوشتن گزارش مالي، ارقام محرمانه درآمد سازمان را در يك ابزار عمومي هوش مصنوعي وارد مي كند، ممكن است ناخواسته اين اطلاعات را در معرض ذخيره سازي يا حتي استفاده در آموزش مدل هاي آينده قرار بدهد . رويه صحيح، استفاده از نسخه هاي سازماني داراي تضمين حريم خصوصي يا حذف ارقام حساس پيش از ورود به سامانه است . سامانه هاي هوش مصنوعي از داده هاي گذشته مي آموزند و بنابراين مي توانند الگوهاي تبعيض آميز موجود در آن داده ها را باز توليد يا حتي تقويت كنند . اين پديده كه « سوگيري الگوريتمي » ناميده مي شود، مي تواند در حوزه هايي مانند استخدام، اعطاي وام، تشخيص پزشكي و عدالت كيفري پيامدهاي جدي براي گروه هاي مختلف اجتماعي داشته باشد . مقابله با سوگيري نيازمند رويكردي چندلايه است : بررسي منظم داده هاي آموزشي از نظر نمايندگي متوازن گروه هاي مختلف، آزمون خروجي سامانه بر روي زيرگروه هاي جمعيتي گوناگون و حفظ امكان بازبيني و اعتراض انساني نسبت به تصميم هاي الگوريتمي . نمونه آن سوگيري در فرآيند استخدام است . اگر داده هاي تاريخي يك شركت نشان دهد كه اكثر افراد استخدام شده در يك نقش خاص از يك جنسيت يا پيشينه خاص بوده اند سامانه اي كه بر پايه اين داده آموزش ديده ممكن است به طور ناخواسته رزومه هاي ساير گروه ها را كم ارزش تر ارزيابي كند، حتي اگر شايستگي يكساني داشته باشند .
امنيت سايبري و هوش مصنوعي
هوش مصنوعي هم مي تواند ابزاري براي تقويت امنيت سايبري باشد ( مانند تشخيص ناهنجاري در ترافيك شبكه ) و هم مي تواند خود هدف يا ابزار حملات سايبري قرار گيرد . حملاتي مانند « مسموم سازي داده » ( دستكاري داده هاي آموزشي ) يا « تزريق دستور » ( فريب دادن مدل براي انجام رفتار ناخواسته ) از جمله تهديدهاي نوظهور در اين حوزه هستند . دسترسي به سامانه هاي هوش مصنوعي حساس را محدود و كنترل شده نگه داريد . ورودي هاي كاربران را پيش از پردازش توسط مدل، پالايش و اعتبارسنجي كنيد و سامانه ها را به طور منظم از نظر آسيب پذيري هاي امنيتي ارزيابي كنيد . روند كلي پذيرش سازماني هوش مصنوعي طي سال هاي اخير صعودي بوده و اين روند، اهميت آموزش كاربران و تدوين سياست هاي مسوولانه استفاده را دوچندان مي كند . حريم خصوصي داده ها و صحت اطلاعات توليدشده از مهم ترين دغدغه هاي كاربران به شمار مي رود . استفاده مسوولانه از هوش مصنوعي يك اقدام يك باره نيست، بلكه يك چرخه مستمر است كه از جمع آوري داده آغاز مي شود و با نظارت مستمر و بازخورد انساني ادامه مي يابد . در همين راستا علي اصغر زارعي، مدرس دانشگاه و كارشناس ارشد فناوري اطلاعات در گفت وگو با ايسنا، معتقد است كه استفاده مسوولانه از هوش مصنوعي يك اقدام يك باره نيست، بلكه يك چرخه مستمر است كه از جمع آوري داده آغاز مي شود و با نظارت مستمر و بازخورد انساني ادامه مي يابد . به گفته وي بسياري از ابزارهاي هوش مصنوعي براي بهبود عملكرد خود از داده هاي ورودي كاربران استفاده مي كنند و اين موضوع در كنار مزاياي فني، ريسك هاي جدي براي حريم خصوصي ايجاد مي كند به ويژه اگر كاربران بدون آگاهي كافي، اطلاعات حساس شخصي يا سازماني را وارد اين سامانه ها كنند . زارعي درباره اصول كليدي حفاظت از داده ها مي گويد : بايد پيش از استفاده از هر ابزار، سياست حريم خصوصي و شرايط استفاده از داده را مطالعه كرد و در صورت امكان از گزينه هاي غيرفعال سازي استفاده از داده براي آموزش مدل بهره برد . همچنين داده هاي شناسايي كننده افراد در صورت عدم ضرورت بايد حذف يا ناشناس سازي شود و براي داده هاي سازماني حساس، از ابزارهاي داراي گواهي هاي امنيتي و انطباق با استانداردهاي شناخته شده استفاده كرد . اين مدرس دانشگاه در ادامه اصول بايدها و نبايدها در ۴ حوزه سلامت، آموزش و كسب و كار و رسانه و محتوا را مورد تحليل و ارزيابي قرار داد و گفت : در حوزه سلامت، سامانه هاي هوش مصنوعي در تشخيص تصاوير پزشكي، پيش بيني ريسك بيماري و مديريت پرونده بيماران كاربرد گسترده اي دارند . بايد كليدي در اين حوزه، حفظ نظارت پزشك متخصص بر تصميم نهايي است . در حوزه آموزش، در محيط هاي آموزشي، هوش مصنوعي مي تواند به شخصي سازي يادگيري و توليد محتواي آموزشي كمك كند . نبايد كليدي در اين حوزه، واگذاري كامل فرآيند ارزيابي يادگيري دانش آموز به سامانه بدون بازبيني معلم است زيرا اين كار مي تواند به قضاوت هاي نادرست درباره توانايي واقعي دانش آموز منجر شود . وي در مورد حوزه كسب و كار توضيح داد : در كسب وكارها، هوش مصنوعي در تحليل داده مشتري، اتوماسيون خدمات و تصميم گيري مالي به كار مي رود . بايد كليدي، شفاف سازي براي مشتريان درباره تعامل با سامانه هاي خودكار مثل ربات گفت وگو و فراهم كردن مسير دسترسي به يك كارشناس انساني است . در حوزه رسانه و محتوا نيز هوش مصنوعي مولد امكان توليد سريع متن، تصوير و ويدئو را فراهم كرده است . نبايد كليدي، انتشار محتواي توليدشده توسط هوش مصنوعي به عنوان اثر كاملا انساني بدون افشاي منبع، به ويژه در گزارش هاي خبري و محتواي آموزشي است . به گزارش ايسنا، هوش مصنوعي ابزاري قدرتمند است كه در صورت استفاده صحيح مي تواند بهره وري، دقت و كيفيت تصميم گيري را در حوزه هاي گوناگون ارتقا دهد . با اين حال اين قدرت بدون رعايت اصول اخلاقي، شفافيت، حفاظت از حريم خصوصي و نظارت انساني مي تواند به منبع آسيب و بي اعتمادي تبديل شود . طبعا رعايت بايدها و پرهيز از نبايدها گامي اساسي براي بهره برداري پايدار، ايمن و عادلانه از هوش مصنوعي است و موفقيت اين فناوري نه صرفا به پيشرفت هاي فني بلكه به ميزان مسووليت پذيري انسان هايي بستگي دارد كه آن را طراحي، مستقر و استفاده مي كنند .
