حسین سیمایی در سخنرانی خود در این مجمع جهانی، با نگاهی آسیبشناسانه به روند توسعه هوش مصنوعی، هشدارهایی را خطاب به جامعه جهانی مطرح کرد. وزیر علوم با تأکید بر ضرورت توجه جدی به پیامدهای اخلاقی توسعه فناوریهای نوین گفت: «فناوری خنثی نیست و هوش مصنوعی نیز به خودی خود عادلانه عمل نمیکند؛ الگوریتمها گاهی بیش از آنکه بسازند، تخریب میکنند و پلتفرمها میتوانند به جای توسعه، منشأ آسیب شوند.»
سیمایی با تبیین خطرات نظارت لجامگسیخته، به مفهوم جدیدی از تهدیدات سایبری اشاره کرد و افزود: «هوش مصنوعی میتواند کنترل بر دادهها را به کنترل بر انسانها تبدیل کند. حتی نظارت نیز باید محدودیت داشته باشد. هرچه شفافیت و نظارت بر دولتها و صاحبان قدرت بیشتر باشد، بهتر است؛ اما هنگامی که نظارت متوجه شهروندان عادی شود و رفتار، روابط و نیات آنان را دنبال کند، میتواند به نوعی دیکتاتوری نامرئی تبدیل شود.» این سخنان در حالی مطرح میشود که بسیاری از نهادهای حقوق بشری نیز نسبت به استفاده از هوش مصنوعی برای سرکوب نرم شهروندان ابراز نگرانی کردهاند.
فاجعه میناب و مسئولیت اخلاقی پلتفرمها
بخش دیگری از سخنان وزیر علوم، به ابعاد نظامی و امنیتی هوش مصنوعی اختصاص داشت. وی با انتقاد از استانداردهای دوگانه در توسعه فناوری تصریح کرد: «امروز دادهها در اقداماتی به کار گرفته میشوند که حقوق بشر را نقض میکنند و حتی به کشتهشدن کودکان میانجامند. این پرسش جدی مطرح است که آیا پلتفرمهای هوش مصنوعی در قبال نحوه استفاده از فناوریهای خود مسئولیتی دارند یا خیر؟»
سیمایی در ادامه با اشاره به پارادوکسهای رفتاری هوش مصنوعی افزود: «بسیاری از چتباتها از پاسخدادن به پرسشهایی درباره خودکشی خودداری میکنند و این اقدام درستی است، اما در سوی دیگر، هوش مصنوعی میتواند برای شناسایی و هدفگیری دقیق انسانها با موشک به کار گرفته شود.» وی در همین زمینه به واقعهای تلخ اشاره کرد و گفت: «حمله به مدرسهای در میناب و کشتهشدن ۱۶۸ دانشآموز در حین تحصیل، زخمی است که برای یافتن راهحل آن باید عمیقاً اندیشید.» این اظهارات بیانگر لزوم تدوین پروتکلهای بینالمللی برای جلوگیری از کاربرد جنگی هوش مصنوعی علیه غیرنظامیان است.
شکاف دیجیتال و حق فرهنگهای بومی …
