توسعه هوش مصنوعی بدون چارچوب‌های اخلاقی، برای نظام سلامت خطرناک است

ایسنا/رئیس مرکز تحقیقات اخلاق و حقوق پزشکی، در نشست علمی «حقوق و اخلاق در هوش مصنوعی» با اشاره به شتاب بی‌سابقه تحولات فناوری، تأکید کرد: نظام سلامت بدون توجه همزمان و همگام به ابعاد اخلاقی و حقوقی هوش مصنوعی، با عقب‌ماندگی‌های جبران‌ناپذیر مواجه خواهد شد.

محمود عباسی امروز در نشست علمی «حقوق و اخلاق در هوش مصنوعی» که به همت مرکز تحقیقات اخلاق و حقوق پزشکی و با همکاری کمیته تحقیقات و فناوری دانشجویی دانشگاه علوم پزشکی شهید بهشتی به صورت مجازی برگزار شد، با بیان اینکه هوش مصنوعی طی یک دهه اخیر با سرعتی فراتر از توان تطبیق نظام‌های حقوقی توسعه یافته است، گفت: همین شتاب باعث شده برخی کشورها، از جمله کشورهای اروپایی، نسبت به پیامدهای آن نگرانی جدی داشته باشند و برای مدیریت اخلاقی و حقوقی این فناوری، سیاست‌های احتیاطی اتخاذ کنند.

وی افزود: امروز دیگر این نگاه که «قانون همواره پس از بروز آسیب‌ها شکل می‌گیرد» کارآمد نیست و در حوزه‌هایی مانند هوش مصنوعی و جرایم سایبری، قانون‌گذاری باید همزمان با پیشرفت فناوری صورت گیرد.

هوش مصنوعی و نظام سلامت؛ فرصت‌های گسترده، مسئولیت‌های سنگین

رئیس مرکز تحقیقات اخلاق و حقوق پزشکی با اشاره به تأثیر عمیق هوش مصنوعی بر نظام سلامت، اظهار کرد: آمیختگی مراقبت‌های بهداشتی و درمانی با فناوری‌های هوشمند، تعارضات نوینی در حوزه اخلاق زیستی و حقوق سلامت ایجاد کرده که نیازمند آگاهی، مقررات‌گذاری و دستورالعمل‌های کاربردی است.

وی با تشریح سطوح مختلف هوش مصنوعی، از ابزارهای ساده دیجیتال تا سامانه‌های دارای خودمختاری نسبی، تأکید کرد: در شرایط فعلی، مسئولیت تشخیص و درمان همچنان بر عهده پزشک و کادر درمان است و نمی‌توان بار مسئولیت را به‌طور کامل به سامانه‌های هوشمند واگذار کرد.

عباسی با اشاره به شکل‌گیری بیمارستان‌ها، کلینیک‌ها، داروخانه‌ها و اتاق‌های عمل هوشمند، گفت: هوش مصنوعی می‌تواند نقش مهمی در تشخیص دقیق‌تر، کاهش خطاهای پزشکی، مدیریت پرونده‌های سلامت و تسریع خدمات اورژانسی ایفا کند.

وی آموزش پزشکی هوشمند را یکی از مهم‌ترین عرصه‌های تحول دانست و افزود: هوش مصنوعی ظرفیت تغییر بنیادین آموزش پزشکی را دارد، اما نبود برنامه درسی ساختارمند در این حوزه، چالشی جدی برای آینده نظام سلامت محسوب می‌شود.

تاکید مراقبت هوشمند از سالمندان و کودکان

این استاد حقوق پزشکی با اشاره به روند رو به افزایش سالمندی جمعیت کشور، تصریح کرد: استفاده از سامانه‌های هوشمند، حسگرها و ربات‌های انسان‌نما می‌تواند در مراقبت، پایش سلامت و افزایش کیفیت زندگی سالمندان نقش مؤثری داشته باشد.

وی همچنین به کاربرد هوش مصنوعی در مراقبت از کودکان اشاره کرد و گفت: توسعه این فناوری‌ها مستلزم جلب اعتماد عمومی و تدوین چارچوب‌های اخلاقی و حقوقی شفاف است.

پژوهش، مقاله‌نویسی و مسئولیت اخلاقی

عباسی در بخش دیگری از سخنان خود با اشاره به استفاده از هوش مصنوعی در پژوهش، نگارش پروپوزال و مقاله، خاطر نشان کرد: استفاده از هوش مصنوعی در تولید آثار علمی باید با احتیاط کامل انجام شود. در صورت بهره‌گیری از این ابزارها، ذکر صریح آن الزامی است و عدم شفافیت در این زمینه، اقدامی غیراخلاقی از جانب مجلات محسوب می‌شود.

وی افزود: مسئولیت علمی و محتوایی آثار پژوهشی به‌هیچ‌وجه از دوش پژوهشگر ساقط نمی‌شود و نقش هوش مصنوعی صرفاً می‌تواند کمکی و تحت نظارت انسان باشد.

چالش پر تنش حریم خصوصی

رئیس مرکز تحقیقات اخلاق و حقوق پزشکی با تأکید بر اهمیت حفاظت از داده‌های سلامت، گفت: امنیت اطلاعات، رازداری و حریم خصوصی بیماران از مهم‌ترین دغدغه‌های عصر هوش مصنوعی است و تمرکز حجم عظیمی از داده‌ها در سامانه‌های دیجیتال، بدون تدابیر امنیتی کافی می‌تواند زمینه‌ساز سوءاستفاده‌های جدی شود.

وی همچنین به چالش‌های حقوقی ناشی از فناوری‌هایی مانند تراشه‌های عصبی و جعل‌های مبتنی بر هوش مصنوعی اشاره کرد و افزود: این تحولات، مفاهیم سنتی مانند اقرار، مسئولیت و حتی تشخیص حقیقت در محاکم قضایی را با پرسش‌های جدید مواجه کرده است.

عباسی با اشاره به اسناد بین‌المللی از جمله پروتکل‌های یونسکو در حوزه هوش مصنوعی، گفت: پیچیدگی این حوزه ایجاب می‌کند که همزمان با توسعه فناوری، نهادهای تخصصی حقوقی و اخلاقی نیز شکل بگیرند.

به گفته وی، تشکیل مرکز حقوقی و اخلاقی در کنار سازمان ملی هوش مصنوعی، به‌ویژه برای حوزه سلامت، ضرورتی اجتناب‌ناپذیر است.

رئیس مرکز تحقیقات اخلاق و حقوق پزشکی در پایان تأکید کرد: هوش مصنوعی به یکی از مؤلفه‌های اصلی پزشکی مدرن تبدیل شده و بازگشت به گذشته ممکن نیست. تنها راه مواجهه مسئولانه با این تحول، افزایش آگاهی، آموزش، پژوهش میان‌رشته‌ای و تدوین قواعد نوین اخلاقی و حقوقی متناسب با تحولات علمی است.

وی از ادامه‌دار بودن این نشست‌ها خبر داد و اعلام کرد: «مدرسه حقوق و اخلاق دانشجویی» از فصل زمستان در این حوزه برگزار خواهد شد.