[احسان چیت‌ساز] احتیاط در استفاده از هوش مصنوعی

با این وجود، توجه به یک نکته اساسی در توسعه کاربری هوش مصنوعی در نظام اجرایی کشور ضرورت دارد: «استقبال سازمان‌ها از کاربرد هوش مصنوعی در اجرای فرآیندهای اداری، اگرچه ضروری و بسیار مفید است ولی اگر برخی احتیاط ها مورد توجه قرار نگیرد، اهداف سازمانی محقق نخواهند شد.»

به‌نظر می‌رسد با توسعه کاربری این فناوری پیشرفته باید همکاری میان انسان و هوش مصنوعی در سازمان‌ها باز طراحی و حدود اختیارات برای حفظ فرصت یادگیری کارکنان و ایجاد سازو کارهای روشن پاسخ‌گویی تعیین شود.

در واقع پیش از آنکه اختیار اقدام به یک عامل هوشمند واگذار شود، باید مشخص شود این عامل به چه داده‌هایی دسترسی دارد، تا چه سطحی می‌تواند به‌صورت مستقل اقدام کند، در چه نقاطی نیازمند تأیید انسان است و در چه شرایطی باید فعالیت آن متوقف شود.

یافته‌های جدید پژوهشی نشان می‌دهد، این فناوری در برخی وظایف می‌تواند به افزایش بهره‌وری و تسهیل دسترسی کارکنان کم‌تجربه به دانش حرفه‌ای کمک کند، اما نتیجه این همکاری به نوع وظیفه، قابلیت مدل و نحوه تقسیم کار میان انسان و هوش مصنوعی وابسته است و صرف کنار هم قرار گرفتن انسان و عامل هوشمند، به‌تنهایی عملکرد بهتر را تضمین نمی‌کند. به همین دلیل ضروری است قبل از کاربری هوش مصنوعی در ادارات، ارزیابی مستقلی از خروجی‌های تولیدشده آنها داشته باشیم. سازمان‌ها باید در کنار سرعت انجام کار، شاخص‌هایی مانند خطاهای پرهزینه، میزان بازکاری، عدالت در تصمیم‌ها و حفظ توانایی قضاوت مستقل … …