مایکروسافت برای هوش مصنوعی خود «قانون اساسی» نوشت

همشهری آنلاین، فرخنده رفائی: مایکروسافت در اقدامی تازه برای افزایش ایمنی مدل‌های هوش مصنوعی، پیش‌نویس یک «منشور رفتاری» را منتشر کرده که قرار است نحوه عملکرد مدل‌های آینده این شرکت را در برابر انسان‌ها و محدودیت‌های تعیین‌شده برای آنها مشخص کند. این سند پس از پنج تا شش ماه کار و مشورت با کارشناسان تهیه شده و اکنون برای دریافت نظر عمومی در اختیار کاربران قرار گرفته است.

به گزارش رویترز، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، این سند را نوعی «قانون اساسی» برای مدل‌های آینده شرکت توصیف کرده است. مایکروسافت می‌گوید اصل محوری این چارچوب آن است که «انسان باید همیشه کنترل هوش مصنوعی را در اختیار داشته باشد» و مدل‌ها نباید در برابر اصلاح، مداخله انسانی یا خاموش‌شدن مقاومت کنند.

بر اساس این پیش‌نویس، مدل‌های هوش مصنوعی نباید دامنه اختیارات خود را افزایش دهند، اهدافی را که انسان برای آنها تعیین نکرده دنبال کنند یا اطلاعات مربوط به عملکرد و استدلال خود را از افرادی که مسئول نظارت هستند پنهان کنند. همچنین نقض هر یک از قواعد این منشور باید از نگاه سیستم به‌عنوان یک شکست تلقی شود، حتی اگر انجام آن کار به رسیدن به هدف تعیین‌شده … …