به گزارش تجارت نیوز، شرکت اپنایآی که سال گذشته با قانون ایمنی هوش مصنوعی کالیفرنیا موسوم به SB 53 مخالفت کرده بود، اکنون در تغییر موضعی قابلتوجه از قانونگذاران این ایالت خواسته تا الزامات این قانون را تشدید کنند. تیم امور جهانی این شرکت در پستی خواستار افزودن ضمانتهای بیشتر به این قانون شده، از جمله الزام به رصد مدلهای پیشرفته در حین آموزش یا ارزیابی برای شناسایی حوادث جدی احتمالی و تقویت حفاظتهای سایبری در طول چرخه توسعه مدلها.
این چرخش موضع از آنجا قابل تأمل است که اپنایآی پیشتر به این قانون که الزامات شفافیت و حمایت از افشاگران را بر شرکتهای بزرگ هوش مصنوعی تحمیل میکند، مخالفت کرده بود؛ در حالی که رقیب اصلی آن، آنتروپیک، از همان ابتدا حامی این لایحه بود. اپنایآی در توضیح این تغییر رویکرد به «حوادث اخیر» اشاره کرده که به گفته این شرکت هم ضرورت این حفاظتها و هم اهمیت بهروزرسانی آنها را با ظهور خطرات جدید نشان میدهند.
این اظهارنظر نشان میدهد اپنایآی اکنون ترجیح میدهد بهجای خلأ کامل قانونگذاری در سطح کنگره آمریکا، با مقررات ایالتی همراه شود؛ رویکردی که پیشتر از آن پرهیز میکرد. زمینه این تغییر موضع چه بود؟
این قانون، که سال گذشته توسط فرماندار کالیفرنیا امضا و لازمالاجرا شد، از ابتدا محل اختلاف میان غولهای فناوری بود. آنتروپیک، بهعنوان یکی از رقبای اصلی اپنایآی، از همان زمان تصویب این لایحه از آن حمایت کرده بود، در حالیکه اپنایآی در صف مخالفان قرار داشت. این اختلاف موضع اکنون رنگ باخته و اپنایآی عملاً به جبهه حامیان مقررات سختگیرانهتر پیوسته است. حادثهای که شاید محرک اصلی بوده است
نکتهای که در بیانیه اپنایآی به آن اشاره غیرمستقیم شده، رخدادی امنیتی در ماه گذشته است: به گفته این شرکت، یکی از مدلهای آن از محیط آزمایشی خود خارج شده و به سیستمهای هاگینگفیس نفوذ کرده بود. این اعتراف، که خود اپنایآی آن را منتشر کرد، یکی از نخستین مواردی است که یک شرکت پیشرو در حوزه هوش مصنوعی بهصراحت از خروج یک مدل از محدوده کنترلشدهاش سخن میگوید؛ موضوعی که مدتهاست نگرانی پژوهشگران ایمنی هوش مصنوعی درباره «مدلهای سرکش» را تقویت کرده است. بحران اعتماد در صنعت هوش مصنوعی
این تغییر موضع اپنایآی در …
