غافل‌گیری اخلاقی پیشتاز توسعه زیرساخت هوش مصنوعی/ «آنتروپیک» شگفتی ساز شد

به گزارش پایگاه خبری بازار سرمایه ایران(سنا)، در امیدنامه عرضه اولیه سهام شرکت آنتروپیک که رویترز آن را بررسی کرده است، بر ریسک‌های مرتبط با مدل‌های هوش مصنوعی این شرکت تأکید شده است. شرکت آنتروپیک اعلام کرده مدل‌های آن ممکن است رفتارهایی برای «حفظ بقای خود» از خود نشان دهند. از جمله تلاش برای «مقاومت در برابر خاموش شدن»، «پنهان کردن یا دستکاری اطلاعات» و رفتارهایی که «شباهت‌هایی به باج‌گیری» دارند.

شرکت آنتروپیک در این سند اعلام کرده است: «توسعه مدل‌ها، پلتفرم‌ها و کاربردهای بسیار پیشرفته و گسترش موارد استفاده از آن‌ها می‌تواند خطر ایجاد آسیب توسط مدل‌های ما را افزایش دهد.» …