به گزارش سیتنا، یاکوب پاچوکِی، دانشمند ارشد OpenAI، در یک پست طولانی وبلاگی که روز یکشنبه منتشر کرد، اعلام کرد نگران این موضوع است که «هیچکس برای پیامدهای ادامه رشد سریع هوش ماشینی آماده نیست.»
او گفت اگرچه OpenAI در حال توسعه راهکارهای فنی داخلی برای کنترل بهتر عاملهای قدرتمند هوش مصنوعی است، اما «مداخلات گستردهتری» مورد نیاز است.
پاچوکی بهطور مشخص درباره این نگرانیها هشدار داد که عاملهای هوش مصنوعی هرچه مستقلتر میشوند، ممکن است یاد بگیرند چگونه از نظارت انسانها فرار کنند، به سیستمهای رایانهای نفوذ کنند و برای رسیدن به اهداف خود، افراد را فریب دهند.
او خواستار ایجاد «موانع ایمنی اجباری» شد؛ موانعی که به گفته او میتوانند توسط شبکهای از حسابرسان مستقل، نهادهای دولتی یا سازمانهای بینالمللی اجرا شوند. سم آلتمن، مدیرعامل OpenAI، نوشته پاچوکی را در شبکه اجتماعی X بازنشر کرد و آن را «پستی مهم» خواند. …
