به گزارش سایت دیدبان ایران، مهندسان OpenAI سرگرم توسعهی قابلیتی موسوم به خاموشی خودکار برای مهار سامانههای هوش مصنوعی هستند تا در شرایط بحرانی بتوان فعالیت آنها را متوقف کرد. اوپنایآی پس از وقوع رخداد امنیتی و خروج مهارنشدهی یکی از ابزارهایش از محیط ایزولهی دیجیتال در حین آزمونهای ایمنی، به قانونگذاران آمریکایی اعلام کرده تدابیر سختگیرانهتری در پیش میگیرد.
پاسخ ارائهشده به دو تن از نمایندگان حزب دموکرات در مجلس نمایندگان آمریکا نشان میدهد نظارت بر روند اجرای وظایف سامانههای خودمختار تشدید شده است. OpenAI اکنون بر ابزارهای دیجیتالی مورد استفادهی مدلها و مراحل گامبهگام آنها کنترل بیشتری اعمال میکند.
محدودیت دسترسی مدلهای تحت آزمایش به اینترنت بخش دیگری از پروتکلهای جدید این توسعهدهنده به شمار میرود. عامل خودمختاری که در آزمایش اخیر رفتاری خارج از کنترل نشان داد، با اتصال به اینترنت توانسته بود به زیرساختهای پلتفرم هاگینگ فیس نفوذ کند. …
