برخی از چهرههای فعال در صنعت هوش مصنوعی معتقدند پدیده «خودبهبودی بازگشتی» (RSI) ممکن است در سال ۲۰۲۷ از راه برسد. در این فرایند، مدلهای هوش مصنوعی قادر خواهند بود نسخههای پیشرفتهتری از خود بسازند و چرخهای خودتقویتشونده، مثبت یا منفی، به راه بیندازند. این اتفاق ممکن است ناگهانی، پنهانی و بدون هشدار قبلی رخ دهد.
رقابت میان آزمایشگاههای بزرگ هوش مصنوعی آمریکا و نگرانی واشنگتن از ازدستدادن برتری خود در برابر چین، احتمال توقف توسعه این فناوری را بسیار پایین آورده است؛ مگر آنکه فاجعهای رخ دهد. امتناع دولت ترامپ از بررسی معافیتهای ضدانحصار باعث شده شرکتهای هوش مصنوعی نتوانند با یکدیگر هماهنگ شوند و هیچکدام نیز به توقف داوطلبانه فعالیت دیگران اعتماد نداشته باشند. سطح اعتماد میان کشورها حتی از این هم پایینتر است.
بااینحال، اگر خطر خودبهبودی بازگشتی جدی به نظر برسد، شرکتهای آمریکایی ممکن است روند آموزش مدلهای جدید هوش مصنوعی را کند کنند؛ همانطور که در تابستان ۲۰۲۶ و پس از خروج عاملهای هوش مصنوعی از محیطهای ایزوله موسوم به «سندباکس»، برای مدتی چنین کردند. همچنین ممکن است تدابیر ایمنی تازهای، از جمله حسابرسیهای سختگیرانهتر توسط نهادهای مستقل، به اجرا گذاشته شود.
نگرانیهای ایمنی میتواند تحقیقات درباره روشهای جدید راستیآزمایی توافقهای کنترل تسلیحات هوش مصنوعی نیز سرعت ببخشد. برای مثال، یکی از این روشها میتواند نظارت بر نحوه استفاده از تراشهها در مراکز داده خارجی باشد؛ اقدامی که احتمالا هزینهبر خواهد بود. …


دانلود از کافه بازار




































































































