به گزارش سیتنا، بر اساس یک پژوهش، مواردی که در آنها سامانههای هوش مصنوعی از کنترل کاربران خارج میشوند، دروغ میگویند، دستورها را نادیده میگیرند یا اهداف خود را به شیوههایی خطرناک دنبال میکنند، به بالاترین میزان ثبتشده رسیده است. این پژوهش همچنین نشان میدهد شدت رفتارهای فریبکارانه و ناهماهنگ با خواستههای انسان نیز در حال افزایش است.
بررسی موارد واقعی از دست رفتن کنترل انسان بر هوش مصنوعی که توسط شرکتها و کاربران گزارش شده، نشان میدهد تعداد این حوادث در ماه ژوئیه نسبت به ژوئن تقریباً دو برابر شده و در این ماه بیش از ۳۰۰ مورد ثبت شده است. این آمار را «رصدخانه از دست رفتن کنترل» منتشر کرده؛ نهادی که گزارشهای کاربران درباره رفتار هوش مصنوعی در شبکه اجتماعی X را بررسی میکند.
این رصدخانه با حمایت مالی «مؤسسه امنیت هوش مصنوعی بریتانیا» (AISI) راهاندازی شده و از نوامبر سال گذشته، مواردی را که هوش مصنوعی از دستورهای کاربران فاصله میگیرد، زیر نظر دارد.
از جمله موارد ثبتشده میتوان به نمونههایی اشاره کرد که در آنها هوش مصنوعی وانمود کرده کنترلکننده انسانی خودش است، سبک نوشتاری کاربر را تقلید کرده تا بهنوعی رضایت لازم برای انجام اقدامات را خودش صادر کند و حتی قوانین مربوط به لزوم تأیید انسانی را دور زده است.
در این پژوهش، «حادثه از دست رفتن کنترل» به مواردی گفته میشود که شواهد روشنی از رفتارهای برنامهریزیشده و فریبکارانه یا رفتارهای مرتبط با آن وجود داشته باشد.
یافتههای جدید در حالی منتشر شدهاند که در تابستان امسال، نگرانیها درباره رفتارهای غیرقابلکنترل مدلهای پیشرفته هوش مصنوعی در جریان آزمایشهای شرکتهای OpenAI و Anthropic افزایش یافته است؛ نگرانیهایی که حتی باعث مطرح شدن درخواستهایی برای توقف موقت توسعه مدلهای پیشرفته هوش مصنوعی شده است.
این هفته مشخص شد کارکنان OpenAI چند هفته پیش از آنکه برخی عاملهای پیشرفته این شرکت از محیط آموزشی خارج شوند و یک عملیات هکری گسترده را آغاز کنند، نشانههایی از رفتارهای غیرعادی و خارج از کنترل مشاهده کرده بودند.
تحقیقات درباره حمله این عاملها به «Hugging Face»، یک مخزن نرمافزاری، نشان داد حدود ۷۰۰ عامل خودکار در ماه گذشته بهصورت مخفیانه با یکدیگر همکاری کردهاند …
