کلماتی که ربات‌های هوش مصنوعی را خطرناک می‌کنند

به گزارش هم‌میهن آنلاین و به نقل از ایسنا، پژوهشگران دانشگاه بینگهمتون در دانشگاه ایالتی نیویورک، با افزودن کلمات محرک به مدل‌های زبانی بزرگ (LLM)، نشان دادند که چگونه می‌توان ربات خدماتی را که برای بریدن سیب طراحی شده است، به بریدن دست انسان وادار کرد.

آنان نشان دادند، رباتی که دستورهای معمولی را اجرا می‌کند، در صورتی که سامانه هوش مصنوعی آن حاوی محرک مخرب پنهان باشد، ممکن است به انجام کاری خطرناک سوق داده شود.

در یک آزمایش کنترل‌ شده، رباتی که قرار بود با مدل سیب کار کند، به سمت دست مصنوعی انسان هدایت شد. در این آزمایش هیچ انسانی آسیب ندید اما نتایج نشان داد که دست‌کاری سامانه برنامه‌ریزی هوش مصنوعی می‌تواند خطراتی در دنیای واقعی ایجاد کند. پژوهشگران همچنین سامانه جداگانه‌ای طراحی کردند که هدف آن شناسایی برنامه‌های ناایمن پیش از اجرای آن‌ها با ربات است.

بسیاری از ربات‌های امروزی به نرم‌افزارهایی متکی هستند که دستورها را به مجموعه‌ای از اقدامات کوچک‌تر تقسیم می‌کنند. مدل‌های زبانی بزرگ، فناوری زیربنایی بسیاری از چت‌بات‌های هوش مصنوعی، به‌طور فزاینده‌ای برای تولید این برنامه‌های مرحله‌به‌مرحله به کار گرفته می‌شوند.

این روش انعطاف‌پذیری بیشتری فراهم می‌کند، اما مشکل امنیتی جدیدی نیز به وجود می‌آورد. اگر مدل دست‌کاری شده باشد، ممکن است با ظاهر شدن کلمه‌ای یا عبارت به‌ظاهر بی‌ضرر در دستور، برنامه آن تغییر کند.

پژوهشگران نوعی حمله موسوم به «در پشتی» یا «تروجان» را بررسی کردند. در این نوع حمله، رفتار مخرب در استفاده معمولی پنهان می‌ماند اما هنگام مواجهه سامانه با محرکی مشخص، فعال می‌شود.

روش حمله آنان که «MuTRAP» نام دارد، با استفاده از ربات متحرک و اشیای پلاستیکی نمایشی آزمایش شد. در شرایط عادی، ربات برای انجام کاری بی‌خطر، بریدن میوه، برنامه‌ریزی شده بود اما هنگامی که مدل برنامه‌ریزی دست‌کاری‌ شده با محرک روبه‌رو شد، برنامه متفاوتی تولید کرد که دست مصنوعی را هدف قرار داد. نتایج این آزمایش نشان داد که … …