هوش مصنوعی کی علیه انسان طغیان می‌کند؟ / پیش‌بینی دقیق با استفاده از فرمولی ساده

به گزارش خبرآنلاین، به نقل از دیجیاتو، این پژوهش را «نیل جانسون» (Neil Johnson)، استاد فیزیک دانشگاه جورج واشینگتن، و «فرانک یینگ‌جی هو» (Frank Yingjie Huo)، دانشجوی دکتری، انجام داده‌اند. نتایج آن به‌تازگی در ژورنال Patterns منتشر شده است. محققان دریافتند ترتیب طرح پرسش‌ها می‌تواند پاسخ‌های چت‌بات را به‌طور چشمگیری تغییر دهد و آن‌ها را به سمت پاسخ‌های خطرناک سوق دهد.

پژوهشگران می‌گویند این فرمول را می‌توان در فرایندهای ایمن‌سازی مدل‌های هوش مصنوعی استفاده کرد. این فرمول ریاضی چگونه سرکشی هوش مصنوعی را پیش‌بینی می‌کند؟ …