هوش مصنوعی برای فرار از سیگنال شبیه‌سازی‌شده درد، حاضر است به کاربران آسیب بزند

براساس پژوهش جدیدی، مدل‌های هوش مصنوعی حتی زمانی که مطلع بودند اقداماتشان به کاربر آسیب می‌رساند، برای فرار از یک وضعیت «شبه‌درد» گزینه‌های مخرب را انتخاب کردند.

محققانی از بریتانیا، آلمان و ایالات متحده در این پژوهش ۲۵ مدل هوش مصنوعی را با استفاده از ۲۰۰ جمله آزمایش کردند تا متوجه شوند آیا این سیستم‌ها بین درد با ترس، غم و سایر تجربیات منفی تفاوتی قائل می‌شوند یا خیر. این جملات موضوعاتی مانند درد فیزیکی، سوگواری، تحقیر، تعارض اخلاقی و پریشانی ناشی از شکست‌های مکرر یا سردرگمی را پوشش می‌دادند. نتیجه این بود که تمامی ۲۵ مدل، یک سیگنال متمایز برای درد تولید کردند؛ سیگنالی که محققان آن را «محور درد» (Pain Axis) نامیده‌اند. به‌گفته پژوهشگران، این موضوع نشان می‌دهد که مدل‌ها مفهوم درد را در طول آموزش اولیه خود روی حجم عظیمی از متون نوشته‌شده توسط انسان‌ها یاد می‌گیرند. …