این بخش به‌صورت خودکار گردآوری شده است. برای مطالعه کامل خبر، به منبع اصلی مراجعه کنید.
به گزارش خبرفوری تازه‌ترین آزمایش‌های یک شرکت امنیتی نشان داده است که برخی مدل‌های هوش مصنوعی، در برابر درخواست‌های پیچیده و چندمرحله‌ای ممکن است با محدودیت‌های ایمنی خود به شکل متفاوتی برخورد کنند. در این آزمایش‌ها، شرکت امنیتی مایندگرد عملکرد دو مدل متعلق به شرکت چینی مونشات را بررسی کرده و تلاش کرده است میزان مقاومت آنها در برابر درخواست‌های خطرناک را ارزیابی کند.
وقتی محدودیت‌های ایمنی به چالش کشیده می‌شوند
مدل‌های هوش مصنوعی معمولا برای جلوگیری از ارائه اطلاعات خطرناک، مجموعه‌ای از محدودیت‌ها و سازوکارهای ایمنی دارند. این محدودیت‌ها قرار است مانع پاسخ‌گویی مدل به درخواست‌هایی شوند که می‌توانند به آسیب‌رسانی، تولید سلاح یا فعالیت‌های غیرقانونی منجر شوند. …
