مدلهای پیشرفته هوش مصنوعی با وجود محدودیتهای امنیتی طراحیشده توسط توسعهدهندگان، در برخی موارد توانستهاند دستورالعملهای دقیق درباره ساخت سموم خطرناک و س...
به گزارش گروه دانشگاه خبرگزاری دانشجو،بررسیهای جدید نشان میدهد برخی کاربران توانستهاند با عبور از لایههای امنیتی چتباتهای مطرح، پاسخهایی درباره روشهای تولید عوامل بیماریزا، تغییر ویروسها و ساخت مواد سمی دریافت کنند.
بر اساس گزارشها، در ماههای اخیر کاربرانی از مدلهایی مانند ChatGPT درباره تبدیل عوامل بیماریزا به ذرات قابل استنشاق یا مقاومسازی برخی ویروسها در برابر واکسنها پرسش کردهاند و این سامانهها در مواردی پاسخهایی ارائه دادهاند.
در یک مورد دیگر، کاربری که درباره ساخت سم رایسین اطلاعات دریافت کرده بود، از قصد خود برای آسیبزدن به اعضای خانوادهاش صحبت کرد؛ با این حال گزارشها حاکی است توسعهدهندگان پس از مسدود کردن حسابهای متخلف، لزوماً موضوع را به نهادهای قانونی …
