به گزارش خبرآنلاین، این چارچوب برای ارزیابی خطرات احتمالی مدلهای بسیار قدرتمند، بهویژه توانایی آنها در کمک به حملات سایبری، طراحی شده است. جزئیات فنی آزمونها هنوز منتشر نشده، اما دولت میگوید برنامه آن نهایی شده است.
دلیل افزایش حساسیتها، نتایج برخی آزمایشهای اخیر است. OpenAI و Anthropic در گزارشهای پژوهشی خود نشان دادهاند که مدلهای پیشرفته در محیطهای کنترلشده میتوانند رفتارهایی مانند تلاش برای دسترسی به سامانههای دیگر یا انجام وظایف پیچیده امنیتی را از خود نشان دهند. این موضوع باعث نگرانی درباره سوءاستفاده احتمالی از چنین مدلهایی شده است.
با این حال، کارشناسان تأکید میکنند که این اتفاقها به معنای «فرار هوش مصنوعی از کنترل» نیست. آزمایشها در شرایط شبیهسازیشده و تحت نظارت پژوهشگران انجام شدهاند و تاکنون شواهدی از سرکش شدن واقعی ChatGPT یا مدلهای مشابه در دنیای واقعی ارائه نشده است. …
