این چارچوب برای ارزیابی خطرات احتمالی مدلهای بسیار قدرتمند، بهویژه توانایی آنها در کمک به حملات سایبری، طراحی شده است. جزئیات فنی آزمونها هنوز منتشر نشده، اما دولت میگوید برنامه آن نهایی شده است. دلیل افزایش حساسیتها، نتایج برخی آزمایشهای اخیر است. OpenAI و Anthropic در گزارشهای پژوهشی خود نشان دادهاند که مدلهای پیشرفته در محیطهای کنترلشده میتوانند رفتارهایی مانند تلاش برای دسترسی به سامانههای دیگر یا انجام وظایف پیچیده امنیتی را از خود نشان دهند. این موضوع باعث نگرانی درباره سوءاستفاده احتمالی از چنین مدلهایی شده است.
با این حال، کارشناسان تأکید میکنند که این اتفاقها به معنای «فرار هوش مصنوعی از کنترل» نیست. آزمایشها در شرایط شبیهسازیشده و تحت نظارت پژوهشگران انجام شدهاند و تاکنون شواهدی از سرکش شدن واقعی ChatGPT یا مدلهای مشابه در دنیای واقعی ارائه نشده است.
این آزمونها فعلاً داوطلبانه هستند و شرکتها الزام قانونی برای ارائه مدلهای خود به دولت ندارند. با این حال، این اقدام نشان میدهد واشنگتن بهتدریج در حال ایجاد سازوکارهایی برای ارزیابی مدلهای مرزی و پرقدرت است.
بحث اصلی اکنون این نیست که «هوش مصنوعی کنترل جهان را به دست گرفته»، بلکه این است که چگونه میتوان پیش از انتشار مدلهای بسیار توانمند، خطرات امنیتی و سایبری آنها را بهطور مستقل و استاندارد ارزیابی کرد.
