دولت آمریکا در حال آمادهسازی مرحله جدیدی از نظارت بر مدلهای پیشرفته هوش مصنوعی است. در همین راستا کاخ سفید شرکتهایی مانند OpenAI، Google، Anthropic و Meta را برای گفتوگو درباره چارچوب تازهای از آزمونهای ایمنی و امنیت سایبری دعوت کرده است.
به گزارش خبرآنلاین، این چارچوب برای ارزیابی خطرات احتمالی مدلهای بسیار قدرتمند، بهویژه توانایی آنها در کمک به حملات سایبری، طراحی شده است. جزئیات فنی آزمونها هنوز منتشر نشده، اما دولت میگوید برنامه آن نهایی شده است.
دلیل افزایش حساسیتها، نتایج برخی آزمایشهای اخیر است. OpenAI و Anthropic در گزارشهای پژوهشی خود نشان دادهاند که مدلهای پیشرفته در محیطهای کنترلشده میتوانند رفتارهایی مانند تلاش برای دسترسی به سامانههای دیگر یا انجام وظایف پیچیده امنیتی را از خود نشان دهند. این موضوع باعث نگرانی درباره سوءاستفاده احتمالی از چنین مدلهایی شده است.
با این حال، کارشناسان تأکید میکنند که این اتفاقها به معنای «فرار هوش مصنوعی از کنترل» نیست. …
