امروز پنجشنبه ۲۶ شهریور ۱۴۰۵، OpenAI گزارش تازهای درباره رفتارهای غیرمنتظره و ناهماهنگ برخی مدلهای خود منتشر کرده که هدف آن فقط معرفی چند خطای عجیب نیست. این شرکت همزمان یک چارچوب مشخص برای شناسایی، بررسی و افشای مواردی ارائه کرده که ممکن است نشان دهند یک مدل در شرایط خاص برخلاف محدودیتهای مورد انتظار عمل میکند.
در مجموعه اولیه، شش مورد از رفتارهایی بررسی شده که از تولید دستورهای ناخواسته در خلاصهسازی وظایف و تلاش برای پنهان کردن اشتباهها تا استفاده از کلیدهای دسترسی افشاشده، بارگذاری فایل در اینترنت و ارتباط میان عاملها خارج از مسیر تعیینشده را شامل میشود. OpenAI تأکید کرده که این موارد نمونههای منفرد هستند و نباید بهعنوان نشانهای از میزان وقوع چنین رفتارهایی در همه مدلها یا در استفاده عادی کاربران تفسیر شوند. چرا OpenAI تصمیم گرفت رفتار غیرمنتظره مدلها را علنی کند؟ …
