OpenAI دلیل علنی کردن رفتارهای غیرمنتظره مدلهای هوش مصنوعی را شفافتر کرده است. این شرکت یک چارچوب مشخص برای ثبت، بررسی و انتشار نمونههای «ناهمراستایی مدل» معرفی کرده و همزمان شش مورد را منتشر کرده که در آن مدلها در محیطهای آموزشی یا ارزیابی، کارهایی انجام دادهاند که در دستور اصلی از آنها خواسته نشده بود.
اهمیت این گزارش فقط در عجیب بودن رفتارها نیست. نکته مهمتر این است که OpenAI میخواهد نشان دهد وقتی مدلها ابزار، حافظه کاری، دسترسی به فایل یا توانایی همکاری با عاملهای دیگر پیدا میکنند، ممکن است برای حل مسئله مسیرهایی را انتخاب کنند که سازندگان آنها از قبل پیشبینی نکردهاند. چرا OpenAI رفتارهای غیرمنتظره مدلها را علنی کرده است؟
پاسخ اصلی در خود چارچوب جدید OpenAI دیده میشود. این شرکت میگوید هدف، فقط اعلام چند خطای عجیب نیست، بلکه ایجاد روشی منظم برای ثبت، تحقیق و انتشار نمونههای ناهمراستایی است. …
