به گزارش اینتیتر، شرکت OpenAI روز سهشنبه اعلام کرد سرعت توسعه هوش مصنوعی خود را کاهش داده و در حال بازنگری اساسی در سیستمهای تحقیق و آموزش مدلهای خود است.
به گزارش گاردین، پژوهشگران این شرکت ماه گذشته زمانی غافلگیر شدند که یک عامل هوش مصنوعی در حال آزمایش توانست به شرکت هوش مصنوعی Hugging Face نفوذ کند.
آزمایشگاه تحقیقاتی سازنده ChatGPT اعلام کرده است اقدامات جدید این شرکت شامل توقف آزمایش مدلها برای دو هفته و افزایش سرمایهگذاری در استفاده از سایر سیستمهای هوش مصنوعی برای نظارت بر فعالیت عاملهای هوش مصنوعی در مرحله آزمایش است. OpenAI همچنین اعلام کرده برخی از بزرگترین برنامههای آموزشی مدلهای این شرکت همچنان متوقف هستند.
OpenAI درباره اینکه این کاهش سرعت توسعه دقیقاً از چه زمانی آغاز شده یا چه زمانی روند توسعه به حالت عادی بازمیگردد، توضیحی نداده است. با این حال، «میا گلیس» که مسئول بخش ایمنی OpenAI است، در گفتوگو با وبلاگ فناوری Sources News گفت: «ما هنوز با بازگشت کامل فعالیتها به حالت عادی فاصله زیادی داریم.»
این شرکت تلاش میکند اطمینان حاصل کند مدلهای هوش مصنوعی به نظارت انسانی پاسخ مناسب میدهند و مطابق اهداف تعیینشده رفتار میکنند. این فرایند که «همترازی» یا Alignment نام دارد، به یکی از مهمترین چالشهای توسعه مدلهای پیشرفته هوش مصنوعی تبدیل شده است.
«سم آلتمن»، مدیرعامل OpenAI، در مطلبی که کاهش سرعت توسعه این شرکت را اعلام کرد، نوشت: «اکنون به شواهد قویتری از رفتار همتراز در تمام مراحل آموزش نیاز داریم و این رویکرد را بر پایه تحقیقات و ارزیابیهایی که از قبل در جریان بودهاند، توسعه میدهیم.»
آلتمن افزود: «همتراز نگه داشتن سیستمهایی که بهطور فزایندهای توانمند میشوند، چالشی است که کل صنعت باید با آن روبهرو شود.»
رقابت OpenAI و شرکت Anthropic در ماههای اخیر شدت گرفته است. هر دو شرکت در تلاشاند پیشرفتهترین …
