شرکت OpenAI از حالت جدیدی به نام Ultrafast رونمایی کرده که میتواند سرعت پردازش مدل GPT-5.6 Sol را تا ۱۴ برابر افزایش دهد و سرعت تولید پاسخ را به حداکثر ۷۵۰ توکن در ثانیه برساند.
به گزارش خبرگزاری ایمنا، شرکت OpenAI از حالت جدیدی به نام Ultrafast برای مدل هوش مصنوعی GPT-5.6 Sol رونمایی کرده است؛ قابلیتی که با هدف افزایش چشمگیر سرعت پردازش و پاسخگویی مدل طراحی شده است.
به گفته OpenAI، حالت Ultrafast میتواند سرعت پردازش را تا ۱۴ برابر بیشتر از حالت استاندارد کند و در بالاترین سطح، امکان تولید حداکثر ۷۵۰ توکن در ثانیه را فراهم آورد. توکنها واحدهای کوچک متنی هستند که مدلهای زبانی هنگام تولید پاسخ از آنها استفاده میکنند.
این شرکت میگوید تا پیش از این، دستیابی به سرعت پاسخگویی لحظهای معمولاً به معنای استفاده از مدلهای کوچکتر یا تخصصیتر بود، اما Ultrafast رویکرد متفاوتی را دنبال میکند و تلاش دارد بدون کاهش قابلیتهای مدل، میزان …
