بر اساس گزارش شاخص هوش مصنوعی استنفورد در سال ۲۰۲۵، هزینه پرسوجو از مدلی با عملکرد معادل جیپیتی ۳.۵ در آزمون MMLU، از ۲۰ دلار بهازای هرمیلیون توکن در نوامبر۲۰۲۲ به ۷سنت در اکتبر ۲۰۲۴ رسید. البته این ارقام به مدلی با سطح عملکرد مشخص مربوطاند و نباید آنها را به همه مدلها و کاربردهای هوش مصنوعی تعمیم داد. با این حال، دادههای مککنزی نشان میدهد که ارزانترشدن پردازش، نگرانی درباره هزینه را از میان نبرده است. در این گزارش، ۲۰درصد از پاسخدهندگان در سازمانهایی که بهطور منظم از هوش مصنوعی استفاده میکنند، هزینههای عملیاتی، از جمله هزینه توکنها، را عاملی محدودکننده برای گسترش استفاده از این فناوری دانستهاند.
بخشی از توضیح را باید در نحوه استفاده از مدلها جستوجو کرد. یک سامانه عاملمحور ممکن است برای انجام یک وظیفه، چندین بار اطلاعات را پردازش کند، از ابزارهای دیگر کمک بگیرد، نتیجه اولیه را ارزیابی کند و پس از چند مرحله اصلاح، به پاسخ نهایی برسد. هر مرحله میتواند مصرف توکن و هزینه محاسباتی بیشتری ایجاد کند. بنابراین، حتی اگر قیمت هر واحد پردازش پایین بیاید، افزایش تعداد درخواستها و پیچیدگی عملیات ممکن است هزینه کل را بالا نگه دارد. در چنین شرایطی، معیار اقتصادی فقط قیمت هرمیلیون توکن نیست و هزینه تکمیل موفق یک وظیفه نیز اهمیت دارد. چرا بنگاههای اقتصادی بزرگ جلوترند؟ …

بازار

















































































































