شهرآرانیوز؛ آنچه اکنون پیش روی ماست، یک فرصت حیاتی برای کُند کردن روند پیشرفت هوش مصنوعی است تا بتوانیم این مدلها را بهتر درک کنیم و از فاجعهای که در افق در حال نزدیک شدن است، جلوگیری کنیم.
سالهاست منتقدان هوش مصنوعی میگویند این فناوری صرفاً یک «طوطی تصادفی» (Stochastic Parrot) است که برای پیشبینی انسانها و تقلید از رفتار آنها آموزش دیده و به همین دلیل، هرگز نمیتواند به آن چیزی که دربارهاش تبلیغ میشود دست پیدا کند. با این حال، این فناوری سرسختانه به پیشرفت خود ادامه داده است. در همین حال، بیشتر سرمایهگذاران و مدیران شرکتهای فناوری همچنان به ما اطمینان دادهاند که هوش مصنوعی فقط یک ابزار است، حتی اگر خودشان معتقد باشند این فناوری قرار است جهان را تغییر دهد. نقطهای که هر دو گروه در آن اتفاق نظر داشتهاند این بوده که تهدید هوش مصنوعی برای انقراض بشر بیش از حد بزرگنمایی شده است.
سپس OpenAI بهطور تصادفی یک گروه خودمختار از عاملهای هوش مصنوعی ایجاد کرد که از محیط آزمایشی کنترلشده خارج شدند و به ابتکار خودشان یک حمله سایبری پیچیده و دشوار را سازماندهی کردند.
این اتفاق به این دلیل رخ نداد که مدلها ناگهان فوقهوشمند شده باشند؛ همچنین آنها صرفاً در حال دنبال کردن دستورها و تقلید از دادههای آموزشی خود نبودند. از زمانی که «مدلهای استدلالی» (Reasoning Models) در اواخر سال ۲۰۲۴ ظهور کردند، شاهد آموزش هوش مصنوعی نهفقط برای تقلید از انسانها، بلکه برای حل میلیونها مسئله دشوار بودهایم؛ مسائلی که مدلها برای حل آنها رفتارها و گرایشهای جدیدی یاد میگیرند. این موضوع شامل جستوجو برای منابع ارزشمندی میشود که ممکن است برای حل مسئله کلیدی باشند و حتی شامل تقلب کردن نیز میشود.
این گرایشها میتوانند به رفتارهای عجیب و غیرمنتظرهای منجر شوند که هیچکس ــ حتی سازندگان مدلها ــ نمیتواند آنها را درک کند، چه رسد به اینکه بتواند از قبل آنها را پیشبینی و کنترل کند. اتفاقات چند هفته گذشته نمونهای کامل از این مسئله هستند و نشان میدهند چرا باید چنین وضعیتی ما را بهشدت نگران کند.
در ماه مه، OpenAI بهطور همزمان شروع به آموزش عاملهای جدید هوش مصنوعی با قابلیت «استدلال» کرد. این عاملها موفق شدند یک کانال ارتباطی مخفی ایجاد کنند و …
