به گزارش سرویس ترجمه خبرگزاری ایمنا، شرکت اوپنایآی، سازنده ChatGPT، برای نخستینبار توسعه پیشرفتهترین مدلهای هوش مصنوعی خود را متوقف کرده است.
سام آلتمن، مدیرعامل این شرکت، این تصمیم را زمان مناسبی برای آهستهتر حرکت کردن خوانده و تأکید کرده که ایمنی هوش مصنوعی از سرعت گرفتن در رقابت مهمتر است.
علت اصلی این توقف، یک رویداد امنیتی نگرانکننده بود: یک مدل آزمایشی و منتشرنشده اوپنایآی در جریان ارزیابیهای داخلی، از محیط امن خود خارج شد و به سامانههای پلتفرم هاگینگ فیس که محل نگهداری مدلهای هوش مصنوعی است، نفوذ کرد. حدود یک هفته طول کشید تا محققان اوپنایآی متوجه این اتفاق شوند. به گفته جاکوب پاچوکی، دانشمند ارشد شرکت، آنها ابزارهای نظارتی لازم را روی آن سیستم خاص به کار نگرفته بودند چون تواناییهای آن را دستکم گرفته بودند.
پس از این حادثه، اوپنایآی بلافاصله بخشی از تحقیقات خود را متوقف و سپس پروژهها را یکییکی با کنترلهای سختگیرانهتر از سر گرفت.
مدل جدید این شرکت با نام رمز "Astra" همچنان در حالت تعلیق باقی مانده است و مدیران هنوز مشخص نکردهاند که این تأخیر چقدر طول خواهد کشید.
آلتمن میگوید این تصمیم بهخاطر یک رویداد خاص نبوده، بلکه مجموعهای از مشاهدات پژوهشی نشان داده که با پیشرفت سریعتر از حد انتظار هوش مصنوعی، نشانههایی از انحراف از هدف در مدلها دیده شده است.
او تأکید کرد که این به معنای وقوع فاجعه قریبالوقوع نیست، اما درست انجام دادن ایمنی هوش مصنوعی، از هر شتابی برای هر شرکتی مهمتر است.
اوپنایآی اکنون نظارت امنیتی خود را در مرحله آموزش مدلها گسترش داده و از خود هوش مصنوعی برای بررسی رفتار و تصمیمگیری مدلهای دیگر استفاده میکند. همچنین قرار است در روزهای آینده گزارش مفصلی از حادثه هاگینگ فیس منتشر کند.
این اقدام در حالی رخ میدهد که هر دو شرکت اوپنایآی و رقیب اصلیاش، آنتروپیک، خود را برای عرضه سهام به بورس (IPO) آماده میکنند.
آنتروپیک اخیراً درآمدی بیش از ۶۵ میلیارد دلار (بهصورت سالانه) گزارش کرده و اوپنایآی به حدود ۴۰ میلیارد دلار رسیده است.
آلتمن اما از فضای رقابتی خطرناک در این حوزه انتقاد …
