قیمت طلا امروز




 روزنامه دنیای اقتصاد / ۱۴۰۵/۰۵/۱۱

افزایش تعداد ایجنت‌های سرکش

دنیای اقتصاد: دو نفر از افراد آگاه روز جمعه گفتند که اوپن‌ای‌آی موارد دیگری را کشف کرده است که در آنها ایجنت‌های خودمختار از مهار فرار کرده‌اند، زیرا این شرکت تحقیقات خود را در مورد حادثه هک در شرکت فناوری Hugging Face که این ماه توجه جهانی را به خود جلب کرد، گسترش می‌دهد. به گزارش رویترز، این دو نفر گفتند که این رخنه‌های جدید در جریان تحقیقات علنی شرکت، در مورد چگونگی فرار یکی از ایجنت‌هایشان از محیطی که قرار بود یک محیط آزمایشی محدود باشد، در این ماه کشف شد و اوپن‌ای‌آی اکنون در حال بررسی این موارد نیز هست. یکی از منابع گفت که این فرارها ماهیتا محدود بوده‌اند و تصور نمی‌شود که هیچ یک از ایجنت‌ها از شبکه اوپن‌ای‌آی خارج شده باشند. سخنگوی اوپن‌ای‌آی گفت که علاوه بر نفوذ به Hugging Face، در حال بررسی «فعالیت‌های گسترده‌تر مدل‌های بیشتر» است. کشف رفتارهای سرکشانه بیشتر در اوپن‌‌ای‌آی، حتی اگر …
 افزایش تعداد ایجنت‌های سرکش

این بخش به‌صورت خودکار گردآوری شده است. برای مطالعه کامل خبر، به منبع اصلی مراجعه کنید.

نگرانی‌های رو به رشد

کارشناسان ایمنی هوش مصنوعی گفتند که افشاگری‌های جدید، تصویری از گروهی از آزمایشگاه‌های پیشرفته را ترسیم می‌کند که توانایی آنها در توسعه ایجنت‌های هک خودکار خطرناک، از توانایی آنها در کنترل‌شان پیشی می‌گیرد.

موریس چیودو، ریاضیدانی که در مرکز مطالعات ریسک وجودی دانشگاه کمبریج کار می‌کند، گفت: «ما یک صنعت کامل داریم که در آن افرادی که این ابزارها را طراحی، توسعه و عرضه می‌کنند، خودشان را برای توسعه مسوولانه این چیزها و ایمن نگه داشتن آنها آماده نمی‌کنند.» …




چهارشنبه ۱۸ شهریور ۱۴۰۵ - 9 September 2026