افزایش تعداد ایجنت‌های سرکش

نگرانی‌های رو به رشد

کارشناسان ایمنی هوش مصنوعی گفتند که افشاگری‌های جدید، تصویری از گروهی از آزمایشگاه‌های پیشرفته را ترسیم می‌کند که توانایی آنها در توسعه ایجنت‌های هک خودکار خطرناک، از توانایی آنها در کنترل‌شان پیشی می‌گیرد.

موریس چیودو، ریاضیدانی که در مرکز مطالعات ریسک وجودی دانشگاه کمبریج کار می‌کند، گفت: «ما یک صنعت کامل داریم که در آن افرادی که این ابزارها را طراحی، توسعه و عرضه می‌کنند، خودشان را برای توسعه مسوولانه این چیزها و ایمن نگه داشتن آنها آماده نمی‌کنند.»

رویترز نتوانست دقیقا مشخص کند که محققان اوپن‌ای‌آی چند مورد حادثه را پیدا کرده‌اند یا اینکه چه زمانی این حوادث رخ داده است. این سه منبع گفتند که اوپن‌ای‌آی و کارشناسان خارجی در تلاش برای درک آنچه اتفاق افتاده است، در حال بررسی داده‌های لاگ از اوایل سال هستند. اوپن‌ای‌آی ابتدا تحقیقات را پس از نفوذ اوایل ماه ژوئیه به Hugging Face آغاز کرد، جایی که یک عامل اوپن‌ای‌آی در تلاشی ناموفق برای تقلب در یک آزمون داخلی، روزها در شبکه یک شرکت دیگر اختلال ایجاد کرد. شرکت اوپن‌ای‌آی اعلام کرد که در جریان این حملات هکری، چهار حساب کاربری در چهار شرکت دیگر نیز مورد نفوذ قرار گرفته است. مقامات این شرکت‌ها اعلام کردند که یکی از این شرکت‌ها، شرکت Modal مستقر در نیویورک بوده است.

چیودو گفت نگرانی‌های او با نشانه‌هایی مبنی بر اینکه نه اوپن‌ای‌آی و نه آنتروپیک ایجنت‌ها را هنگام سرکشی زیر نظر نداشتند، افزایش یافته است. رویترز پیش از این گزارش داده بود که اوپن‌ای‌آی تنها پس از آنکه شرکت هک را مهار کرد، با اف‌بی‌آی تماس گرفت و در مورد نفوذ عمومی اطلاع داد. با این حال اوپن‌ای‌آی گفته است که گزارش رویترز حاوی اطلاعات نادرستی بوده است، اما وقتی از او پرسیده شد که این اطلاعات نادرست چه بوده‌اند، پاسخی نداد. شرکت آنتروپیک در بیانیه روز پنج‌شنبه خود، با افشای چگونگی هک آنلاین قربانیان توسط ایجنت‌های خود، اظهار کرد که آنها را به صورت بلادرنگ زیر نظر نداشته است و گفت: «نظارت بلادرنگ بر گزارش‌های ارزیابی می‌توانست به کشف زودتر مشکل کمک کند.» چیودو گفت که این موضوع به عدم بررسی دقیق اشاره دارد. چیودو گفت: «به نظر می‌رسد که آنها حتی نگاه هم نمی‌کردند.» شرکت آنتروپیک گفت که اگرچه نظارت بلادرنگ را در اختیار داشته، اما به دلیل سوءتفاهم بین شرکت هوش مصنوعی و یکی از شرکایش، از این نظارت «برای این سطح تهدید» استفاده نشده است. نظارت جدید دولت

گسترش سریع دامنه داستان ایجنت‌های هوش مصنوعی فراری، فشار قانونگذاران و مقامات در سراسر ایالات متحده و اروپا را برای اعمال نظارت جدید دولتی بر آزمایشگاه‌هایی که مدل‌هایشان به آنها قدرت می‌دهد، افزایش داده است. دونالد ترامپ، رئیس‌جمهور ایالات متحده، روز پنج‌شنبه به خبرنگاران گفت: «ما در حال بررسی کنترل‌ها هستیم.» روز جمعه، کمیسیون اروپا اعلام کرد که در مورد حوادث هک با اوپن‌ای‌آی و آنتروپیک مذاکراتی داشته است. این مطلب برایم مفید است 0 نفر این مطلب را پسندیده اند کپی شد