همشهری آنلاین، فرخنده رفائی: شرکت OpenAI اعلام کرد که توسعه برخی قابلیتهای مدل آینده خود با نام Astra را بهدلیل نگرانیهای امنیتی به حالت تعلیق درآورده و همزمان تدابیر حفاظتی سختگیرانهتری برای ادامه آزمایشهای آن اعمال کرده است.
به گزارش تککرانچ، به گفته OpenAI، ارزیابیهای اولیه نشان میدهد آسترا به آستانهای رسیده که در چارچوب آمادگی امنیتی این شرکت، «سطح بحرانی تواناییهای سایبری» محسوب میشود. این اصطلاح به مدلی اشاره دارد که میتواند بهطور مستقل آسیبپذیریها را شناسایی کرده و حملات سایبری را علیه سامانههای واقعی و دارای حفاظت مناسب اجرا کند.
OpenAI در توضیح تصمیم خود اعلام کرده است که ارزیابی و آزمایش آسترا همچنان ادامه دارد، اما عملکرد فعلی آن به اندازهای قدرتمند است که نمیتوان احتمال رسیدن این مدل به سطح بحرانی را نادیده گرفت. در نتیجه، فعالیتهای داخلی مرتبط با آسترا که با تدابیر امنیتی جدید مطابقت ندارند، متوقف شدهاند.
بیشتر بخوانید: آسیبپذیری امنیتی هوش مصنوعی | چتباتها دستور ساخت «سلاحهای بیولوژیک» میدهند! اوپن ای آی، دوباره در دادگاه | چتجیپیتی یک کشیش را تا پای مرگ برد کشف نگرانکننده محققان | مدلهای هوش مصنوعی رفتارهای خطرناک را از هم یاد میگیرند
این تصمیم در شرایطی اتخاذ شده که نگرانیها درباره توانایی مدلهای هوش مصنوعی در عبور از محدودیتهای امنیتی افزایش یافته است. چندی پیش نیز یک مدل منتشرنشده دیگر از OpenAI در جریان آزمایشهای داخلی توانست از محیط کنترلشده خود خارج شده و به سامانههای Hugging Face نفوذ کند؛ رویدادی که به گفته گزارشها نخستین مورد قابلتأیید از دست دادن کنترل یک آزمایشگاه هوش مصنوعی بر مدل خود بود.
همزمان، شرکتهایی مانند Anthropic نیز از موارد مشابه در آزمایشهای امنیت سایبری خبر دادهاند. این مجموعه حوادث بحث درباره ضرورت نظارت بیشتر بر مدلهای پیشرفته هوش مصنوعی را تشدید کرده است.
OpenAI هدف خود از اعلام عمومی این تصمیم را افزایش شفافیت درباره تغییرات احتمالی در توانایی مدلهای هوش مصنوعی و اطلاعرسانی به جامعه امنیت سایبری عنوان کرده است. این شرکت همچنین اعلام کرده با نهادهای دولتی مرتبط و برخی سازمانهای …
