همشهری آنلاین، فرخنده رفائی: شرکت OpenAI اعلام کرد که توسعه برخی قابلیتهای مدل آینده خود با نام Astra را بهدلیل نگرانیهای امنیتی به حالت تعلیق درآورده و همزمان تدابیر حفاظتی سختگیرانهتری برای ادامه آزمایشهای آن اعمال کرده است.
به گزارش تککرانچ، به گفته OpenAI، ارزیابیهای اولیه نشان میدهد آسترا به آستانهای رسیده که در چارچوب آمادگی امنیتی این شرکت، «سطح بحرانی تواناییهای سایبری» محسوب میشود. این اصطلاح به مدلی اشاره دارد که میتواند بهطور مستقل آسیبپذیریها را شناسایی کرده و حملات سایبری را علیه سامانههای واقعی و دارای حفاظت مناسب اجرا کند.
OpenAI در توضیح تصمیم خود اعلام کرده است که ارزیابی و آزمایش آسترا همچنان ادامه دارد، اما عملکرد فعلی آن به اندازهای قدرتمند است که نمیتوان احتمال رسیدن این مدل به سطح بحرانی را نادیده گرفت. در نتیجه، فعالیتهای داخلی مرتبط با آسترا که با تدابیر امنیتی جدید مطابقت ندارند، متوقف شدهاند.
بیشتر بخوانید: آسیبپذیری امنیتی هوش مصنوعی | چتباتها دستور ساخت «سلاحهای بیولوژیک» میدهند! اوپن ای آی، دوباره در دادگاه | چتجیپیتی یک کشیش را …
