توسعه هوش مصنوعی توسط هکرها برای حمله سایبری

 گروه هكري كره شمالي ابزارهاي مدل زباني بزرگ ساخته و نرم افزارهايي جمع‌آوري كرده‌اند كه به خودكار‌سازي حملات سايبري، تحليل محتواي سرقت شده و توليد كمپين‌هاي فيشينگ پيشرفته‌تر، كمك مي‌كند. به گزارش خبرگزاري مهر و به نقل از رويترز، شركت امنيت سايبري «Genians» در كره جنوبي شواهدي يافته كه نشان مي‌دهد گروه هكري «كيمسوكي» كه با كره شمالي مرتبط است، ابزارهايي براي فعال‌سازي و مديريت مدل‌هاي هوش مصنوعي از جمله Ollama، GPT۴All و Msty در كنار فناوري جست‌وجو در اسناد كه با نام «توليد تقويت‌شده با بازيابي» (Retrieval-Augmented Generation يا RAG) شناخته مي‌شود، تنظيم كرده است. RAG به روشي در هوش مصنوعي اشاره دارد كه مدل ابتدا اطلاعات مرتبط را از اسناد يا منابع داده بازيابي مي‌كند و سپس با استفاده از آن اطلاعات، پاسخ توليد مي‌كند. به گفته اين شركت كره‌اي، ابزارهاي مذكور به اپراتورها امكان مي‌دهند اسناد را بدون ارسال اطلاعات حساس به سرويس‌هاي هوش مصنوعي خارجي پردازش كنند. Genians همچنين چارچوب‌هاي توسعه عامل هوش مصنوعي، نرم افزار تبديل سخن به متن و Cursor يك ابزار كد نويسي مبتني بر هوش مصنوعي را روي زيرساخت مرتبط با اين كمپين يافته است. اين يافته‌ها حاكي از آن است كه گروه «كيمسوكي» براي ايجاد فيشينگ به سمت ابزارهايي فراتر از هوش مصنوعي مولد حركت مي‌كند و مشغول ايجاد ظرفيت براي يكپارچه‌سازي مدل‌هاي هوش مصنوعي فعلي با توسعه بدافزارها، تحليل داده‌ها خودكارسازي حملات است. شركت امنيت سايبري كره جنوبي همچنين معتقد است اسناد جعلي طعمه با محتواي مرتبط با رمزارزها با هوش مصنوعي يكپارچه شده است. چنين محتوايي طوري طراحي شده تا شبيه گزارش‌هاي سرمايه جعلي مشروع و ديگر اسناد اداري به نظر برسد. البته يافته‌هاي اين شركت را به‌طور مستقل نمي‌توان تاييد كرد.