پژوهشگران امنیتی، افکار پنهان مدل‌های هوش مصنوعی را رمزگشایی کردند

به گزارش خبرگزاری خبرآنلاین و براساس گزاش زومیت، پژوهشگران امنیتی راهی برای خواندن «افکار درونی» رمزگذاری‌شده‌ی تمامی مدل‌های استدلالی بزرگ هوش مصنوعی پیدا کرده‌اند. این آسیب‌پذیری بزرگ به فاش شدن ۶۲ کلید فعال API و ۳۳ رمز عبور در گزارش‌های عمومی چت‌هایی منجر شده است که توسعه‌دهندگان بدون آگاهی از محتوای پنهان، آن‌ها را در اینترنت به اشتراک گذاشته بودند.

تیمی از محققان مؤسسه‌ی پژوهشی MATS، مؤسسه‌ی اِلیس توبینگن، مؤسسه‌ی سیستم‌های هوشمند ماکس پلانک و شرکت امنیتی Snyk این آسیب‌پذیری را در مدل‌های استدلالی شناسایی کرده‌اند. این مدل‌ها پیش از ارائه‌ی پاسخ نهایی، گام‌های حل مسئله را در یک فضای پیش‌نویس داخلی پردازش می‌کنند که معمولا از دید کاربر پنهان و رمزگذاری می‌شود.

محققان در مقاله‌ی خود نوشتند: «ما با رمزگشایی از ۳۱۵,۳۲۰ بلوک استدلالی استخراج‌شده از مخازن عمومی، ۳۶۷ داده‌ی هویتی حساس و ۱۸۲ اعتبارنامه‌ی امنیتی را بازیابی کردیم.»

این نقص امنیتی به ساختار سیستم بازمی‌گردد؛ چرا که شرکت‌های گوگل، اوپن‌ای‌آی و آنتروپیک …