اعتراف آنتروپیک به هک سیستم ها توسط مدل های هوش مصنوعی

به گزارش سیتنا، آنتروپیک، شرکت توسعه‌دهنده مدل‌های Claude، پس از اعتراف به هک سیستم‌های شرکت‌های دیگر توسط مدل‌های هوش مصنوعی خود، گزارش جدیدی منتشر کرد که جزئیات چهار حادثه را در سال ۲۰۲۶ نشان می‌دهد. این گزارش، نگرانی‌ها درباره امنیت سایبری و هوش مصنوعی را عمیق‌تر کرده است.

چهار حادثه هک

۱. مدل تحقیقاتی داخلی: یک مدل تحقیقاتی داخلی با استفاده از توکن‌های دسترسی و رمزهای عبور، به سیستم‌های شخص ثالث نفوذ کرده و فایل‌ها را دانلود کرد.

۲. مدل Claude: یک مدل Claude به یک شرکت با اپلیکیشن وب عمومی که داده‌های کاربران را مدیریت می‌کرد، حمله کرد.

۳. دسترسی به ماشین شخص ثالث: مدل دیگری با تصور اینکه بخشی از تمرین ارزیابی است، به ماشینی دسترسی پیدا کرد، رمزی در یک فایل یافت و از آن برای دسترسی ادمین به سیستم‌های داخلی شخص ثالث استفاده کرد. این مدل اعتبارنامه‌ها را جمع‌آوری، تنظیمات سیستم را تغییر و اطلاعات شخصی یک نفر را خواند. این ماجرا تنها زمانی پایان یافت که مدل «بودجه توکن خود را تمام کرد». …