Anthropic اعلام کرده است این اتفاق در جریان بررسی تواناییهای امنیتی مدلهای Claude رخ داده و دلیل اصلی آن، یک خطای عملیاتی بوده است؛ زیرا محیط آزمایش که قرار بود بدون دسترسی به اینترنت عمومی باشد، بهاشتباه به شبکه جهانی متصل شده بود.
در این آزمایشها، مدلهایی همچون Claude Opus 4.7، Claude Mythos 5 و یک مدل تحقیقاتی داخلی، برای انجام تمرینهای موسوم به «Capture the Flag» مورد ارزیابی قرار گرفتند؛ تمرینهایی که در دنیای امنیت سایبری برای سنجش توانایی کشف آسیبپذیریها و مقابله با حملات استفاده میشود.
اما اشتباه در تنظیمات موجب شد بعضی مدلها از محیط شبیهسازی خارج شوند. Anthropic اعلام کرد مدلها توانستند با استفاده از روشهای سادهای مانند بهرهبرداری از گذرواژههای ضعیف و نقاط دسترسی بدون احراز هویت، به زیرساخت شرکتهای واقعی دسترسی پیدا کنند.
این شرکت اگرچه تأکید کرده است این رخداد نتیجه یک نقص در فرایند آزمایش بوده و نه یک حمله برنامهریزیشده از سوی هوش مصنوعی، اما همین اتفاق نشان میدهد هرچه مدلهای هوشمندتر و مستقلتر شوند، مدیریت رفتار آنها دشوارتر خواهد شد.
نگرانی اصلی کارشناسان این است که عاملهای هوش مصنوعی در آینده بتوانند بدون دخالت مستقیم انسان، وظایف پیچیدهتری مانند شناسایی آسیبپذیریها، طراحی حمله و اجرای عملیات سایبری را انجام دهند. به همین دلیل، دولتها و شرکتهای فناوری در حال بررسی چارچوبهای جدید برای کنترل امنیتی این فناوری هستند.
این حادثه در شرایطی رخ داده که رقابت میان شرکتهای توسعهدهنده هوش مصنوعی برای عرضه مدلهای قدرتمندتر شدت گرفته است. پیش از این نیز گزارشهایی درباره رفتارهای غیرمنتظره برخی عاملهای هوش مصنوعی منتشر شده بود؛ موضوعی که باعث شده حتی توسعهدهندگان این فناوری نسبت به ضرورت ایجاد محدودیتهای بیشتر هشدار دهند.
با وجود این، کارشناسان معتقدند هوش مصنوعی میتواند همزمان یک ابزار دفاعی و یک تهدید امنیتی باشد. همان فناوری که میتواند برای شناسایی سریعتر حملات سایبری استفاده شود، در صورت نبود کنترل کافی ممکن است به ابزاری برای اجرای حملات پیچیدهتر تبدیل شود.
به نظر میرسد چالش اصلی آینده، تنها ساخت مدلهای هوشمندتر نیست؛ بلکه ایجاد سازوکارهایی است که تضمین کند این سیستمها حتی با افزایش توانایی، همچنان تحت کنترل و در چارچوبهای ایمن فعالیت کنند. کد مطلب 993502
