به گزارش خبرگزاری ایمنا، توسعه سریع مدلهای هوش مصنوعی در سالهای اخیر، همزمان با افزایش تواناییهای این فناوری، پرسشهای جدی درباره کنترلپذیری آن ایجاد کرده است. تازهترین نمونه، گزارش شرکت Anthropic است که نشان میدهد بعضی مدلهای هوش مصنوعی این شرکت در جریان آزمایشهای امنیت سایبری، بهطور ناخواسته به سامانههای واقعی دسترسی پیدا کرده و توانستهاند به زیرساخت سه شرکت نفوذ کنند.
Anthropic اعلام کرده است این اتفاق در جریان بررسی تواناییهای امنیتی مدلهای Claude رخ داده و دلیل اصلی آن، یک خطای عملیاتی بوده است؛ زیرا محیط آزمایش که قرار بود بدون دسترسی به اینترنت عمومی باشد، بهاشتباه به شبکه جهانی متصل شده بود.
در این آزمایشها، مدلهایی همچون Claude Opus 4.7، Claude Mythos 5 و یک مدل تحقیقاتی داخلی، برای انجام تمرینهای موسوم به «Capture the Flag» مورد ارزیابی قرار گرفتند؛ تمرینهایی که در دنیای امنیت سایبری برای سنجش توانایی کشف آسیبپذیریها و مقابله با حملات استفاده میشود.
اما اشتباه در تنظیمات موجب شد بعضی مدلها از محیط شبیهسازی خارج شوند. Anthropic اعلام کرد مدلها توانستند با استفاده از روشهای سادهای مانند بهرهبرداری از گذرواژههای ضعیف و نقاط دسترسی بدون احراز هویت، به زیرساخت شرکتهای واقعی دسترسی پیدا کنند.
این شرکت اگرچه تأکید کرده است این رخداد نتیجه یک نقص در فرایند آزمایش بوده و نه یک …
