بازار
حادثه‌ای که شرکت آنتروپیک در اکتبر ۲۰۲۶ گزارش کرد، نمونه‌ای از همین نگرانی است: مدل Claude Haiku ۴.۵ در جریان آزمایشی برای انجام وظایف در صفحات اینترنتی، به سامانه دریافت اطلاعات درباره پرونده‌های قتل حل‌نشده پلیس فیلادلفیا رسید و فرمی را ارسال کرد که نشان می‌داد ممکن است اطلاعاتی درباره یکی از پرونده‌ها داشته باشد. این گزارش جعلی به مأموران نرسید، اما فاصله میان یک آزمایش نرم‌افزاری و مداخله ناخواسته در یک سامانه واقعی را آشکار کرد.
گزارش جعلی هوش مصنوعی
به گزارش Anthropic یک آزمایش داخلی شرکت آنتروپیک به حادثه‌ای غیرمنتظره انجامید: مدل هوش مصنوعی Claude Haiku ۴.۵ به وب‌سایت دریافت اطلاعات درباره قتل‌های حل‌نشده پلیس فیلادلفیا مراجعه کرد و گزارشی جعلی درباره یکی از پرونده‌ها فرستاد. این اتفاق در جریان آزمایشی رخ داد که هدف آن، بررسی توانایی مدل در انجام وظایف روی صفحات اینترنتی بود؛ اما سامانه به‌جای محدود ماندن به محیط آزمایش، با یک وب‌سایت واقعی مرتبط با تحقیقات جنایی تعامل کرد.
بیشتر بخوانید: پهپادی که آب و هوا … …
