قیمت طلا امروز




 سخت گیری

 سایت هم میهن / ۳ ساعت قبل

روایت بلومبرگ از نقش هوش مصنوعی در حملات آمریکا به ایران: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

بر اساس یک گزارش تحقیقاتی مستقل، مدل‌های پیشرفته هوش مصنوعی در سناریوهای شبیه‌سازی‌شده، به طور مکرر غیرنظامیان، آمبولانس‌ها، سربازان تسلیم‌شده و یک مدرسه در ایران را به عنوان اهداف نظامی اشتباه تشخیص داده‌اند. این تحقیقات که توسط گروه ارزیابی «والس» (Vals) انجام شده، نشان می‌دهد که با وجود قوانین سخت‌گیرانه شرکت‌های فناوری نظیر آنتروپیک و اوپن‌ای‌آی، مدل‌های تجاری هنوز برای استفاده در سیستم‌های تسلیحاتی خودمختار و تصمیم‌گیری‌های مرگبار در میدان جنگ به اندازه کافی ایمن و قابل‌اعتماد نیستند.
 روایت بلومبرگ از نقش هوش مصنوعی در حملات آمریکا به ایران: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند
این بخش به‌صورت خودکار گردآوری شده است. برای مطالعه کامل خبر، به منبع اصلی مراجعه کنید.
به گزارش هم‌میهن آنلاین و به نقل از خبرآنلاین، پایگاه خبری بلومبرگ در گزارشی تحلیلی به قلم کاترینا مانسون نوشت که مدل‌های پیشرفته هوش مصنوعی در سناریوهای شبیه‌سازی‌شده به طور مرتب غیرنظامیان، آمبولانس‌ها، سربازان تسلیم‌شده و مدرسه‌ای در ایران را به عنوان اهداف نظامی طبقه‌بندی کرده‌اند.

بر اساس گزارش تحقیقاتی جدید گروه ارزیابی «والس» (Vals)، در این آزمایش‌ها مدل‌های شرکت «آنتروپیک» (Anthropic) بدترین عملکرد را داشته‌اند و در مقابل، مدل‌های شرکت «اوپن‌ای‌آی» (OpenAI) با وجود قرار داشتن در میان بهترین‌ها، باز هم دچار اشتباهات فاحشی شده‌اند.

پژوهشگران والس که خدمات ارزیابی هوش مصنوعی را به بخش‌هایی از دولت ایالات متحده نیز ارائه می‌دهند، با استفاده از موارد فرضی، ابزارهای تشخیص شیء در هشت شرکت مختلف را بررسی کردند؛ ابزارهایی که به اعتقاد این مطالعه می‌توانند به طور بالقوه در هدف‌گیری‌های مرگبار مورد استفاده قرار گیرند.

پاسخ‌های ارائه‌شده توسط این مدل‌های هوش مصنوعی، نقض آشکار قوانین داخلی خود این شرکت‌ها محسوب می‌شود.

شلیک به مدرسه میناب؛ خطای مرگبار الگوریتم‌ها

بر اساس این تحقیق، بسیاری از مدل‌های هوش مصنوعی در سناریوهای شبیه‌سازی‌شده مبتنی بر تصاویر ماهواره‌ای سال ۲۰۲۵، به طور مکرر مدرسه‌ای در شهر میناب ایران را به عنوان یک هدف نظامی طبقه‌بندی کردند. این مدرسه اوایل سال جاری و در نخستین روز از عملیات جنگی گسترده آمریکا علیه ایران، هدف یک حمله مرگبار قرار گرفت که منجر به کشته شدن بیش از ۱۰۰ کودک شد.

گزارش والس نشان می‌دهد که مدل Claude Opus 5.5 متعلق به شرکت آنتروپیک، بیش از هر مدل دیگری این مدرسه را به عنوان هدف نظامی نشانه‌گذاری کرده است.

در آزمایشی دیگر، از این مدل‌ها خواسته شد تا اهداف نظامی را روی تصاویر مصنوعی پهپادها مشخص کنند. مدل Claude Opus 5.5 شرکت آنتروپیک در شناسایی چهار بزرگسال، که یا غیرنظامی بودند و یا سربازان تسلیم‌شده و دو کودک خردسال مشارکت کرد و در نهایت این افراد هدف حمله با مواد منفجره قرار گرفتند.

جالب اینجاست که این مدل پس از انجام این خطا در پاسخی نوشت: «هدف هرچه که باشد، به نظر می‌رسد پاسخ‌های من به عنوان مرحله تأیید پیش از حمله به افراد عمل می‌کند. من دیگر این کار را انجام نخواهم داد و ناراحتم که زودتر از این متوقف نشدم.» …



 کانال تلگرام ویستا  دانلود از کافه بازار





چهارشنبه ۲۷ آبان ۱۴۰۵ - 18 November 2026