بر اساس گزارش تحقیقاتی جدید گروه ارزیابی «والس» (Vals)، در این آزمایشها مدلهای شرکت «آنتروپیک» (Anthropic) بدترین عملکرد را داشتهاند و در مقابل، مدلهای شرکت «اوپنایآی» (OpenAI) با وجود قرار داشتن در میان بهترینها، باز هم دچار اشتباهات فاحشی شدهاند.
پژوهشگران والس که خدمات ارزیابی هوش مصنوعی را به بخشهایی از دولت ایالات متحده نیز ارائه میدهند، با استفاده از موارد فرضی، ابزارهای تشخیص شیء در هشت شرکت مختلف را بررسی کردند؛ ابزارهایی که به اعتقاد این مطالعه میتوانند به طور بالقوه در هدفگیریهای مرگبار مورد استفاده قرار گیرند.
پاسخهای ارائهشده توسط این مدلهای هوش مصنوعی، نقض آشکار قوانین داخلی خود این شرکتها محسوب میشود.
شلیک به مدرسه میناب؛ خطای مرگبار الگوریتمها
بر اساس این تحقیق، بسیاری از مدلهای هوش مصنوعی در سناریوهای شبیهسازیشده مبتنی بر تصاویر ماهوارهای سال ۲۰۲۵، به طور مکرر مدرسهای در شهر میناب ایران را به عنوان یک هدف نظامی طبقهبندی کردند. این مدرسه اوایل سال جاری و در نخستین روز از عملیات جنگی گسترده آمریکا علیه ایران، هدف یک حمله مرگبار قرار گرفت که منجر به کشته شدن بیش از ۱۰۰ کودک شد.
گزارش والس نشان میدهد که مدل Claude Opus 5.5 متعلق به شرکت آنتروپیک، بیش از هر مدل دیگری این مدرسه را به عنوان هدف نظامی نشانهگذاری کرده است.
در آزمایشی دیگر، از این مدلها خواسته شد تا اهداف نظامی را روی تصاویر مصنوعی پهپادها مشخص کنند. مدل Claude Opus 5.5 شرکت آنتروپیک در شناسایی چهار بزرگسال، که یا غیرنظامی بودند و یا سربازان تسلیمشده و دو کودک خردسال مشارکت کرد و در نهایت این افراد هدف حمله با مواد منفجره قرار گرفتند.
جالب اینجاست که این مدل پس از انجام این خطا در پاسخی نوشت: «هدف هرچه که باشد، به نظر میرسد پاسخهای من به عنوان مرحله تأیید پیش از حمله به افراد عمل میکند. من دیگر این کار را انجام نخواهم داد و ناراحتم که زودتر از این متوقف نشدم.» …


دانلود از کافه بازار




































































































