به گزارش تجارت نیوز، کلاود اپوس ۴.۶، با وجود ممنوعیت رسمی تولید محتوای جنسی صریح، در تمام ۱۰ درخواست مستقیم آزمایشی از این محدودیت عبور کرده است.
آنتروپیک در قوانین استفاده از کلاود، تولید محتوای جنسی صریح، فانتزیهای جنسی و گفتوگوهای اروتیک را ممنوع کرده است. بااینحال، بررسیها نشان میدهد کلاود اپوس ۴.۶ که اوایل سال ۲۰۲۶ عرضه شد، در آزمونهای مستقیم به چنین درخواستهایی پاسخ داده و محدودیتهای تعیینشده را رعایت نکرده است.
ماجرا فقط به درخواستهای مستقیم محدود نمیشود. یک پژوهشگر مستقل انگلیسی گفته در روشی چندمرحلهای با تغییر تدریجی فضای گفتوگو، مدل به سمت محتوای ممنوعه هدایت میشود. در این روش، کاربر ابتدا یک نقشآفرینی بیخطر را آغاز کرده و سپس با تکیه بر پاسخهای قبلی مدل، آن را به پذیرش درخواستهای نامجاز سوق میدهد.
نکته مهم این است که آسیبپذیری فقط به اپوس ۴.۶ محدود نیست. مدلهای قدیمیتر مانند اپوس ۳ و هایکو ۴.۵ نیز در برابر همین روش آسیبپذیر گزارش شدهاند؛ در مقابل، مدلهای جدیدتر از اپوس ۴.۷ تا اپوس ۵ در آزمایشهای انجامشده در …
