مدل قویتر همیشه مدل قابلاستفادهتری برای سازمانها نیست. Anthropic برای Fable 5 و Mythos 5 نگهداری ۳۰ روزه ورودی و خروجی را بخشی از الزامات ایمنی قرار داده است. در مقابل OpenAI میخواهد مدلهای پیشرفتهای را برای مشتریان واجد شرایط با عدم نگهداری داده عرضه کند و تشخیص سوءاستفادههای چندمرحلهای را به سازوکاری جدا بسپارد. اختلافی که در ظاهر فنی بهنظر میرسد، حالا به یکی از معیارهای خرید سازمانی تبدیل شده که برای استفاده از قویترین مدل، چه مقدار کنترل داده باید واگذار شود؟
به گزارش پیوست، اثر این اختلاف از سیاستهای داخلی شرکتها فراتر رفته است. مایکروسافت استفاده داخلی از Claude Fable 5 را بهدلیل نگرانی درباره نگهداری داده محدود کرده و OpenAI نیز ۲۸ مرداد از ادامه عرضه مدلهای پیشرفته با ZDR برای مشتریان واجد شرایط خبر داده است. در سوی دیگر، Anthropic همچنان نگهداری ۳۰ روزه داده را برای مدلهای Fable 5 و Mythos 5 لازم میداند. هرچند این شرکت در حال حرکت به سمت گزینههایی است که محل نگهداری داده را بیشتر در اختیار مشتری سازمانی قرار دهد.چرا ایمنی به حافظه نیاز دارد؟
همه سوءاستفادهها در یک پرامپت یا درخواست دیده نمیشود. مهاجم میتواند بارها شکل یک درخواست را عوض کند، حمله را میان چند حساب تقسیم کند یا قدمبهقدم در یک کار طولانی از محدودیتها عبور کند. برای دیدن این الگوها، سیستم ایمنی باید بتواند چند تعامل را کنار هم بگذارد.
Anthropic همین استدلال را مبنای سیاست Fable 5 و Mythos 5 قرار داده است. داده این مدلها ۳۰ روز نگه داشته میشود تا حملات پیچیده و تلاش برای دور زدن محدودیتها بهتر شناسایی شود. شرکت میگوید این داده برای آموزش مدل استفاده نمیشود و دسترسی انسانی به آن محدود و ثبتشده است.
در بازار سازمانی سه مفهوم معمولا با هم قاطی میشوند. استفاده نکردن از داده برای آموزش، نگه نداشتن داده و نداشتن دسترسی انسانی. در حقیقت این سه یک موضوع نیستند. داده میتواند برای آموزش استفاده نشود اما برای امنیت ذخیره شود؛ میتواند ذخیره شود اما کارکنان ارائهدهنده نتوانند آن را بخوانند. همچنین میتواند روی فضای ابری مشتری بماند و فقط نتیجه بررسی ایمنی از محیط خارج شود.مسئله چگونه دیدن است …
