هوش مصنوعی «کلود» روی متن‌هایش واترمارک نامرئی می‌گذارد

به نقل از آی‌ای، این اقدام در راستای الزامات شفافیت ذیل ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا انجام می‌شود. شرکت آنتروپیک، آیین‌نامه اجرایی اتحادیه اروپا در مورد محتوای تولید شده توسط هوش مصنوعی را امضا کرده است.

مدل‌های جدید کلود که از آن تاریخ عرضه می‌شوند، محتوای تولید شده را در سطح مدل علامت‌گذاری خواهند کرد. شرکت آنتروپیک می‌گوید این علامت‌گذاری‌ها نه تنها برای کاربران اروپایی، بلکه در سراسر جهان اعمال خواهد شد.

این سیستم از روش‌های مختلفی برای متن و فایل‌های پشتیبانی‌شده استفاده خواهد کرد. متن‌ها واترمارک‌های نامرئی دریافت می‌کنند، در حالی که فایل‌ها احتمالا اطلاعات منشأ را خواهند داشت.

کلود واترمارک‌های متنی اضافه می‌کند

آنتروپیک قصد دارد یک سیگنال نامحسوس را مستقیما در متن تولیدشده توسط کلود جاسازی کند. کاربران در طول خواندن عادی علامت را نخواهند دید، اما وقتی کاربران پاسخ‌ها را کپی و پیست می‌کنند، علامت آبی بخشی از متن باقی خواهد ماند. آنتروپیک همچنین انتظار دارد که برخی از علامت‌ها از ویرایش جان سالم به در ببرند.

اعمال این علامت‌ها در سطح مدل باعث می‌شود این علامت در طیف گسترده‌تری از محصولات کلود قابل استفاده باشد.

مشتریانی که از خدمات ابری استفاده می‌کنند نیز هنگام دسترسی به مدل‌های پشتیبانی‌شده کلود از طریق پلتفرم‌های اصلی، خروجی‌های دارای این علامت را دریافت خواهند کرد.

این رویکرد می‌تواند به پلتفرم‌ها و سایر سازمان‌ها راه دیگری برای ارزیابی اینکه آیا کلود یک متن را پردازش کرده است یا خیر، ارائه دهد. شرکت آنتروپیک می‌گوید جزئیات فنی مربوط به تشخیص واترمارک‌های خود را منتشر خواهد کرد. این ابزارها به کاربران و اشخاص ثالث کمک می‌کنند تا محتوا را برای یافتن واترمارک‌های پشتیبانی‌ شده توسط کلود بررسی کنند.

مدل‌های قدیمی‌تر کلود بلافاصله این تغییر را دریافت نخواهند کرد. شرکت آنتروپیک می‌گوید که در حال کار بر روی افزودن قابلیت‌های علامت‌گذاری در طول دوره گذار قانون هوش مصنوعی اتحادیه اروپا است.

فایل‌ها منشأ دیجیتالی پیدا می‌کنند

کلود از یک سیستم جداگانه برای فایل‌های پشتیبانی‌شده، از جمله فرمت‌های رایج تصویر، استفاده خواهد کرد. فایل‌های تولیدشده می‌توانند یک نشان دیجیتال معتبر از منشأ خود داشته باشند.

این نشان بر اساس استاندارد C2PA ثبت می‌شود و مشخص می‌کند فایل توسط کلود پردازش شده و آیا اطلاعات مربوط به منشأ آن بعدا تغییر کرده است یا خیر.

این تفاوت مهم است، چون هر نوع واترمارک مشکل خاص خودش را دارد. واترمارک متنی ممکن است همراه با محتوای کپی‌شده منتقل شود، اما اطلاعات فراداده ممکن است هنگام تغییر فرمت، گرفتن اسکرین‌شات یا ذخیره دوباره فایل از بین برود.

آنتروپیک همچنین در مورد در نظر گرفتن هر یک از این سیگنال‌ها به عنوان مدرک قطعی تالیف هشدار می‌دهد.

کلود می‌تواند مطالبی را که در ابتدا توسط افراد ایجاد شده است، پردازش کند. ممکن است شخصی از این مدل برای ترجمه، خلاصه‌سازی یا ویرایش آثار موجود استفاده کند. متن حاصل همچنان می‌تواند نشان کلود را داشته باشد.

مشکل معکوس نیز صادق است. محتوای بدون علامت لزوما به این معنی نیست که توسط انسان ایجاد شده است. ویرایش زیاد می‌تواند یک واترمارک متنی را تضعیف کند. همچنین ممکن است بخش‌های کوتاه، اطلاعات بسیار کمی برای تشخیص قابل اعتماد ارائه دهند.

فایل‌ها می‌توانند اطلاعات منشأ خود را از طریق پردازش معمولی از دست بدهند. مدل‌های قدیمی‌تر کلود نیز ممکن است بدون سیستم علامت‌گذاری جدیدتر، محتوا تولید کنند.

شرکت آنتروپیک قصد دارد با تکامل سیستم‌های علامت‌گذاری و تشخیص خود، مستندات فنی بیشتری ارائه دهد.

انتهای پیام