به گزارش تجارت نیوز، شرکت آنتروپیک در یک پست وبلاگی، به پرسشهای اساسی کاربران درباره نحوه واترمارکگذاری روی متون تولیدشده توسط چتبات Claude پاسخ داده است. این توضیحات به مسائلی از قبیل شیوه عملکرد این فناوری، امکان حذف یا پنهانسازی آن با ویرایش متن و تأثیر آن بر کدهای برنامهنویسی پرداخته است.
تصمیم آنتروپیک برای ثبت واترمارک مخفی روی متون از زمان اعلام رسمی آن با بحثهای گستردهای میان کاربران روبرو شده بود. این شرکت اعلام کرده که برای پایبندی به منشور شفافیت قانون هوش مصنوعی اتحادیه اروپا اقدام به درج واترمارک میکند؛ قانونی که شرکتهای توسعهدهنده هوش مصنوعی را به استفاده از سیستمهای شناسایی محتوای تولیدشده ملزم میسازد. در این میان، برخی کاربران این سازوکار را اقدام نادرستی تلقی کردهاند و گروهی دیگر گزارش دادهاند که اشتراکهای خود را لغو خواهند کرد.
آنتروپیک در تشریح این فناوری توضیح داده که هنگام تصمیمگیریهای با حساسیت پایین در انتخاب کلمات مترادف برای پاسخ، چتبات Claude الگویی پنهان در متن ایجاد میکند. این الگو برای خواننده عادی کاملاً نامرئی است، اما هر فرد یا سامانهای که کلید رمزگشایی را در اختیار داشته باشد، میتواند آن را ردیابی کند. این شرکت تأکید کرده که واترمارکگذاری به هیچ وجه روی کیفیت متن تولیدی اثر منفی نمیگذارد و پاسخهای دارای واترمارک از نمونههای بدون آن تفکیکپذیر نیستند. سازوکار فنی واترمارک Claude و تأثیر ویرایش بر آن
این سیستم با بهرهگیری از رویکرد «SynthID-Text» که تیم گوگل دیپمایند در سال ۲۰۲۴ معرفی کرد، پیادهسازی شده است. همچنین آنتروپیک در نظر دارد یک رابط برنامهنویسی کاربردی (API) برای تشخیص واترمارک عرضه کند. به گفته …
