شرکت Anthropic بهتازگی سیاست جدیدی را برای واترمارکگذاری خروجیهای چتبات Claude اجرا کرده است، اقدامی که با هدف انطباق با الزامات شفافیت اتحادیه اروپا انجام شده، اما در میان برخی کاربران این چتبات نگرانیهایی درباره افشای استفاده آنها از هوش مصنوعی در محیطهای کاری و دانشگاهی ایجاد کرده است.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از تک کرانچ، بر اساس سیاست جدید Anthropic در متن تولیدشده توسط Claude کدهای نامرئی درج میشود که به سامانههای رایانهای امکان میدهد تشخیص دهند محتوای موردنظر توسط هوش مصنوعی تولید شده است. این اقدام در راستای الزامات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) و کد شفافیت مرتبط با آن انجام شده است. این مقررات شرکتهای فناوری را ملزم میکند محتوای تولید یا ویرایششده توسط هوش مصنوعی را به شکلی قابل شناسایی برای سامانههای رایانهای علامتگذاری کنند.
با وجود اینکه این سیاست ممکن است از نگاه نهادهای نظارتی اروپایی گامی در جهت افزایش شفافیت باشد شماری از کاربران Claude با آن مخالفت کردهاند. بخشی از این نارضایتیها در شبکه اجتماعی Reddit مطرح شده است. هرچند واکنش کاربران به این موضوع یکدست نبوده و بسیاری نیز از تصمیم Anthropic حمایت کردهاند.
یکی از انتقادهای شدید در Reddit از سوی کاربری با نام visionode مطرح شده است. او مدعی شده که سیستم جدید واترمارکگذاری میتواند کاربران عادی Claude را با مشکل مواجه کند، در حالی که کاربران حرفهایتر ممکن است بتوانند با بازنویسی یا پردازش مجدد متن تولیدشده توسط سرویسهای هوش مصنوعی دیگر نشانههای استفاده از Claude را از بین ببرند.
این کاربر برای توضیح نگرانی خود به گروههایی مانند دانشجویان، روزنامهنگاران و نویسندگان اشاره کرده است. از نگاه او دانشجویی که از Claude برای سازماندهی مجدد یک پاراگراف استفاده میکند، روزنامهنگاری که از هوش مصنوعی برای خلاصهکردن یک متن ۲۰۰ صفحهای کمک میگیرد یا نویسندهای که برای پیدا کردن مترادفها از چتبات استفاده میکند ممکن است با واترمارکی مواجه شود که استفاده آنها از هوش مصنوعی را آشکار میکند.
با این حال نویسنده این گزارش معتقد است این مثالها لزوماً نشاندهنده یک مشکل واقعی نیستند. برای مثال اگر …