به گزارش ایسنا، شرکت «آنتروپیک» (Anthropic) اخیراً تصمیم گرفته است تا روی خروجیهای مدل هوش مصنوعی «کلود» (Claude) خود واترمارک بگذارد و یک کد نامرئی را در متن چتبات قرار داده است که آن را به عنوان محتوای تولیدشده توسط هوش مصنوعی علامتگذاری میکند.
به نقل از تککرانچ، شرکت آنتروپیک این سیاست جدید را برای برآورده کردن قانون شفافیت هوش مصنوعی اتحادیه اروپا وضع کرده است که شرکتهای فناوری را ملزم میکند تا محتوای تولیدشده یا ویرایششده توسط هوش مصنوعی را به گونهای برچسبگذاری کنند که برای سیستمهای رایانهای قابل شناسایی باشد. اگرچه ممکن است نهادهای نظارتی اروپا از این موضوع خوشحال باشند، اما برخی از کاربران هوش مصنوعی قطعاً راضی نیستند.
یکی از پستهای جنجالی در پلتفرم «ردیت» (Reddit)، از کاربری به نام «visionode» بود که حساب کاربری او تنها سه هفته قدمت دارد. در پست visionode نوشته شده سیستم جدید واترمارک یک توطئه بیرحمانه برای قربانی کردن کاربران بیگناه چتبات در سراسر جهان است.
به نظر میرسد استدلال اصلی Visionode این است که اگرچه امکان دارد کاربران باهوش کلود بتوانند شواهد استفاده از هوش مصنوعی خود را با بازنویسی یا اصلاح خروجیهای خود از طریق سایر سرویسهای هوش مصنوعی پنهان کنند، اما کاربر معمولی کلود لو خواهد رفت.
این کاربر نوشت: چه کسی گیر میافتد؟ شما؛ دانشجویی که از کلود برای سازماندهی مجدد یک پاراگراف استفاده میکند، روزنامهنگاری که از هوش مصنوعی میخواهد خلاصهای را از یک متن ۲۰۰ صفحهای ارائه دهد و نویسندهای که خلاقیت او متوقف شده است. این افراد با یک خالکوبی دیجیتالی روی پیشانیشان از این فرآیند بیرون میآیند.
در هر حال، این موارد بهترین مثالها نیستند. روزنامهنگاری که از هوش مصنوعی میخواهد یک متن ۲۰۰ صفحهای را خلاصه کند، از واترمارکی که به آن خلاصه الصاق شده است ناراحت نخواهد شد؛ مگر این که خلاصه را کلمه به کلمه در مقاله خود بیاورد که آشکارا غیراخلاقی است و نباید اتفاق بیفتد. به همان اندازه غیراخلاقی است که یک دانشجو پس از درخواست تنظیم دوباره یک …
