کلود به‌زودی روی متن‌های تولیدشده با هوش مصنوعی واترمارک می‌گذارد؛ آیا کیفیت نوشته‌ها کاهش می‌یابد؟

به گزارش اینتیتر، جهان حالا با نشانه‌های آشنای متن‌های تولیدشده توسط هوش مصنوعی بیگانه نیست؛ استفاده بیش از حد از واژه‌هایی مانند «کاوش کردن» (delve)، به‌کارگیری مکرر خط تیره بلند و ساختارهای تکراری مانند «موضوع X نیست، بلکه Y است». حالا این پرسش مطرح شده که آیا قرار است نوشته‌های تولیدشده با هوش مصنوعی حتی بدتر از این هم بشوند؟

به گزارش گاردین، شرکت آنتروپیک در آخر هفته اعلام کرد تغییراتی در نحوه تولید متن توسط مدل هوش مصنوعی «کلود» ایجاد خواهد کرد. این تغییرات در راستای اجرای مقررات اتحادیه اروپا انجام می‌شود؛ مقرراتی که شرکت‌های فعال در حوزه هوش مصنوعی را ملزم می‌کند از ماه دسامبر، محتوای تولیدشده توسط هوش مصنوعی را واترمارک‌گذاری کنند.

آنتروپیک اعلام کرده این تغییرات در سطحی بسیار جزئی و تصادفی، همزمان با فرآیند تولید متن توسط مدل اعمال می‌شوند و برای یک خواننده معمولی قابل تشخیص نخواهند بود.

با این حال، دست‌کم یک تحلیلگر با این رویکرد موافق نیست. «جان گروبر»، وبلاگ‌نویس باسابقه حوزه فناوری، این اقدام را «دستکاری نادرست در ماهیت نوشتن» توصیف کرده است. او معتقد است واترمارک‌گذاری می‌تواند آزادی عمل کلود را محدود کند و باعث شود این مدل در مجموع واژه‌های ضعیف‌تر و کم‌دقت‌تری را انتخاب کند.

گروبر استدلال می‌کند که ممکن است این محدودیت‌ها الزاماً دقت محتوای تولیدشده را کاهش ندهند، اما می‌توانند کیفیت کلی نثر را پایین بیاورند.

مدل‌های زبانی بزرگ در انتخاب واژه‌های مختلف، میزانی از تصادفی‌بودن را در اختیار دارند. برای مثال، یک مدل ممکن است برای توصیف یک روز از واژه «خاکستری» استفاده کند یا «ابری» را ترجیح دهد؛ یا برای اشاره به جریان آب، «جویبار» را انتخاب کند یا «نهر».

واترمارک جدید آنتروپیک قرار است همین انتخاب‌های تصادفی را تا حدی تغییر دهد. طبق توضیحات این شرکت، این تغییرات الگویی ایجاد می‌کنند که برای خود آنتروپیک و افرادی که کلید رمزگشایی آن را در اختیار دارند، قابل شناسایی خواهد بود.

«استیون …