تصمیم جدید اپن ای‌آی برای کاربران اروپایی | متن‌های تولید شده با چت جی‌پی‌تی واترمارک می‌خورد

همشهری آنلاین، فرخنده رفائی: با اجرایی شدن قوانین جدید اتحادیه اروپا برای شفاف‌تر شدن محتوای تولیدشده با هوش مصنوعی، شرکت‌های فناوری باید راهی برای قابل‌شناسایی کردن این محتوا پیدا کنند. OpenAI نیز در همین چارچوب تصمیم گرفته است واترمارک‌گذاری متن‌های ChatGPT را آغاز کند.

به گزارش تک‌کرانچ، اوپن‌ای‌آی قصد دارد طی هفته‌های آینده واترمارک متنی را برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا فعال کند. این اقدام در راستای قوانین شفافیت «قانون هوش مصنوعی اتحادیه اروپا» انجام می‌شود که شرکت‌های فعال در حوزه هوش مصنوعی را ملزم می‌کند محتوای تولیدشده توسط سامانه‌های هوش مصنوعی را به شکلی قابل شناسایی علامت‌گذاری کنند.

واترمارک جدید اوپن‌ای‌آی یک نشانه قابل مشاهده نیست، بلکه با تغییرات بسیار ظریف در انتخاب کلمات ایجاد می‌شود. این واترمارک برخلاف نشانه‌های معمول، هیچ علامت یا عبارت قابل مشاهده‌ای به متن اضافه نمی‌کند و در خود کلمات پنهان می‌شود. اوپن‌ای‌آی می‌گوید این فناوری می‌تواند هنگام کپی و انتقال متن نیز همراه آن باقی بماند، اما تغییر دادن بخشی از نوشته ممکن است توانایی سامانه برای شناسایی منشأ آن را کاهش دهد.

سازوکار این واترمارک به این شکل است که مدل هنگام تولید متن، از میان گزینه‌های مختلف برای کلمه بعدی الگوهایی را انتخاب می‌کند که برای خواننده عادی قابل تشخیص نیستند، اما یک سامانه تشخیص با استفاده از کلید مخصوص می‌تواند این الگوها را شناسایی کند.

اوپن‌ای‌آی این روش را textGrain نامیده و همزمان با معرفی آن، یک گزارش فنی نیز منتشر کرده است. این فناوری با همکاری پژوهشگرانی از دانشگاه پنسیلوانیا و دانشگاه ییل توسعه یافته است. از آنجا که واترمارک در خود متن قرار دارد، هنگام کپی و چسباندن نوشته نیز … …