به گزارش تجارت نیوز، طبق تحلیل موسسه Ahrefs در سال ۲۰۲۵، از حدود ۹ میلیون صفحه در وب، تقریباً سه چهارم صفحات تازه منتشر شده اکنون حاوی متن نوشته شده توسط ماشینها هستند. ضمن اینکه این رقم شامل اسناد آفلاین نمیشود. همچنین فقط متن را پوشش میدهد.
هوش مصنوعی مولد اکنون موسیقی، تصاویر، نرمافزار، عکس و ویدیوهای قانعکنندهای تولید میکند. مشکل این است که تشخیص بخش زیادی از آن از آثار ساخته شده توسط انسان دشوار شده و نگرانیهای شفافیت و امنیتی را افزایش داده است.
پاسخ اتحادیه اروپا به این نگرانیها، وضع مقررات است. طبق ماده ۵۰(۲) قانون هوش مصنوعی اتحادیه اروپا، ارائه دهندگان سیستمهای هوش مصنوعی مولد موظف هستند تمام محتوای تولید شده را به عنوان محتوای تولید شده مصنوعی یا دستکاری شده قابل تشخیص کنند.
شرکت آنتروپیک که شرکت پشتیبان هوش مصنوعی «کلود» است، آییننامه عملکرد این اتحادیه در مورد شفافیت محتوای تولید شده توسط هوش مصنوعی را امضا کرده است و اکنون قصد دارد خروجیهای «کلود» را در سراسر اکوسیستم خود «واترمارک» کند.
به گفته این شرکت، متن دارای یک واترمارک آماری نامرئی خواهد بود، در حالی که فرمتهای تصویری پشتیبانی شده (مانند PNG، JPG یا SVG) فرادادههای امضا شدهای را دریافت میکنند که نشان میدهد Claude در این کار مشارکت داشته است.
هوش مصنوعی مولد در نوشتار، موسیقی، هنر، نرمافزار و تقریباً هر چیز دیجیتالی گسترش یافته است. برای بسیاری، کار را سریعتر و ارزانتر کرده است. برعکس، نگرانیهای جدی در مورد استفاده و امنیت غیرمسئولانه نیز ایجاد کرده است. استفاده از هوش مصنوعی برای تولید کامل مقالات دانشگاهی یا در قراردادهای محتوایی که هوش مصنوعی به صراحت مجاز نیست، نگرانیهای معتبری هستند. سپس موارد کماهمیتتری وجود دارد که افراد متوجه میشوند آهنگ یا ویدیوی تأثیرگذاری که تحسین میکردند، از ابتدا به طرز فریبندهای توسط هوش مصنوعی تولید شده است.
با این حال، مسئله بسیار بزرگتر در مورد امنیت است. محتوای تولید شده توسط هوش مصنوعی آنقدر قدرتمند شده است که شناسایی آن به طور فزایندهای دشوار میشود. البته که ویدیوی یک گربه عضلانی که در حال قدم زدن روی ماه در اقیانوس است، حساب نمیشود، اما ویدیویی از یک چهره عمومی که خواستار خشونت یا یک سند …
