اجازه گوگل برای حذف واترمارک‌های هوش مصنوعی - مردم سالاری آنلاین

بنابراین به زودی یک دکمه برای مدل‌های «Nano Banana»، «Omni» و «Lyria» که همگی از آیکون جرقه‌ای آشنا برای نشان دادن محتوای تولید شده توسط هوش مصنوعی استفاده می‌کنند، در دسترس خواهد بود تا این واترمارک را قابل حذف کند.

این دکمه همچنین در آینده برای جمینای(Gemini) و ویرایشگر ویدیوی «Flow» نیز ارائه خواهد شد.

این نوع دکمه‌ها، کل هدف واترمارک‌های قابل مشاهده را نقض می‌کنند، زیرا آنها وجود دارند تا به مردم راهی سریع برای تشخیص محتوای تولید شده توسط هوش مصنوعی ارائه دهند. با این حال، کاربران هنوز روش‌های کمی سخت‌تری برای شناسایی این نوع محتواها خواهند داشت.

این اقدام بر واترمارک نامرئی SynthID و فراداده C2PA تأثیری نخواهد گذاشت، زیرا هیچ دکمه‌ای برای خاموش کردن آنها وجود ندارد. با این حال، هر دوی اینها نیاز دارند که کاربر برای رسیدن به اصل مطلب، اقدامی مانند درخواست از یک چت‌بات یا آپلود در یک پورتال انجام دهد.

وودوارد می‌گوید که گزینه واترمارک تقریباً در همه جا، به جز در کشورهایی که طبق قانون ملزم به حفظ آنها هستند، در حال اجرا است. این شامل اتحادیه اروپا نیز می‌شود که اخیراً قوانین جدیدی در مورد شفافیت هوش مصنوعی اعلام کرده است که واترمارک‌های قابل مشاهده را بر روی هر محتوای دیپ‌فیک «با ظاهر معتبر» الزامی می‌کند. کره جنوبی نیز اوایل امسال اقدام مشابهی انجام داد.

تغییر موضع گوگل نشان دهنده رویکرد همواره در حال تکامل این صنعت در برچسب‌گذاری محتوای تولیدشده توسط هوش مصنوعی است. واترمارک‌های قابل مشاهده ابزاری عالی برای کمک به افراد عادی در شناسایی سریع دیپ‌فیک‌ها هستند که به نوبه خود می‌تواند به ما در زندگی در یک واقعیت مشترک کمک کند. با این حال، آنها می‌توانند مانعی برای کسانی باشند که از ابزارهای هوش مصنوعی برای کارهای خلاقانه استفاده می‌کنند.

وودوارد می‌گوید: ما در اینجا بین کنترل خلاقانه و ایمنی تعادل برقرار می‌کنیم.

این آخرین خبر مربوط به واترمارک است که بر دنیای هوش مصنوعی تأثیر می‌گذارد. پلتفرم هوش مصنوعی سونو(Suno) به تازگی از «ابزارهای شفافیت» جدیدی خبر داده است که شامل نوعی سیستم برچسب‌گذاری است که نشان می‌دهد آیا یک آهنگ هنگام ظاهر شدن در پلتفرم دیگری توسط هوش مصنوعی تولید شده است یا خیر.

شرکت آنتروپیک(Anthropic) نیز به تازگی اقدام نسبتاً بزرگی انجام داده و اعلام کرده است که در حال اضافه کردن واترمارک‌های نامرئی مبتنی بر C2PA به متن‌ها و فایل‌های تولیدشده توسط هوش مصنوعی کلود(Claude) است. این اقدام در راستای رعایت مقررات اتحادیه اروپا است که پیش‌تر به آن اشاره شد.