گوگل اعلام کرده است بهزودی امکان حذف واترمارکهای قابل مشاهده از تصاویر و ویدئوهای تولیدشده با هوش مصنوعی را در اختیار کاربران قرار میدهد. این اقدام میتواند بحثهای تازهای درباره تعادل میان آزادی عمل کاربران، استفاده خلاقانه از هوش مصنوعی و ضرورت شناسایی محتوای جعلی و دیپفیک ایجاد کند.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، جاش وودوارد معاون گوگل اعلام کرده است که کاربران بهزودی میتوانند نمایش واترمارکهای قابل مشاهده روی محتوای تولیدشده توسط برخی مدلهای هوش مصنوعی این شرکت را غیرفعال کنند. این قابلیت ابتدا برای مدلهای Nano Banana، Omni و Lyria ارائه خواهد شد و در آینده به Gemini و ویرایشگر ویدئویی Flow نیز خواهد رسید.
این واترمارکها همان نماد درخشان یا Sparkle هستند که روی محتوای تولیدشده با ابزارهای هوش مصنوعی گوگل نمایش داده میشوند و به کاربران کمک میکنند در نگاه نخست متوجه شوند یک تصویر یا ویدئو توسط هوش مصنوعی ساخته شده است. حذف واترمارک اما نه همه نشانههای هوش مصنوعی
تصمیم جدید گوگل به معنای حذف کامل سازوکارهای شناسایی محتوای تولیدشده با هوش مصنوعی نیست. این شرکت تاکید کرده است که غیرفعال کردن واترمارک قابل مشاهده واترمارک نامرئی SynthID و همچنین فراداده C۲PA را تحت تاثیر قرار نمیدهد.
SynthID فناوری اختصاصی گوگل برای درج نشانههای نامرئی در محتوای تولیدشده با هوش مصنوعی است. این نشانه بهگونهای طراحی شده که بدون تغییر محسوس در ظاهر محتوا امکان شناسایی منشأ آن را فراهم کند.
از سوی دیگر استاندارد C۲PA نیز اطلاعات مربوط به منشا و سابقه تولید و ویرایش یک محتوای دیجیتال را در قالب فراداده ثبت میکند؛ بنابراین حتی اگر کاربر واترمارک قابل مشاهده را خاموش کند برخی روشهای فنی برای بررسی منشأ محتوای تولیدشده همچنان فعال خواهند بود.
با این حال تفاوت مهم این است که شناسایی SynthID یا بررسی اطلاعات C۲PA معمولا به اقدام بیشتری از سوی کاربر نیاز دارد، برای مثال کاربر باید از یک ابزار تشخیص استفاده کند، محتوای موردنظر را در یک سامانه بارگذاری کند یا از یک چتبات درباره منشا آن سؤال کند. در مقابل، واترمارک قابل مشاهده بدون نیاز به ابزار خاص در همان نگاه اول قابل تشخیص است.