به گزارش توسعه برند؛ مایکروسافت در برنامههای Paint و Photos روی رایانههای مجهز به Copilot+، روشی مخفی برای علامتگذاری تصاویر تولیدشده با هوش مصنوعی به کار گرفته است که میتواند ارتباط تصویر با کاربر را آشکار کند.
این موضوع را شوشنگ لی (Xusheng Li)، توسعهدهنده نرمافزار در شرکت امنیتی Vector ۳۵، هنگام بررسی عملکرد این قابلیت کشف کرده است. یافتههای او نشان میدهد که پیش از آنکه Paint یک تصویر را تولید کند، دستور یا متن واردشده توسط کاربر به سرورهای مایکروسافت ارسال میشود تا از نظر محتوای ممنوع یا نامناسب بررسی شود.
اما ماجرا به بررسی ایمنی محتوا ختم نمیشود. طبق این بررسی، مایکروسافت پس از انجام این کنترل، یک شناسه واترمارک منحصربهفرد به برنامه Paint ارسال میکند و این شناسه بهصورت مخفیانه در پیکسلهای تصویر قرار میگیرد.
به این ترتیب، حتی تصویری که ظاهراً روی خود رایانه و بهصورت محلی تولید شده است، میتواند دارای اطلاعاتی باشد که ارتباط آن با کاربر را مشخص میکند. تصاویر تولیدشده در رایانه هم کاملاً محلی نیستند
نکته مهم این کشف، نحوه عملکرد سیستم است. کاربر ممکن است تصور کند تصویری که با ابزارهای هوش مصنوعی Paint روی رایانه خود ایجاد کرده، کاملاً محلی و بدون ارتباط با حساب کاربری او تولید شده است؛ اما فرآیند بررسی نشان میدهد که دستکم بخشی از این فرایند با زیرساختهای مایکروسافت در ارتباط است.
لی در جریان مهندسی معکوس این قابلیت متوجه شده است که Paint پیش از تولید تصویر، درخواست کاربر را برای بررسی ایمنی ارسال میکند. سپس شناسهای اختصاصی از سمت مایکروسافت دریافت میشود و Paint آن را به شکل پنهان در تصویر قرار میدهد.
«Paint حتی میتواند واترمارک مخفی را بهصورت محلی ایجاد کند.»
همین موضوع باعث شده نگرانیهایی درباره حریم خصوصی و قابلیت ردیابی تصاویر تولیدشده با هوش مصنوعی مطرح شود؛ بهخصوص در شرایطی که کاربر تصور میکند تولید تصویر بهصورت کاملاً محلی روی رایانه انجام شده است. شناسه مخفی چه معنایی دارد؟
بر اساس یافتههای منتشرشده، شناسهای که در تصویر قرار میگیرد با حساب کاربری مایکروسافت مرتبط است. بنابراین تصویر تولیدشده صرفاً یک فایل تصویری معمولی نیست و میتواند حاوی اطلاعاتی باشد که امکان ارتباط آن با حساب ایجادکننده را فراهم میکند.
این روش با واترمارکهای معمولی که برای مشخص کردن منبع یک تصویر استفاده میشوند تفاوت دارد. کاربر ممکن است اصلاً متوجه وجود این شناسه نشود، زیرا این اطلاعات به شکل قابل مشاهده روی تصویر قرار نمیگیرد.
کشف این قابلیت بار دیگر بحث درباره نحوه استفاده شرکتهای فناوری از واترمارکهای نامرئی و شناسههای قابل ردیابی در محتوای تولیدشده با هوش مصنوعی را جدیتر کرده است.
“”توسعه برند را در اینستاگرام و تلگرام و لینکدین دنبال کنید””
در حال حاضر، یافتههای منتشرشده مربوط به بررسی عملکرد Paint روی رایانههای Copilot+ است و پرسش اصلی این است که این شناسه دقیقاً چه اطلاعاتی را در خود جای میدهد، چه کسی میتواند آن را استخراج کند و آیا امکان حذف یا تغییر آن وجود دارد یا خیر.
مایکروسافت تاکنون درباره جزئیات فنی این سازوکار و نحوه ارتباط شناسه تولیدشده با حساب کاربری، توضیحات کاملی ارائه نکرده است. برچسب هابرند مایکروسافت برندهای فناوری هوش مصنوعی کپی لینک کوتاه لینک کپی شد
