به گزارش هفت صبح پیشتر مشخص شد یوتیوب بدون درخواست کاربران، ویدئوهای آنها را با هوش مصنوعی ویرایش میکند؛ اما چنین رویکردی فقط به یوتیوب محدود نمیشود.
شبکه اجتماعی ایکس ــ همان توییتر سابق که اکنون تحت مدیریت ایلان ماسک قرار دارد ــ نیز از دادههای کاربران برای آموزش هوش مصنوعی خود استفاده کرده است. ماسک حتی پیشتر به کارکنان اسپیسایکس گفته بود که دادههای این شرکت برای آموزش جدیدترین مدلهای هوش مصنوعی Grok به کار گرفته میشود.
اگرچه برخی شرکتها شیوه آغاز فرایند آموزش مدلهای هوش مصنوعی خود را چندان شفاف اعلام نکردهاند، بعضی دیگر رویکردی بهمراتب بحثبرانگیزتر در پیش گرفتهاند؛ مانند توییچ.
تازهترین جنجال حوزه هوش مصنوعی به تصمیم توییچ برای استفاده از محتوای استریمرها در آموزش مدلهای هوش مصنوعی آمازون مربوط میشود. این شرکت بهجای اطلاعرسانی شفاف و فراهمکردن امکان مشارکت اختیاری، این قابلیت را بهصورت پیشفرض فعال کرده و بیسروصدا آموزش مدلها با محتوای استریمرها را آغاز کرده است؛ بنابراین کاربران باید شخصاً برای غیرفعالکردن آن اقدام کنند.
اما چرا توییچ چنین روشی را انتخاب کرده است؟ مایک مینتون، مدیر ارشد محصول این شرکت، پاسخی صریح و ساده ارائه کرده است:
> «اگر این قابلیت اختیاری و نیازمند فعالسازی بود، هیچکس آن را فعال نمیکرد.»
هیچکس نمیخواهد محتوایش در اختیار هوش مصنوعی قرار بگیرد
نگرانیها درباره هوش مصنوعی و تأثیر کلی آن بر اقتصاد طی ماههای اخیر افزایش یافته است؛ آن هم در شرایطی که ایالات متحده با تصویب قوانین مختلف، تلاش میکند زمینه مساعدتری برای احداث مراکز داده فراهم کند.
این نگرانیها در کنار گزارشهای دیگری درباره نحوه استفاده از محتوا برای آموزش مدلهای هوش مصنوعی قرار میگیرند؛ از جمله جنجال اخیر آنتروپیک که براساس گزارشها، کتابهای کمیاب را خریداری و پس از دیجیتالیکردن برای آموزش Claude، آنها را نابود کرده بود. مجموعه این اتفاقات باعث شده است نگاه منفی مردم به هر موضوع مرتبط با هوش مصنوعی تشدید شود. تصمیم توییچ برای استفاده از محتوای کاربران در آموزش مدلهای آمازون، بدون کسب اجازه قبلی، نیز تنها بر شدت این نارضایتی افزوده است.
توییچ در یک پخش زنده که به توضیح تغییرات و گزینه جدید اختصاص داشت، به نگرانیهای مطرحشده واکنش نشان داد. مایک مینتون نیز در همین برنامه جمله یادشده را بیان کرد.
این پاسخ صریح و بیپرده، موجی از واکنشها را در فضای آنلاین به راه انداخت. برخی کاربران معتقدند توییچ بهخوبی میداند که مردم تمایلی ندارند محتوایشان برای آموزش هوش مصنوعی استفاده شود، اما این موضوع برای شرکت اهمیتی ندارد.
گروهی دیگر نیز نحوه اطلاعرسانی توییچ را از نظر حقوقی زیر سؤال بردهاند؛ زیرا این شرکت حتی برای کاربران تحتتأثیر، ایمیلی ارسال نکرده است. توییچ در توجیه این تصمیم گفته بود همه کاربران ایمیلهایشان را مطالعه نمیکنند.
ابهامها به همینجا ختم نمیشوند. از مینتون پرسیده شد توییچ چگونه با محتوای استریمشدهای برخورد خواهد کرد که افراد حاضر در آن، استفاده از محتوای خود برای آموزش هوش مصنوعی را غیرفعال کردهاند. او نتوانست پاسخ مشخصی ارائه دهد و فقط گفت:
> «سؤال خوبی است.»
مینتون همچنین توضیح داد که فعلاً برنامهای وجود ندارد تا دیگران بتوانند ببینند چه کسی با استفاده از محتوای خود برای آموزش هوش مصنوعی موافقت یا مخالفت کرده است.
امکان غیرفعالسازی وجود دارد، اما پیداکردن آن چندان آسان نیست
استفاده شرکتها از دادههای کاربران برای آموزش الگوریتمها موضوع جدیدی نیست. حتی پیش از فراگیرشدن هوش مصنوعی به شکل امروزی، شرکتها همواره بهدنبال راههایی بودند تا از دادههای کاربران برای آموزش و بهبود الگوریتمها و سامانههای خود استفاده کنند.
بااینحال، ظهور هوش مصنوعی مولد این مسئله را به نگرانی بزرگتری تبدیل کرده است؛ زیرا در بسیاری از مواقع، محتوای کاربران صرفاً برای بهبود خدماتی که هماکنون از آنها استفاده میکنند به کار نمیرود. در عوض، این محتوا برای آموزش و ارتقای خود مدل استفاده میشود تا بتواند بهطور مستقل محتوای جدید تولید کند.
براساس صفحه پرسشهای متداول توییچ، این شرکت ممکن است انواع محتوای کانالها را برای آموزش مدلهای آینده آمازون به کار بگیرد. این محتوا شامل موارد زیر میشود:
- استریمهای زنده
- ویدئوهای ذخیرهشده یا VOD
- پیامهای ردوبدلشده در چت استریمها
- تصاویر موجود در کانال
- متنهای منتشرشده در کانال
این دادهها ممکن است برای آموزش مدلهایی استفاده شوند که توانایی تولید متن، تصویر، صدا و ویدئو را دارند. بنابراین، محتوای یک استریمر میتواند مستقیماً برای آموزش مدل مولد ویدئویی بعدی آمازون به کار گرفته شود؛ موضوعی که احتمالاً برای بسیاری از کاربران خوشایند نخواهد بود.
چگونه استفاده از محتوای توییچ برای آموزش هوش مصنوعی را غیرفعال کنیم؟
کاربرانی که نمیخواهند محتوایشان برای آموزش مدلهای هوش مصنوعی استفاده شود، میتوانند این قابلیت را با طیکردن مراحل زیر غیرفعال کنند:
1. روی نماد حساب کاربری در گوشه بالا سمت راست صفحه کلیک کنید.
2. از فهرست بازشده، گزینه Settings را انتخاب کنید.
3. وارد بخش Security and Privacy شوید.
4. صفحه را تا انتها به پایین پیمایش کنید.
5. گزینه Training for Generative AI را پیدا کنید.
6. کلید کنار این گزینه را خاموش کنید.
پس از انجام این مراحل، توییچ نباید از محتوای کانال برای آموزش مدلهای هوش مصنوعی مولد استفاده کند.
البته توییچ تأکید کرده است که غیرفعالکردن این گزینه، کاربران را از قابلیتهای مبتنی بر هوش مصنوعی این پلتفرم خارج نمیکند. همچنین ممکن است محتوای آنها همچنان برای بهبود همان قابلیتهای هوشمند مورد استفاده قرار گیرد.
