به گزارش bbc، هوش مصنوعی اکنون در تولید تصاویر واقعگرایانه تا اندازهای پیشرفت کرده است که تشخیص این که چه چیزی واقعی است و چه چیزی نیست، روزبهروز دشوارتر میشود.
اما آیا میتوان به افراد آموزش داد تا تصویر یک انسان را که در واقع توسط یک ماشین ساخته شده است تشخیص دهند؟
این پرسشی است که دکتر کلر ساترلند از دانشگاه آبردین و همکار استرالیایی او در حال بررسی آن بودهاند.
در گذشته تشخیص تصاویر تولید شده توسط رایانه بسیار آسانتر بود. تصاویری که اغلب کلاهبرداران از آنها استفاده میکردند، چون هوش مصنوعی اشتباههایی مانند اضافه کردن یک انگشت اضافی یا مواردی دیگر که به وضوح غیرعادی بودند، مرتکب میشد.
اما هوش مصنوعی از اشتباههای خود یاد میگیرد.
امی داول، استاد دانشگاه، توضیح میدهد: «آموزش برای تشخیص نشانههای بصری، مانند جستجوی انگشت ششم یا گوشوارههای عجیب، موفقیت محدودی داشته است. بخشی از دلیل آن این است که هوش مصنوعی بیش از حد خوب شده است و کلاهبرداران نیز ممکن است از تصاویری با نقصهای آشکار استفاده نکنند.»
او همان زنی است که موهایش تا روی شانههایش میرسد و تصویرش در عکسی که دکتر کلر ساترلند در دست دارد دیده میشود. تصویر مرد، تصویر جعلی است.
خانم داول مدیر آزمایشگاه احساسات و چهرههای دانشگاه ملی استرالیا است.
او هدایت گروهی از پژوهشگران در استرالیا، کانادا و بریتانیا را بر عهده داشته است تا بررسی کنند آیا میتوان به افراد آموزش داد که فریبکاران هوش مصنوعی را شناسایی کنند.
پاسخ، دستکم در حال حاضر، مثبت است. اما یادگیری تشخیص تصاویر جعلی هوش مصنوعی به رویکردی ظریفتر نیاز دارد.
تصاویر واقعی از گتی / تصاویر هوش مصنوعی از دانشگاه ملی استرالیا که با استفاده از StyleGAN3 تولید شدند.
ایجاد حس تشخیص تصاویر جعلی
دکتر کلر ساترلند هدایت بخش پژوهش مستقر در بریتانیا را در دانشگاه آبردین بر عهده دارد.
او گفت متوجه شده بودند که تنها با نگاه کردن به چهرهها، به تدریج نوعی حس نسبت به واقعی یا تولید شده با هوش مصنوعی بودن آنها پیدا میکنند.
او گفت: «بنابراین فکر کردیم بسیار جالب خواهد بود اگر ببینیم آیا میتوانیم این توانایی را به افراد دیگر نیز آموزش دهیم.»
برای انجام آزمایشها، مجموعهای شامل هزاران چهره تولید شده با هوش مصنوعی با استفاده از ابزار تولید تصویر هوش مصنوعی موسوم به استایل جیایان۳ ساخته شد. یکی از واقعگرایانهترین تولید کنندههای چهره که در دسترس است.
شرکتکنندگان پیش و پس از دریافت آموزش مورد آزمایش قرار گرفتند. به آنها آموزش داده شد که به دنبال چه چیزهایی باشند؟
پژوهشگران با جلب توجه شرکتکنندگان به شش ویژگی ادراکی، به آنها آموزش دادند: تقارن ـ هوش مصنوعی اغلب در بازسازی ویژگیهای ظریفی که ما را انسان میکند ناکام میماند. مانند افتادگی خفیف یکی از پلکها یا لبخندی که کاملا متقارن نیست. «اگر چیزی بیش از حد عالی به نظر برسد، احتمالا واقعی نیست.» تناسب ـ مفهومی مشابه. بینیهای بسیار بزرگ یا گوشهای بیش از حد بیرونزده معمولا در تصاویر دیپفیک دیده نمیشوند. جذابیت ـ دکتر کلر ساترلند توضیح میدهد: «چهرههای تولیدشده با هوش مصنوعی معمولا جذابتر به نظر میرسند. این مورد ذهنیتر است و به قضاوت زیباییشناختی مربوط میشود، اما هوش مصنوعی اغلب چهرههایی میسازد که ظاهر دلپذیری دارند.» تمایز ـ «این میتواند چیزی مانند این باشد که چه ویژگی باعث میشود یک چهره در میان جمعیت برجسته شود؟ چهرههای هوش مصنوعی معمولا به سمت میانگین گرایش دارند، بنابراین اندکی کلیشهایتر و عمومیتر به نظر میرسند.» بیان احساس ـ دکتر کلر ساترلند میگوید: «چهرههای هوش مصنوعی معمولا احساسات را کمتر بروز میدهند. آنها معمولا هیجان کمتری نشان میدهند.» بهیادماندنی بودن ـ «این چهرهها اغلب کمتر در ذهن میمانند و به خاطر سپردنشان دشوارتر است.»
همچنین هوش مصنوعی در بازسازی چهرههای افراد غیر سفیدپوست یا افراد مسنتر یا کم سنتر مهارت کمتری دارد، چون بخش بیشتری از دادههای آموزشی آن شامل افراد جوان سفیدپوست است.
برخی از این توصیهها ممکن است بسیار شبیه به هم و «مبهم» به نظر برسند، اما دقیقا نکته همین است.
به ندرت با نشانهای کاملا قطعی روبهرو خواهید شد که یک تصویر جعلی هوش مصنوعی را افشا کند. بلکه موضوع این است که نسبت به ویژگیهای این تصاویر حساس شوید و نوعی حس درونی نسبت به آنها پیدا کنید.
پژوهشگران دریافتند که اگر افراد در معرض تصاویر واقعی و تصاویر تولید شده با هوش مصنوعی قرار گیرند و سپس به آنها گفته شود کدام واقعی و کدام جعلی است، توانایی تشخیص آنها به طور قابل توجهی بهتر میشود. حتی در مدت زمانی حدود یک ساعت.
پژوهشگران دریافتند که امتیاز دقت شرکتکنندگان معمولا از حدود ۴۰ درصد به ۸۰ درصد افزایش پیدا میکند.
چند نفر از شرکتکنندگان به دقتی نزدیک به ۱۰۰ درصد دست یافتند.
نکته جالب این است که کاری که مغز انسان در اینجا انجام میدهد، مشابه روشی است که مدلهای مولد هوش مصنوعی عمل میکنند.
اگر داده کافی برای آموزش در اختیار آنها قرار گیرد، به مرور زمان دقتشان افزایش مییابد، حتی اگر ما کاملا ندانیم این کار را چگونه انجام میدهند.
این پژوهشها همچنین بررسی کردند که شرکتکنندگان تا چه اندازه در تشخیص تصاویر تولید شده با هوش مصنوعی به خود اطمینان داشتند.
پژوهشهای پیشین نشان داده بود که افراد بیش از اندازه به توانایی خود در تشخیص چهرههای هوش مصنوعی اطمینان دارند و کسانی که بیشترین اعتماد بهنفس را داشتند، بیشترین اشتباه را نیز مرتکب میشدند.
پس از آموزش، مشخص شد که اعتماد بهنفس شرکتکنندگان در تشخیص دیپفیکها افزایش یافته است. چرا یادگیری تشخیص یک تصویر جعلی هوش مصنوعی اهمیت دارد؟
خطر آشکار، کلاهبرداری است.
شرکت مشاوره جهانی دیلویت پیشبینی کرده است که زیان ناشی از کلاهبرداریهای دیپفیک هوش مصنوعی تنها در آمریکا ممکن است سال آینده به ۴۰ میلیارد پوند برسد. در حالی که این رقم در سال ۲۰۲۳، دوازده میلیارد پوند بوده است.
در این گزارش به نمونهای از یک کلاهبرداری اشاره شده است که در آن یکی از کارکنان یک شرکت مستقر در هنگکنگ پس از یک تماس ویدیویی با نسخه دیپفیک رئیس خود، مبلغ ۲۵ میلیون پوند را به کلاهبرداران منتقل کرد.
کاربرد نگرانکننده دیگر فناوری دیپفیک، جاسوسی سیاسی است.
در سال ۲۰۱۹، تحقیق خبرگزاری آسوشیتدپرس نشان داد که به نظر میرسد یک حساب کاربری در لینکدین، شامل عکس، متعلق به زنی به نام کیتی جونز ساختگی بوده است.
کیتی جونز خود را متخصص روسیه و اوراسیا معرفی میکرد و مدعی بود با اندیشکدهها و محافل سیاستگذاری برجسته واشنگتن ارتباط دارد.
گزارش آسوشیتدپرس مدعی شد که او در واقع یک دیپفیک بوده که توسط سازمان اطلاعات روسیه تولید شده و توانسته بود با دستیاران ارشد سیاسی آمریکا و مقامهای امنیت ملی ارتباط برقرار کند.
در استرالیا، یک سیاستمدار در حال حاضر پیشنهاد کرده است که محتوای سیاسی تولید شده با هوش مصنوعی باید همراه با افشای این موضوع و نیز «واترمارک» منتشر شود.
دکتر کلر ساترلند، برای رعایت انصاف در قبال هوش مصنوعی، کاربردهای مثبتی نیز برای این فناوری میبیند. از جمله این که میتوان با سرعت و هزینه کم نشان داد کودکی که سالها مفقود بوده است، ممکن است در سنین مختلف چه ظاهری داشته باشد.
او میگوید اگر افراد «با حسن نیت از آن استفاده کنند و مردم بدانند که از هوش مصنوعی استفاده شده است، این فناوری میتواند برای فعالیتهای خلاقانه بسیار مفید باشد.»
بنابراین خبر خوب این است که هنوز در دنیایی تیره و تار زندگی نمیکنیم که در آن تشخیص واقعیت از تصاویر تولید شده با رایانه غیرممکن باشد.
اما خبر بد این است که مدلهای هوش مصنوعی ممکن است همین حالا نیز مقالههای علمی منتشرشده را «خوانده» باشند. و در حال یادگیری هستند. پربیننده ترین پست همین یک ساعت اخیر انریک میرالس؛ معمار بزرگی که در 45 سالگی از ادامه مسیر بازماند (+تصاویر) نظرات کاربران خبر قبل اشتراک گذاری : بوی تعفن راز جنایتی را فاش کرد بیشتر بخوانید: عکسی که با 370 هزار لایک سوژه خنده کاربران شبکه های اجتماعی شده است! این تصویر من نیست ؛ بزرگ ترین مشکلی که با هوش مصنوعی خواهیم داشت تماشاخانه بحران لکههای نفتی در قشم / چطور به ساحل ایران آمدهاند؟ بوی بد و محیط زیست در خطر چوب پرانی کنار حرم امام رضا (ع) / چرا اتفاق افتاد؟ داخل حرم بود یا بیرون آن؟ فیلم های دیگر عضویت در اینستاگرام عصر ایران ۱۵ سال پیش در چنین روزی این لحظه با حافظ گلستان سعدی آموزش زبان انگلیسی آپارات عصر ایران اپلیکیشن عصر ایران
