بازار
برنامه‌های هوش مصنوعی مولد و مدل‌های زبانی بزرگی که زیربنای آنها هستند، هر روز پیشرفته‌تر می‌شوند و استفاده از آنها دیگر به مهارت‌های فنی قابل‌توجه یا سرمایه‌گذاری زیاد نیاز ندارد. این ابزارها علاوه بر ساخت چهره‌های مجازی بسیار واقع‌گرایانه با توانایی گفت‌وگوی شبیه انسان، اکنون می‌توانند با استفاده از حجم کمی از محتوای موجود در اینترنت، چهره یا صدای افراد واقعی را به‌گونه‌ای متقاعدکننده بازسازی کنند.
با این حال، آگاهی عمومی درباره کاربرد دیپ‌فیک در ارتکاب جرم همچنان پایین است. در گذشته، تهدید ناشی از محتوای مصنوعی بیشتر متوجه چهره‌های سرشناس تلقی می‌شد، اما اکنون شهروندان عادی نیز به‌طور فزاینده‌ای هدف این جرایم قرار می‌گیرند. کلاهبرداری‌های سرمایه‌گذاری، جعل هویت، کلاهبرداری‌های عاطفی، اخاذی جنسی، تولید تصاویر مستهجن جعلی با دیپ‌فیک و انتشار اطلاعات نادرست از جمله این موارد هستند.
برای مثال، ممکن است فردی با تماس تصویری از سوی همکارش مواجه شود که در واقع هویتش جعل شده و درخواست انتقال وجه بانکی دارد؛ یا تماسی از یکی از اعضای خانواده دریافت کند که ظاهراً در موقعیتی اضطراری قرار گرفته است. همچنین ممکن است یک رابطه عاطفی آنلاین، واقعی و قابل اعتماد به نظر برسد، در حالی که طرف مقابل با هویت جعلی فعالیت می‌کند. هدف نهایی این کلاهبرداری‌ها، سرقت اطلاعات شخصی حساس یا پول قربانیان است.
توشینوبو یاسوهیرا، مدیر مرکز نوآوری اینترپل، در این‌باره گفت:
«هوش مصنوعی نشانه‌های آشکار کلاهبرداری را از بین می‌برد. اشتباهات املایی، ناهماهنگی در نشان‌های تجاری و قالب‌بندی نامناسب، دیگر مانند گذشته نشانه‌های قابل اتکایی نیستند و به‌سرعت در حال ناپدید شدن‌اند.
هر کسی، صرف‌نظر از سن، منطقه جغرافیایی یا حوزه فعالیت، ممکن است قربانی این کلاهبرداری‌ها شود. تلاش اینترپل در این زمینه آن است که دانش و منابع لازم را در اختیار نیروهای مجری قانون و عموم مردم قرار دهد تا بتوانند این تهدیدها را شناسایی کنند و پیش از وارد آمدن خسارت، اقدام مناسب انجام دهند.» …
