در نگاه اول، این عکس یک صحنه زمستانی دلچسب به نظر می‌رسد: دو سگ که در برف بازی می‌کنند و صاحبشان از آن‌ها مراقبت می‌کند. شخصی که با یک کت ضخیم و کلاه بافتنی در پس‌زمینه ایستاده، کاملاً طبیعی به نظر می‌رسد، درست است؟ اما دست نگه دارید، زیرا هیچ انسانی در این تصویر وجود ندارد! این تنها یک خطای دید است …

تکنولوژی دیپ‌فیک به سطحی رسیده که تمایز میان واقعیت و جعل برای افراد عادی تقریباً غیرممکن شده است. سیستم جدید ByteDance قادر است تنها با استفاده از یک عکس و یک کلیپ صوتی، ویدئوهای کاملاً مصنوعی تولید کند که به طرز شگفت‌انگیزی واقعی به نظر می‌رسند. این مدل حتی می‌تواند حرکات بدن و ژست‌ها را در ویدئوهای …

گزارش‌های جدید نشان می‌دهد که سیستم هوش مصنوعی دیپ‌سیک در برابر تکنیک‌های امنیتی عملکرد ضعیفی داشته و به‌راحتی قابل فریب است. بر اساس آزمایش‌های انجام‌شده توسط...

هوش مصنوعی یاد گرفته دروغ بگوید، از خاموش شدن فرار کند، قوانین را دور بزند. از طرفی الگوریتم‌ها نیز برای فریب ما بهینه شده‌اند! آیا هوش مصنوعی، بی‌سروصدا در حال گرفتن کنترل است؟

دیپ‌سیک هیچ توکن یا ارز دیجیتالی منتشر نکرده است. تنها یک حساب رسمی در توییتر داریم و با هیچ حساب دیگری در ارتباط نیستیم. لطفاً هوشیار باشید و فریب کلاهبرداری‌های احتمالی را نخورید.

زنی که فریب کلاهبردار آنلاین را خورد و ۷۰۰,۰۰۰ پوند از دست داد، اکنون با افسردگی شدید، بی‌خانمانی و وضعیت مالی بد روبه‌روست.

دنیای اقتصاد: در یک رویداد تکان‌دهنده، یک زن فرانسوی فاش کرده که با استفاده از هوش مصنوعی و جعل هویت برد پیت، بازیگر مشهور هالیوود، بیش از ۸۰۰هزار یورو از او کلاهبرداری شده است. این کلاهبرداران ماه‌ها با ارسال تصاویر و پیام‌های جعلی که با هوش مصنوعی تولید شده بود، این زن را فریب داده و او را متقاعد کردند …

برد پیت به تازگی به کلاهبرداری ۸۰۰ هزار یورویی از یک زن فرانسوی که فریب هویت جعلی او را خورده بود، واکنش نشان داد و این اقدام را وحشتناک خواند. کلاهبرداران با استفاده از هوش مصنوعی، این زن را متقاعد به پرداخت این مبلغ کرده بودند.

برد پیت به تازگی به کلاهبرداری ۸۰۰ هزار یورویی از یک زن فرانسوی که فریب هویت جعلی او را خورده بود، واکنش نشان داد و این اقدام را «وحشتناک» خواند.

کلاهبرداران با خلق چت‌باتی از شخصیت برد پیت و تصاویر جعلی از او، ۸۵۰ هزار دلار به جیب زدند.

در دنیای امروز که هر روز سیلی از اطلاعات به ما هجوم می‌آورد، تشخیص حقیقت از دروغ کار سختی شده است. هوش مصنوعی با قدرتی که در تولید اخبار جعلی و تنظیم الگوریتم‌های جهت‌دار دارد، به یک ابزار بی‌رحم در دست کسانی تبدیل شده که می‌خواهند واقعیت را به دلخواه خود تغییر دهند. در چنین فضایی، توانایی تفکر انتقادی …

روزنامه بریتانیایی «گاردین» نوشت موتور جست‌وجوی «چت‌جی‌پی‌تی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه‌اندازی شد

دیلی تلگراف نوشت: یک تحقیق از روزنامه تلگراف نشان داده است که یک چت‌بات هوش مصنوعی به نام Character AI که بیش از 20 میلیون کاربر دارد، به نوجوانان توصیه‌هایی برای قتل قلدرهای مدرسه و انجام تیراندازی در مدارس می‌دهد. این چت‌بات که به همه افراد بالای 13 سال دسترسی دارد، راه‌کارهایی برای از بین بردن شواهد …

گزارش‌ها حاکی از این هستند که «چت‌جی‌پی‌تی سرچ» در خطر فریب خوردن قرار دارد و ممکن است اطلاعات اشتباه را ارائه دهد.

تهران- ایرنا- گروهی از پژوهشگران علم رباتیک‌، رباتی جدید به شکل موش ساختند که برای تعامل اجتماعی با موش‌های واقعی طراحی شده است.

ظاهراً نسخه جدید ChatGPT در موارد بیشتری اقدام به دستکاری داده‌ها و ارائه پاسخ‌های غلط برای جلب رضایت کاربران می‌کند.

در حدود یک سال گذشته مدل‌های بزرگ زبانی زیر ذره‌بین محققان قرار گرفته‌اند، پژوهشگران روش‌های مختلفی برای فریب آنها یافتند و خروجی‌های مسئله سازی از جمله شوخی‌های نفرت‌انگیز، کدهای مخرب و ایمیل‌های فیشینگ تولید کردند یا حتی در مواردی توانستند به اطلاعات شخصی کاربران دسترسی پیدا کنند. حالا به نظر می‌رسد …

در حدود یک سال گذشته مدل‌های بزرگ زبانی زیر ذره‌بین محققان قرار گرفته‌اند، پژوهشگران روش‌های مختلفی برای فریب آنها یافتند و خروجی‌های مسئله سازی از جمله شوخی‌های نفرت‌انگیز، کد‌های مخرب و ایمیل‌های فیشینگ تولید کردند یا حتی در مواردی توانستند به اطلاعات شخصی کاربران دسترسی پیدا کنند. حالا به نظر می‌رسد …

ویدیو نجات خرس قطبی فقط در تیک‌تاک 125 میلیون بازدید داشته اما عکاسان روی خوشی به آن نشان نداده‌اند.

یک شرکت مخابراتی در انگلیس یک ربات گپ هوش مصنوعی در قالب مادربزرگی پرحرف برای فریب و تلف کردن وقت کلاهبرداران اینترنتی عرضه کرده است.

مدل جدید هوش مصنوعی توت‌فرنگی OpenAI با قابلیت‌های پیشرفته استدلال و متقاعدسازی، نگرانی‌هایی درباره فریب، سوءاستفاده و پیامدهای اخلاقی ایجاد کرده است.

اقتصادنیوز: گروهی از ناظران از عصر تازه در خاورمیانه می‌گویند و با استناد به توسعه حوزه‌های مرتبط با هوش مصنوعی بر این باورند که امروز پادشاهی‌ها فراتر از اختلاف‌های پیدا و پنهان‌شان با ایالات‌متحده و هم‌صدایی‌شان با پکن به واسطه اشتیاق‌شان به شرکت‌های آمریکایی فعال در هوش مصنوعی، در تلاش‌اند تا به‌نوعی …

Anthropic، سازنده‌ی مدل Claude AI، در حال بررسی سوءاستفاده‌های احتمالی از هوش مصنوعی برای فریب یا تخریب کاربران است. با افزایش هیجان پیرامون هوش مصنوعی مولد، نگرانی‌ها درباره استفاده ایمن از آن نیز افزایش یافته است.

بر اساس گزارش جدید مایکروسافت، تعداد حملات باج‌افزارانه در سراسر جهان طی سال ۲۰۲۳ بیش از دو برابر شد و هکرها تمایل دارند از ایمیل، پیامک و کلاهبرداری صوتی برای دسترسی به اطلاعات کاربران استفاده کنند. استفاده از هوش مصنوعی در حملات سایبری نیز در این سال افزایش یافت و مجرمان از محتوای تولید هوش مصنوعی …

در سال‌های اخیر، هوش مصنوعی به یکی از مباحث مهم در فناوری تبدیل شده و به صنایع مختلف از جمله ارزهای دیجیتال نفوذ کرده است. این فناوری با ارائه ابزارهایی برای جمع‌آوری و تحلیل داده‌ها، پیش‌بینی روندهای قیمتی و ثبت معاملات هوشمند، به معامله‌گران در کاهش ریسک و افزایش سود کمک می‌کند. با این حال، هوش مصنوعی …

یک کمپین کلاهبرداری گسترده با استفاده از هوش مصنوعی در حال هدف قرار دادن کاربران جیمیل است. این کلاهبرداران با تماس‌های تلفنی بسیار واقعی، سعی در فریب کاربران و دسترسی به اطلاعات شخصی آن‌ها دارند.

خط سلامت: ریحانه پارسا با انتشار ویدئویی مبهم در اینستاگرام، به مخاطبانش یادآوری کرد که همه چیز آن چیزی که در فضای مجازی دیده می‌شود، نیست.

FTC به‌عنوان بخشی از قانون Operation AI Comply در حال سرکوب شرکت‌هایی است که از هوش مصنوعی برای فریب یا کلاهبرداری از مشتریان استفاده می‌کنند.

حتی بازیگران هالیوود به اشتباه تصور کردند که با انتشار یک متن می‌توانند جلوی استفاده هوش مصنوعی متا از اطلاعات خود را بگیرند.

شرکت Apollo متوجه شده است که مدل جدید OpenAI-o ۱ مخاطب را فریب می‌دهد که گاهی اوقات نیز این فریب‌ها بی‌ضرر هستند.

از همین رو بسیار مهم است که اطلاعات نادرست تولیدشده توسط هوش مصنوعی را بررسی کنید که سؤالات بیشتری بپرسید

سرویس علم و فناوری ایسنا در روز پنجشنبه میزبان اخبار گوناگونی در حوزه‌های فضا، هوش مصنوعی، دانش‌بنیان، علم و فناوری بود.

شرکت Apollo متوجه شده است که مدل جدید OpenAI-o1 مخاطب را فریب می‌دهد که گاهی اوقات نیز این فریب‌ها بی‌ضرر هستند.

چت‌بات‌ها مانند ChatGPT با دستورالعمل‌ها و موانع حفاظتی طراحی شده‌اند که به‌عنوان مثال به سؤالات مربوط به ساخت بمب خانگی پاسخ نمی‌دهند. اما اکنون یک هکر راهی برای فریب دادن ChatGPT پیدا کرده است تا چت‌باتِ OpenAI دستورالعمل‌ها و مسئولیت‌های اخلاقی خود را برای ارائه آموزش تولید مواد منفجره نادیده بگیرد

رهبرانقلاب در دیدارهیأت دولت چهاردهم طی سخنانی تاکید کردند: امروز هوش مصنوعی با یک شتاب حیرت‌دهنده‌ای پیش می‌رود. الان دستگاه‌های مختلف ما از هوش مصنوعی استفاده می‌کنند، اما این ما را فریب ندهد. در مسأله هوش مصنوعی بهره‌بردار بودن امتیاز نیست، لایه‌های عمیقی دارد که باید در آن لایه‌ها مسلط شد. آن لایه‌ها …

رهبر انقلاب در دیدار هیأت دولت چهاردهم: امروز هوش مصنوعی با یک شتاب حیرت‌دهنده‌ای پیش می‌رود. الان دستگاه‌های مختلف ما از هوش مصنوعی استفاده می‌کنند، اما این ما را فریب ندهد. در مسأله هوش مصنوعی بهره‌بردار بودن امتیاز نیست، لایه‌های عمیقی دارد که باید در آن لایه‌ها مسلط شد. آن لایه‌ها دست دیگران است.

رهبر انقلاب در نخستین دیدار اعضای هیئت دولت چهاردهم: امروز هوش مصنوعی با یک شتاب حیرت‌دهنده‌ای یعنی انسان متحیر می‌شود از شتابی که این فناوری عجیب در دنیا پیدا کرده و دارد پیش میرود. خب، دستگاه‌های ما، الان دستگاه‌های مختلف ما، نظامی و غیرنظامی از هوش مصنوعی دارند استفاده می کنند بهره‌برداری می …

مهندسی اجتماعی با استفاده از Deep Fake یا جعل عمیق، به بهره‌برداری از تکنولوژی‌هایی مانند هوش مصنوعی و یادگیری عمیق برای ساخت ویدئوها و صداهای جعلی می‌پردازد. این تکنولوژی می‌تواند چهره، صدای افراد، و حتی حرکات آنها را شبیه‌سازی کند به طوری که تشخیص واقعی یا جعلی بودن آنها بسیار دشوار می‌شود. این امکان …

هوش مصنوعی مولد تصویر Flux به‌عنوان رقیب جدیدی برای میدجرنی، تصاویر واقع‌گرایانه‌ای ایجاد می‌کند که ممکن است زنگ خطر را برای همه به صدا دربیاورد.

در دادخواستی که به دادگاه فدرال کالیفرنیا ارائه شد، ماسک ادعا می‌کند که سم آلتمن، مدیرعامل اوپن‌ای‌آی و دیگران او را برای سرمایه‌گذاری ۴۴ میلیون دلاری در این شرکت فریب داده‌اند.

هوش مصنوعی اپل در نسخه بتا iOS 18.1، ایمیل‌های فیشینگ را به‌عنوان اولویت‌دار در اپلیکیشن Mail نشانه‌گذاری می‌کند.

هوش مصنوعی اپل در نسخه بتا iOS 18.1، ایمیل‌های فیشینگ را به‌عنوان اولویت‌دار در اپلیکیشن Mail نشانه‌گذاری می‌کند.

وکلای ایلان ماسک می‌گویند سم آلتمن و دیگر مؤسسان OpenAI این میلیاردر را فریب داده‌اند تا به تأسیس این استارتاپ هوش مصنوعی کمک کند.

هفته گذشته، مایکروسافت در وبلاگ خود وجود «کلید اسکلت» (Skeleton Key) یا «کلید اصلی» (Master Key) را تایید کرد که می‌تواند چت‌بات‌های محبوب هوش مصنوعی را

سرویس علم و فناوری ایسنا امروز سه‌شنبه ۲۹ خرداد میزبان اخبار جالبی از داخل کشور و همچنین اخبار قابل توجهی از سراسر جهان بوده است که مروری بر خلاصه‌ای از آنها خالی از لطف نخواهد بود.

یک مطالعه جدید نشان داده است که مردم در تشخیص GPT-4 با انسان‌ها تقلا می‌کنند و مدل هوش مصنوعی جدید GPT-4 تقریباً در ۵۰ از موارد از عملکرد انسانی پیشی می‌گیرد.

مطالعات اخیر مواردی را نشان می‌دهد که سیستم‌های هوش مصنوعی یاد می‌گیرند اطلاعات را دست‌کاری کنند و دیگران را فریب دهند. هوش مصنوعی خود را در جنبه‌های مختلف زندگی معاصر، از ساده‌سازی وظایف روزانه گرفته تا مقابله با مسائل پیچیده جهانی، جای داده است.

مطالعات اخیر مواردی را نشان می‌دهد که سیستم‌های هوش مصنوعی یاد می‌گیرند اطلاعات را دست‌کاری کنند و دیگران را فریب دهند. هوش مصنوعی خود را در جنبه‌های مختلف زندگی معاصر، از ساده‌سازی وظایف روزانه گرفته تا مقابله با مسائل پیچیده جهانی، جای داده است.

مدل‌های هوش مصنوعی در برابر توهمات و خطاهای بصری که ذهن انسان را فریب می‌دهند، چه واکنشی نشان می‌دهند؟ پژوهشگران آزمایش‌هایی را ترتیب داده‌اند که باعث ایجاد خطای دید می‌شود و نتایج این آزمایش‌ها، جنبه‌های جالبی از AI را آشکار کرد.

یک مطالعه جدید روند نگران کننده یادگیری سیستم های هوش مصنوعی برای فریب دادن انسان ها را بررسی می کند. محققان دریافتند که سیستم‌های هوش مصنوعی مانند Meta’s CICERO که برای بازی‌های مختلف توسعه پیدا کرده اند؛ اما اهداف آموزشی، معمولا آن را به عنوان یک استراتژی برتر قلمداد می کنند.

آیا از اینکه هوش مصنوعی از کنترل خارج شده و دست به فریب انسان بزند، باید هراس داشت؟ نتایج یک مطالعه جدید نشان می‌دهد که ...

در حالی که پارک و همکارانش فکر می‌کنند جامعه علمی هنوز اقدام مناسبی برای رسیدگی به فریب هوش مصنوعی انجام نداده است

هوش مصنوعی در مدت کوتاهی توانست به بحث داغی بین مردمان تبدیل شود. قابلیت‌ها و توانایی‌های حیرت‌انگیز این ابزار پیشرفته نگرانی‌هایی به‌وجود آورده است؛ اینکه هوش مصنوعی آیا می‌تواند فریبکاری کند؟

هوش مصنوعی در مدت کوتاهی توانست به بحث داغی بین مردمان تبدیل شود. قابلیت‌ها و توانایی‌های حریت‌انگیز این ابزار پیشرفته نگرانی‌هایی را به‌وجود آورده است. اینکه هوش مصنوعی آیا می‌تواند فریبکاری کند؟

محققان هشدار می‌دهند که سیستم‌های هوش مصنوعی حتی آنهایی که برای راستگویی و مفید بودن طراحی شده‌اند، یاد گرفته‌اند چگونه انسان‌ها را فریب دهند.

محققان در پژوهش خود مدل GPT-4 و CICERO متا را مورد بررسی قرار دادند.

تحقیقی جدید حاکی از آن است که سیستم‌های هوش مصنوعی برخلاف تصورات می‌توانند فریبکارانه عمل کنند و انسان‌ها را گول بزنند. به نقل از گیزموچاینا، به نظر می‌رسد محققان MIT سعی دارند درباره هوش مصنوعی فریبکار هشدار دهند. تحقیقی جدید نشان می‌دهد سیستم‌های هوش مصنوعی که طوری طراحی شده‌اند تا صادق باشند، اکنون …

فریب انسان محققان در پژوهش خود مدل GPT-4 و CICERO متا را مورد بررسی قرار دادند. محققان در پژوهش خود متا را مورد بررسی قرار دادند.

شفقنا- «دیپ‌فیک» صوت، تصویر و فیلم‌هایی درباره افراد و مکان‌ها و موقعیت‌های واقعی است که توسط هوش مصنوعی برای فریب مخاطب تولید می‌شود. شرکت‌های فناوری به منظور جلوگیری از تاثیرگذاری دیپ‌فیک‌ها روی انتخابات‌های پیش رو در سراسر جهان، شروع به نشان‌گذاری آنها کرده‌اند. به گزارش شفقنا از سیتنا، این اقدامات …

محققان در پژوهش خود مدل GPT-4 و CICERO متا را مورد بررسی قرار دادند.

محققان در مورد پتانسیل سیستم‌های هوش مصنوعی برای درگیر شدن در رفتارهای فریبنده هشدار می‌دهند و می‌گویند هوش مصنوعی می‌تواند پیامدهای اجتماعی جدی داشته باشد. آن‌ها بر نیاز به اقدامات نظارتی قوی برای مدیریت مؤثر این خطرات تاکید می‌کنند.

«دیپ‌فیک» [جعل عمیق] صوت، تصویر و فیلم‌هایی درباره افراد و مکان‌ها و موقعیت‌های واقعی است که توسط هوش مصنوعی برای فریب مخاطب تولید می‌شود. شرکت‌های فناوری به منظور جلوگیری از تاثیرگذاری دیپ‌فیک‌ها روی انتخابات‌های پیش رو در سراسر جهان، شروع به نشان‌گذاری

محققان در پژوهش جدید خود متوجه فریب‌کاری و دروغ سیستم‌های هوش مصنوعی شده‌اند. این می‌تواند زنگ خطری برای آینده بشریت باشد.

آیا از اینکه هوش مصنوعی از کنترل خارج شده و دست به فریب انسان بزند، باید هراس داشت؟ نتایج یک مطالعه جدید نشان می‌دهد که این اتفاق هم‌اکنون در حال رخ دادن است.

این روزها مقالات و یادداشت‌های زیادی در رسانه‌های متعدد جهان در خصوص هوش مصنوعی و کارکرد آن منتشر می‌شود. مخرج مشترک این مقالات، حتی آن‌هایی که هوش مصنوعی را صرفا یک فرصت می‌دانند، نگرانی نسبت به از دست رفتن مدیریت آن توسط انسان‌هاست. سؤال اصل اینجاست که هوش مصنوعی چگونه می‌تواند علیه سازنده خود، یعنی

آیا از اینکه هوش مصنوعی از کنترل خارج شده و دست به فریب انسان بزند، باید هراس داشت؟ نتایج یک مطالعه جدید نشان می‌دهد که این اتفاق هم‌اکنون در حال رخ دادن است.

شفقنا آینده- محققان نمونه‌هایی از سیستم‌های هوش مصنوعی را پیدا کرده‌اند که در تست‌ها از حریفان عبور می‌کنند، بلوف می‌زنند، وانمود می‌کنند که انسان هستند و رفتار خود را اصلاح می‌کنند. به گزارش شفقنا از گاردین، آنها می‌توانند در بازی‌های رومیزی انسان‌ها را گول بزنند، ساختار پروتئین‌ها را رمزگشایی کنند …

رئیس شورای هماهنگی تبلیغات اسلامی استان کردستان گفت: با وجود مدیریت فراگیر رسانه و گنبد آهنین امپراتوری فریب و دروغ در غرب توسط رسانه‌ها و کمپانی‌های فیلمسازی نظیر هالیوود و بهره‌گیری از آخرین دستاوردهای رسانه‌ای در فضای مجازی نظیر هوش مصنوعی و نظریه‌پردازی اندیشمندان لیبرال به جهت اقنای افکار عمومی …

ساخت تبلیغات با هوش مصنوعی می‌تواند زمینه را برای فریب خریداران و سوء استفاده توسط فروشندگان فراهم سازد.

کارشناسان مایکروسافت با پیش‌بینی نگرانی‌هایی که ممکن است مردم داشته باشند، گفتند: «VASA-۱ به منظور ایجاد محتوایی که برای گمراه کردن یا فریب استفاده می‌شود طراحی نشده است. با این حال، مانند سایر تکنیک‌های مشابه تولید محتوا، همچنان می‌توان از آن برای جعل هویت انسان‌ها سوء استفاده کرد».

دیپ فیک صدای رییس جمهور آمریکا دردسرساز شده است. تماس های رباتیک با این صوت از حدود ۲۵ هزار رای دهنده یک ایالت خواسته تا در انتخابات مقدماتی شرکت نکنند.

امیر سرلشکر موسوی فرمانده کل ارتش از آخرین دستاوردهای هوانیروز، جهاد خودکفایی، مرکز تولید، بهینه‌سازی و نوسازی شهید زرهرن و صنایع یاعلی (ع) که در نمایشگاه هوانیروز ارتش به نمایش درآمده است، بازدید کرد. به گزارش حوزه دفاعی ایرنا، امیر لشکر سید عبدالرحیم موسوی فرمانده کل ارتش، امیر سرتیپ کیومرث حیدری …