دنده عقب غول‌های فناوری در کاهش آلایندگی هوا

به گزارش تجارت نیوز، هند پس از شناسایی الگویی تازه در کلاهبرداری‌های آنلاین، از گوگل خواسته است صدها حساب در سرویس «فایربیس» را که برای جعل هویت بانک‌ها و سرقت اطلاعات کاربران استفاده می‌شدند، مسدود کند.

مرکز هماهنگی جرایم سایبری هند در ماه اوت دست‌کم ۵۷ وب‌سایت و پایگاه داده میزبانی‌شده روی فایربیس را برای حذف به گوگل معرفی کرده است. این صفحات برای توزیع بدافزار و سرقت اطلاعات حساسی مانند اطلاعات کارت بانکی و رمزهای یک‌بارمصرف به کار می‌رفتند. گوگل طبق درخواست‌های رسمی باید لینک‌های مشخص‌شده را ظرف سه ساعت حذف کند.

بخشی از این صفحات با تقلید از وب‌سایت بانک‌های بزرگ هند، از جمله بانک دولتی هند، آی‌سی‌آی‌سی‌آی و اَکسس، کاربران را فریب می‌دادند. در برخی موارد نیز کلاهبرداران اپلیکیشن‌هایی شبیه خدمات بانکی یا برنامه‌های دولتی می‌ساختند و قربانی را به نصب آن‌ها ترغیب می‌کردند.

یکی از روش‌های شناسایی‌شده، سوءاستفاده از برنامه کمک‌هزینه کشاورزی «پی‌ام-کیسان» بود؛ کلاهبرداران به کاربران وعده دریافت کمک مالی می‌دادند و از آن‌ها می‌خواستند اپلیکیشنی نصب کنند. پس از نصب، اطلاعات گوشی به پایگاه داده مهاجمان منتقل می‌شد و بدافزار می‌توانست به سایر برنامه‌ها و اطلاعات مالی قربانی دسترسی پیدا کند.

دولت هند در سال ۲۰۲۵ حدود ۲.۴ میلیارد دلار خسارت ناشی از کلاهبرداری سایبری را گزارش کرده و هم‌زمان با رشد پرداخت‌های دیجیتال، فشار برای مقابله با این حملات افزایش یافته است.

گوگل اعلام کرده است که سیاست‌های سخت‌گیرانه‌ای علیه فیشینگ، بدافزار و کلاهبرداری مالی دارد و برای بررسی و حذف موارد سوءاستفاده با نهادهای قانونی همکاری می‌کند.

منبع: فارس

به گزارش تجارت نیوز، ابزار «AI Overviews» گوگل که این روزها بالای نتایج جست‌وجو در صدر صفحه قرار می‌گیرد، بار دیگر زیر ذره‌بین رفته است؛ این‌بار به دلیل ارائه پاسخ‌هایی که ناظران آن را آشکارا نژادپرستانه توصیف کرده‌اند.

فیوچریسم که خود این پدیده را مورد آزمایش مستقیم قرار داده، جست‌وجوی عباراتی مانند «تنها با یک آفریقایی هستم» در گوگل، هوش مصنوعی را وادار می‌کند تا کاربر را به قفل‌کردن در، رفتن به مکانی امن و تماس فوری با پلیس یا اورژانس توصیه کند. الگوی مشابهی برای جست‌وجوهایی درباره افراد هندی و پاکستانی هم تکرار شده است.

اما وقتی همین عبارت برای یک «انگلیسی» جست‌وجو می‌شود، پاسخ گوگل کاملاً رنگ عوض می‌کند: به کاربر پیشنهاد می‌شود فنجانی چای تعارف کند، درباره آب‌وهوا گپ بزند و فاصله‌ای مؤدبانه حفظ کند. جست‌وجو درباره «آمریکایی‌ها» هم نتیجه‌ای کاملاً بی‌ضرر و خنثی به همراه داشته است.

جالب آنکه این الگو ثابت و یکدست هم نیست؛ برای مثال جست‌وجوی «تنها با یک هائیتیایی» نه‌تنها هشداری صادر نکرده، بلکه هوش مصنوعی گوگل کاربر را به احترام‌گذاشتن و رفتار عادی با فرد مقابل توصیه کرده است.

ابزار «AI Overviews» ابزار خلاصه‌سازی مبتنی بر هوش مصنوعی گوگل است که پاسخ‌های تولیدشده توسط مدل زبانی گوگل (جمنای) را بالای نتایج جست‌وجو نمایش می‌دهد. این ابزار ابتدا در می ۲۰۲۳ با نام «Search Generative Experience» (SGE) به‌صورت آزمایشی و محدود به کاربران آمریکایی معرفی شد، سپس در می ۲۰۲۴ در رویداد Google I/O رسماً با نام AI Overviews رونمایی و برای همه کاربران آمریکایی فعال شد. در آگوست ۲۰۲۴ به شش کشور دیگر از جمله بریتانیا، هند، ژاپن، اندونزی، مکزیک و برزیل با پشتیبانی زبان محلی گسترش یافت و در اکتبر ۲۰۲۴ به بیش از ۱۰۰ کشور و منطقه رسید. این ابزار اکنون ماهانه بیش از ۲.۵ میلیارد کاربر در بیش از ۲۰۰ کشور دارد.

یک کاربر ردیت که در کشوری غیرغربی زندگی می‌کند و جست‌وجو را به زبان مادری خود انجام داده، گزارش داد که پاسخ‌های هشداردهنده مشابهی برای هندی‌ها و اعراب دریافت کرده، اما برای اوگاندایی‌ها پاسخ «امن» گرفته است.

گوگل در پاسخ برای اظهارنظر، به بیانیه‌ای در پلتفرم ایکس ارجاع داده که در آن اذعان شده نتایج این‌گونه جست‌وجوها «آن‌طور که باید نیست» و شرکت در حال بهبود آن است. گوگل مدعی شده نتایج از جست‌وجویی به جست‌وجوی دیگر نوسان زیادی دارد و این هشدارهای ناهماهنگ، منحصر به یک گروه خاص نیست. این شرکت همچنین گفته کلمه «تنها» (alone) در این جست‌وجوها به‌عنوان یک «نگرانی ایمنی» پرچم‌گذاری می‌شود؛ توضیحی که مسئله اصلی، یعنی چرا این نگرانی ایمنی فقط حول محور برخی ملیت‌ها و قومیت‌ها برانگیخته می‌شود را باقی می‌گذارد.

این افشاگری تازه‌ترین حلقه از زنجیره‌ای طولانی از بحران‌های سوگیری در فناوری هوش مصنوعی گوگل است. در فوریه ۲۰۲۴، ابزار تولید تصویر جمنای این شرکت به دلیل ساختن تصاویری از سربازان آلمانی نازی با تنوع نژادی کاذب و غیرواقعی جنجالی شد و گوگل مجبور شد آن ابزار را موقتاً از رده خارج کند.

پژوهش‌های دیگر نیز نشان داده سامانه‌های هوش مصنوعی تشخیص سرطان هم، هنگامی که سن، نژاد یا جنسیت بیمار را «می‌آموزند»، دچار سوگیری نژادی می‌شوند. در پرونده‌ای جداگانه، شرکت نرم‌افزاری ورکدی نیز با شکایتی روبه‌روست که مدعی است ابزارهای غربالگری استخدام مبتنی بر هوش مصنوعی این شرکت، متقاضیان را بر اساس سن، معلولیت و نژاد تبعیض‌آمیز حذف می‌کند.

این ماجرا بار دیگر نشان می‌دهد ابزارهایی که میلیاردها کاربر روزانه برای گرفتن اطلاعات ابتدایی به آن‌ها اتکا می‌کنند، می‌توانند بدون هیچ شفافیتی، کلیشه‌های نژادی عمیقاً ریشه‌دار در داده‌های اینترنت را بازتولید و حتی تقویت کنند؛ آن هم در قالب توصیه‌ای که ظاهراً بی‌طرف و «فنی» به نظر می‌رسد اما در عمل، امنیت یک انسان را بر اساس ملیت یا رنگ پوستش قضاوت می‌کند.

منبع: فارس

به گزارش تجارت نیوز، ابزار «AI Overviews» گوگل که این روزها بالای نتایج جست‌وجو در صدر صفحه قرار می‌گیرد، بار دیگر زیر ذره‌بین رفته است؛ این‌بار به دلیل ارائه پاسخ‌هایی که ناظران آن را آشکارا نژادپرستانه توصیف کرده‌اند.

فیوچریسم که خود این پدیده را مورد آزمایش مستقیم قرار داده، جست‌وجوی عباراتی مانند «تنها با یک آفریقایی هستم» در گوگل، هوش مصنوعی را وادار می‌کند تا کاربر را به قفل‌کردن در، رفتن به مکانی امن و تماس فوری با پلیس یا اورژانس توصیه کند. الگوی مشابهی برای جست‌وجوهایی درباره افراد هندی و پاکستانی هم تکرار شده است.

اما وقتی همین عبارت برای یک «انگلیسی» جست‌وجو می‌شود، پاسخ گوگل کاملاً رنگ عوض می‌کند: به کاربر پیشنهاد می‌شود فنجانی چای تعارف کند، درباره آب‌وهوا گپ بزند و فاصله‌ای مؤدبانه حفظ کند. جست‌وجو درباره «آمریکایی‌ها» هم نتیجه‌ای کاملاً بی‌ضرر و خنثی به همراه داشته است.

جالب آنکه این الگو ثابت و یکدست هم نیست؛ برای مثال جست‌وجوی «تنها با یک هائیتیایی» نه‌تنها هشداری صادر نکرده، بلکه هوش مصنوعی گوگل کاربر را به احترام‌گذاشتن و رفتار عادی با فرد مقابل توصیه کرده است.

ابزار «AI Overviews» ابزار خلاصه‌سازی مبتنی بر هوش مصنوعی گوگل است که پاسخ‌های تولیدشده توسط مدل زبانی گوگل (جمنای) را بالای نتایج جست‌وجو نمایش می‌دهد. این ابزار ابتدا در می ۲۰۲۳ با نام «Search Generative Experience» (SGE) به‌صورت آزمایشی و محدود به کاربران آمریکایی معرفی شد، سپس در می ۲۰۲۴ در رویداد Google I/O رسماً با نام AI Overviews رونمایی و برای همه کاربران آمریکایی فعال شد. در آگوست ۲۰۲۴ به شش کشور دیگر از جمله بریتانیا، هند، ژاپن، اندونزی، مکزیک و برزیل با پشتیبانی زبان محلی گسترش یافت و در اکتبر ۲۰۲۴ به بیش از ۱۰۰ کشور و منطقه رسید. این ابزار اکنون ماهانه بیش از ۲.۵ میلیارد کاربر در بیش از ۲۰۰ کشور دارد.

یک کاربر ردیت که در کشوری غیرغربی زندگی می‌کند و جست‌وجو را به زبان مادری خود انجام داده، گزارش داد که پاسخ‌های هشداردهنده مشابهی برای هندی‌ها و اعراب دریافت کرده، اما برای اوگاندایی‌ها پاسخ «امن» گرفته است.

گوگل در پاسخ برای اظهارنظر، به بیانیه‌ای در پلتفرم ایکس ارجاع داده که در آن اذعان شده نتایج این‌گونه جست‌وجوها «آن‌طور که باید نیست» و شرکت در حال بهبود آن است. گوگل مدعی شده نتایج از جست‌وجویی به جست‌وجوی دیگر نوسان زیادی دارد و این هشدارهای ناهماهنگ، منحصر به یک گروه خاص نیست. این شرکت همچنین گفته کلمه «تنها» (alone) در این جست‌وجوها به‌عنوان یک «نگرانی ایمنی» پرچم‌گذاری می‌شود؛ توضیحی که مسئله اصلی، یعنی چرا این نگرانی ایمنی فقط حول محور برخی ملیت‌ها و قومیت‌ها برانگیخته می‌شود را باقی می‌گذارد.

این افشاگری تازه‌ترین حلقه از زنجیره‌ای طولانی از بحران‌های سوگیری در فناوری هوش مصنوعی گوگل است. در فوریه ۲۰۲۴، ابزار تولید تصویر جمنای این شرکت به دلیل ساختن تصاویری از سربازان آلمانی نازی با تنوع نژادی کاذب و غیرواقعی جنجالی شد و گوگل مجبور شد آن ابزار را موقتاً از رده خارج کند.

پژوهش‌های دیگر نیز نشان داده سامانه‌های هوش مصنوعی تشخیص سرطان هم، هنگامی که سن، نژاد یا جنسیت بیمار را «می‌آموزند»، دچار سوگیری نژادی می‌شوند. در پرونده‌ای جداگانه، شرکت نرم‌افزاری ورکدی نیز با شکایتی روبه‌روست که مدعی است ابزارهای غربالگری استخدام مبتنی بر هوش مصنوعی این شرکت، متقاضیان را بر اساس سن، معلولیت و نژاد تبعیض‌آمیز حذف می‌کند.

این ماجرا بار دیگر نشان می‌دهد ابزارهایی که میلیاردها کاربر روزانه برای گرفتن اطلاعات ابتدایی به آن‌ها اتکا می‌کنند، می‌توانند بدون هیچ شفافیتی، کلیشه‌های نژادی عمیقاً ریشه‌دار در داده‌های اینترنت را بازتولید و حتی تقویت کنند؛ آن هم در قالب توصیه‌ای که ظاهراً بی‌طرف و «فنی» به نظر می‌رسد اما در عمل، امنیت یک انسان را بر اساس ملیت یا رنگ پوستش قضاوت می‌کند.

منبع: فارس