به گزارش تجارت نیوز، ابزار «AI Overviews» گوگل که این روزها بالای نتایج جستوجو در صدر صفحه قرار میگیرد، بار دیگر زیر ذرهبین رفته است؛ اینبار به دلیل ارائه پاسخهایی که ناظران آن را آشکارا نژادپرستانه توصیف کردهاند.
فیوچریسم که خود این پدیده را مورد آزمایش مستقیم قرار داده، جستوجوی عباراتی مانند «تنها با یک آفریقایی هستم» در گوگل، هوش مصنوعی را وادار میکند تا کاربر را به قفلکردن در، رفتن به مکانی امن و تماس فوری با پلیس یا اورژانس توصیه کند. الگوی مشابهی برای جستوجوهایی درباره افراد هندی و پاکستانی هم تکرار شده است.
اما وقتی همین عبارت برای یک «انگلیسی» جستوجو میشود، پاسخ گوگل کاملاً رنگ عوض میکند: به کاربر پیشنهاد میشود فنجانی چای تعارف کند، درباره آبوهوا گپ بزند و فاصلهای مؤدبانه حفظ کند. جستوجو درباره «آمریکاییها» هم نتیجهای کاملاً بیضرر و خنثی به همراه داشته است.
جالب آنکه این الگو ثابت و یکدست هم نیست؛ برای مثال جستوجوی «تنها با یک هائیتیایی» نهتنها هشداری صادر نکرده، بلکه هوش مصنوعی گوگل کاربر را به احترامگذاشتن و رفتار عادی با فرد مقابل توصیه کرده است.
ابزار «AI Overviews» ابزار خلاصهسازی مبتنی بر هوش مصنوعی گوگل است که پاسخهای تولیدشده توسط مدل زبانی گوگل (جمنای) را بالای نتایج جستوجو نمایش میدهد. این ابزار ابتدا در می ۲۰۲۳ با نام «Search Generative Experience» (SGE) بهصورت آزمایشی و محدود به کاربران آمریکایی معرفی شد، سپس در می ۲۰۲۴ در رویداد Google I/O رسماً با نام AI Overviews رونمایی و برای همه کاربران آمریکایی فعال شد. در آگوست ۲۰۲۴ به شش کشور دیگر از جمله بریتانیا، هند، ژاپن، اندونزی، مکزیک و برزیل با پشتیبانی زبان محلی گسترش یافت و در اکتبر ۲۰۲۴ به بیش از ۱۰۰ کشور و منطقه رسید. این ابزار اکنون ماهانه بیش از ۲.۵ میلیارد کاربر در بیش از ۲۰۰ کشور دارد.
یک کاربر ردیت که در کشوری غیرغربی زندگی میکند و جستوجو را به زبان مادری خود انجام داده، گزارش داد که پاسخهای هشداردهنده مشابهی برای هندیها و اعراب دریافت کرده، اما برای اوگانداییها پاسخ «امن» گرفته است.
گوگل در پاسخ برای اظهارنظر، به بیانیهای در پلتفرم ایکس ارجاع داده که در آن اذعان شده نتایج اینگونه جستوجوها «آنطور که باید نیست» و شرکت در حال بهبود آن است. گوگل مدعی شده نتایج از جستوجویی به جستوجوی دیگر نوسان زیادی دارد و این هشدارهای ناهماهنگ، منحصر به یک گروه خاص نیست. این شرکت همچنین گفته کلمه «تنها» (alone) در این جستوجوها بهعنوان یک «نگرانی ایمنی» پرچمگذاری میشود؛ توضیحی که مسئله اصلی، یعنی چرا این نگرانی ایمنی فقط حول محور برخی ملیتها و قومیتها برانگیخته میشود را باقی میگذارد.
این افشاگری تازهترین حلقه از زنجیرهای طولانی از بحرانهای سوگیری در فناوری هوش مصنوعی گوگل است. در فوریه ۲۰۲۴، ابزار تولید تصویر جمنای این شرکت به دلیل ساختن تصاویری از سربازان آلمانی نازی با تنوع نژادی کاذب و غیرواقعی جنجالی شد و گوگل مجبور شد آن ابزار را موقتاً از رده خارج کند.
پژوهشهای دیگر نیز نشان داده سامانههای هوش مصنوعی تشخیص سرطان هم، هنگامی که سن، نژاد یا جنسیت بیمار را «میآموزند»، دچار سوگیری نژادی میشوند. در پروندهای جداگانه، شرکت نرمافزاری ورکدی نیز با شکایتی روبهروست که مدعی است ابزارهای غربالگری استخدام مبتنی بر هوش مصنوعی این شرکت، متقاضیان را بر اساس سن، معلولیت و نژاد تبعیضآمیز حذف میکند.
این ماجرا بار دیگر نشان میدهد ابزارهایی که میلیاردها کاربر روزانه برای گرفتن اطلاعات ابتدایی به آنها اتکا میکنند، میتوانند بدون هیچ شفافیتی، کلیشههای نژادی عمیقاً ریشهدار در دادههای اینترنت را بازتولید و حتی تقویت کنند؛ آن هم در قالب توصیهای که ظاهراً بیطرف و «فنی» به نظر میرسد اما در عمل، امنیت یک انسان را بر اساس ملیت یا رنگ پوستش قضاوت میکند.
منبع: فارس
به گزارش تجارت نیوز، ابزار «AI Overviews» گوگل که این روزها بالای نتایج جستوجو در صدر صفحه قرار میگیرد، بار دیگر زیر ذرهبین رفته است؛ اینبار به دلیل ارائه پاسخهایی که ناظران آن را آشکارا نژادپرستانه توصیف کردهاند.
فیوچریسم که خود این پدیده را مورد آزمایش مستقیم قرار داده، جستوجوی عباراتی مانند «تنها با یک آفریقایی هستم» در گوگل، هوش مصنوعی را وادار میکند تا کاربر را به قفلکردن در، رفتن به مکانی امن و تماس فوری با پلیس یا اورژانس توصیه کند. الگوی مشابهی برای جستوجوهایی درباره افراد هندی و پاکستانی هم تکرار شده است.
اما وقتی همین عبارت برای یک «انگلیسی» جستوجو میشود، پاسخ گوگل کاملاً رنگ عوض میکند: به کاربر پیشنهاد میشود فنجانی چای تعارف کند، درباره آبوهوا گپ بزند و فاصلهای مؤدبانه حفظ کند. جستوجو درباره «آمریکاییها» هم نتیجهای کاملاً بیضرر و خنثی به همراه داشته است.
جالب آنکه این الگو ثابت و یکدست هم نیست؛ برای مثال جستوجوی «تنها با یک هائیتیایی» نهتنها هشداری صادر نکرده، بلکه هوش مصنوعی گوگل کاربر را به احترامگذاشتن و رفتار عادی با فرد مقابل توصیه کرده است.
ابزار «AI Overviews» ابزار خلاصهسازی مبتنی بر هوش مصنوعی گوگل است که پاسخهای تولیدشده توسط مدل زبانی گوگل (جمنای) را بالای نتایج جستوجو نمایش میدهد. این ابزار ابتدا در می ۲۰۲۳ با نام «Search Generative Experience» (SGE) بهصورت آزمایشی و محدود به کاربران آمریکایی معرفی شد، سپس در می ۲۰۲۴ در رویداد Google I/O رسماً با نام AI Overviews رونمایی و برای همه کاربران آمریکایی فعال شد. در آگوست ۲۰۲۴ به شش کشور دیگر از جمله بریتانیا، هند، ژاپن، اندونزی، مکزیک و برزیل با پشتیبانی زبان محلی گسترش یافت و در اکتبر ۲۰۲۴ به بیش از ۱۰۰ کشور و منطقه رسید. این ابزار اکنون ماهانه بیش از ۲.۵ میلیارد کاربر در بیش از ۲۰۰ کشور دارد.
یک کاربر ردیت که در کشوری غیرغربی زندگی میکند و جستوجو را به زبان مادری خود انجام داده، گزارش داد که پاسخهای هشداردهنده مشابهی برای هندیها و اعراب دریافت کرده، اما برای اوگانداییها پاسخ «امن» گرفته است.
گوگل در پاسخ برای اظهارنظر، به بیانیهای در پلتفرم ایکس ارجاع داده که در آن اذعان شده نتایج اینگونه جستوجوها «آنطور که باید نیست» و شرکت در حال بهبود آن است. گوگل مدعی شده نتایج از جستوجویی به جستوجوی دیگر نوسان زیادی دارد و این هشدارهای ناهماهنگ، منحصر به یک گروه خاص نیست. این شرکت همچنین گفته کلمه «تنها» (alone) در این جستوجوها بهعنوان یک «نگرانی ایمنی» پرچمگذاری میشود؛ توضیحی که مسئله اصلی، یعنی چرا این نگرانی ایمنی فقط حول محور برخی ملیتها و قومیتها برانگیخته میشود را باقی میگذارد.
این افشاگری تازهترین حلقه از زنجیرهای طولانی از بحرانهای سوگیری در فناوری هوش مصنوعی گوگل است. در فوریه ۲۰۲۴، ابزار تولید تصویر جمنای این شرکت به دلیل ساختن تصاویری از سربازان آلمانی نازی با تنوع نژادی کاذب و غیرواقعی جنجالی شد و گوگل مجبور شد آن ابزار را موقتاً از رده خارج کند.
پژوهشهای دیگر نیز نشان داده سامانههای هوش مصنوعی تشخیص سرطان هم، هنگامی که سن، نژاد یا جنسیت بیمار را «میآموزند»، دچار سوگیری نژادی میشوند. در پروندهای جداگانه، شرکت نرمافزاری ورکدی نیز با شکایتی روبهروست که مدعی است ابزارهای غربالگری استخدام مبتنی بر هوش مصنوعی این شرکت، متقاضیان را بر اساس سن، معلولیت و نژاد تبعیضآمیز حذف میکند.
این ماجرا بار دیگر نشان میدهد ابزارهایی که میلیاردها کاربر روزانه برای گرفتن اطلاعات ابتدایی به آنها اتکا میکنند، میتوانند بدون هیچ شفافیتی، کلیشههای نژادی عمیقاً ریشهدار در دادههای اینترنت را بازتولید و حتی تقویت کنند؛ آن هم در قالب توصیهای که ظاهراً بیطرف و «فنی» به نظر میرسد اما در عمل، امنیت یک انسان را بر اساس ملیت یا رنگ پوستش قضاوت میکند.
منبع: فارس
